Dans le , le langage est pensé comme image de la réalité. Sur ce mode, tout nom (simple) renvoie directement à un objet (simple), une proposition élémentaire à un état de choses et une proposition complexe à un fait. La vérité ou (la fausseté) d’une proposition dépend de la vérité (ou de la fausseté) des propositions élémentaires qui la constituent. Toute proposition douée de sens ne peut donc être que factuelle. Les propositions de la logique sont elles-mêmes du coup vides de sens. Et Wittgenstein place aussi hors du dicible l’éthique, l’esthétique, et les tentatives d’explication du monde et de son sens : n’étant pas factuelles, elles sont dépourvues de sens, elles ne peuvent que « montrer ». Et les propositions du lui-même ? Wittgenstein n’est pas moins intraitable : « Mes propositions sont des éclaircissements en ceci que celui qui me comprend les reconnaît à la fin comme dépourvues de sens, lorsque par leur moyen – en passant sur elles – il les a surmontées (il doit pour ainsi dire jeter l’échelle après y être monté) » (). Et c’est sur un appel au silence sur ce que l’on ne peut dire que s’achève l’ouvrage.

Sur ce, Wittgenstein donne congé à la philosophie. En Autriche, il devient tour à tour instituteur, jardinier, architecte… avant d’être repris par ses vieux démons et de revenir à Cambridge. Il donne alors une nouvelle inflexion à sa pensée. Il abandonne l’analyse logique du langage au profit d’une approche plus descriptive de ce qu’il appelle les « jeux de langage », fictifs ou réels, comme rapporter un événement, deviner des énigmes, traduire d’une langue dans une autre, raconter une plaisanterie (voir ainsi une liste d’exemples donnée dans les ). La signification d’un mot n’est pas à chercher dans un objet qu’il représenterait et que l’on pourrait pointer du doigt, elle est déterminée par les règles de son usage. Le langage est, comme tout jeu, guidé par des règles qui déterminent ce qui fait sens ou non et il s’inscrit dans nos pratiques. Pas de théorie générale du langage, de la société ou de l’esprit humain, mais bien plutôt des remarques sur l’usage ordinaire ou possible de tel ou tel mot (par exemple « savoir », « comprendre », etc.) ou des expériences de pensée dans lesquelles les règles du jeu de langage seraient différentes. Wittgenstein aborde par ce biais des problèmes très divers : des règles mathématiques aux langages de couleurs en passant par la compréhension des rites ou des concepts psychologiques…

Il montre ainsi que les processus et les contenus mentaux (les intentions, les sensations…) font l’objet de nombreuses confusions. Pour lui, l’idée que le sujet a seul accès à ce qu’il pense ou à ce qu’il ressent est un préjugé qui repose sur un malentendu grammatical. Il n’y a pas de langage privé, pas d’acte de l’esprit qui associe un signe et une expérience intérieure. D’où une forte critique de l’introspection si chère à Descartes et du « mythe de l’intériorité » (Jacques Bouveresse). Wittgenstein dénonce également la conception qui fait de l’action volontaire l’effet d’une cause mentale. Pour en pointer l’absurdité, il pose la question suivante : « Que reste-t-il donc quand je soustrais le fait que mon bras se lève du fait que je lève le bras ? » Des réflexions que prolongeront Elisabeth Anscombe ou Anthony Kenny : l’intention n’est pas un état interne du sujet ou de l’agent, autrement dit quelque chose qui serait directement connu par le sujet et qui serait donné quel que soit le contexte.

Le « style » du Wittgenstein seconde manière n’est pas moins déconcertant que celui du  : ce sont des réflexions et des remarques principalement « grammaticales » qui semblent manquer de hauteur philosophique. En réalité, la « grammaire », autrement dit les règles d’un jeu de langage, la manière dont on utilise les mots, est au cœur de la question du rapport du langage au réel. Pour Wittgenstein, il y a une autonomie de la grammaire (Baker et Hacker) au sens où les règles sont arbitraires et ne peuvent pas être justifiées par la réalité ni entrer en conflit avec elle. Cela ne veut pas dire que tout jeu de langage est possible. Si on ne peut décrire la manière dont le langage est contraint par la réalité, cela ne veut pas dire qu’il n’est pas limité par elle. Mais on ne peut pas justifier ni expliquer les règles grammaticales, on ne peut que les décrire.

Pour Wittgenstein, la règle ne fixe pas une fois pour toutes ses applications futures comme des rails. Elle ne donne pas lieu non plus à chaque fois à une interprétation. Suivre une règle pour Wittgenstein est chose pratique, et non l’application d’un processus mental. Comprendre une règle, c’est savoir comment l’appliquer, autrement dit savoir ce qui compte comme une infraction ou une action conforme à la règle. « Dis-tu donc que l’accord entre les hommes décide du vrai et du faux ?

— C’est ce que les hommes disent qui est vrai et faux ; et c’est dans le langage que les hommes s’accordent. Cet accord n’est pas un consensus d’opinion, mais de forme de vie. » () C’est à nos pratiques partagées qu’il nous faut sans cesse revenir pour déjouer les chausse-trappes que présente le langage quand il tourne à vide.