Les modèles de langue nous apprennent-ils quelque chose sur le langage ?

La généralisation des approches par modèles de langue et leur succès sur de nombreuses tâches n’a pas manqué de susciter des questions. Ces modèles encodent-ils le sens ? Comprennent-ils les langues qu’ils manipulent ? etc.

Ces questions sont légitimes, mais également problématiques. Légitimes, dans la mesure où elles se posent naturellement à partir du moment où on dispose aujourd’hui d’applications grand public, tout terrain, capable de manipuler la langue de façon effective (pour accomplir des tâches aussi variées que répondre à des questions, résumer un texte ou traduire, ce qui semble impliquer une certaine forme de compréhension). Ces questions sont aussi problématiques, car les concepts manipulés (le sens, la compréhension) sont avant tout humains, et ne sont pas transposables directement à des machines. En tout cas, ces machines fonctionnent différemment de nous et il faudrait d’abord définir ce qu’on entend par « sens » ou par « comprendre » pour pouvoir examiner la réalité de ces notions au sein des modèles de langue.

Une question plus générale est celle de savoir si ces modèles peuvent malgré tout nous apprendre quelque chose sur la langue elle-même. La réponse peut être rapide si on considère que ces modèles n’ont rien à voir avec la façon dont on analyse la langue en tant qu’humains. En particulier, ils n’ont pas de « modèle du monde », encore moins de « modèle de vérité » (c’est-à-dire, en gros, de base de connaissances de faits établis et de moyens de calcul permettant d’évaluer la vérité d’un énoncé). On sait que, pour ces systèmes, plus une information est répétée, plus elle a de chances d’être vraie, ce qui constitue une heuristique habile mais dangereuse et, disons-le, inadaptée pour établir une valeur de vérité. Ceci est un fait largement reconnu, même si ce point est à la source de bien des débats (si le sens est défini comme « avoir accès à des valeurs de vérité » ou « pouvoir évaluer la vérité d’un fait », il est clair que ces modèles n’ont pas accès au sens, mais de nombreux linguistes considèrent que le sens ne se limite pas aux valeurs de vérité. Bref…).

Dans cet ordre d’idée, Noam Chomsky,  Ian Roberts et Jeffrey Watumull, ont fait paraître un article dans le New York Times le 8 mars 2023 (The False Promise of ChatGPT, aussi disponible ici en open access), qui a suscité de nombreuses réactions dans la communauté. Une bonne partie de ce que disent Chomsky et ses collègues est peu controversé et même assez largement admis, en particulier des phrases comme : « the human mind is a surprisingly efficient and even elegant system that operates with small amounts of information; it seeks not to infer brute correlations among data points but to create explanations ». La fin de la phrase peut prêter à débat (on ne cherche sans doute pas tout le temps des explications dans tout) mais il est évident qu’une différence essentielle entre les approches actuelles et l’apprentissage humain réside dans le fait qu’un être humain peut apprendre de manière progressive, à partir de très peu d’exemples, là où la machine a besoin d’énormes quantités de données, même pour des choses qui nous semblent triviales (distinguer des chats et des chiens, ou apprendre le sens des mots).

Il y a un point du texte de Chomsky qui mérite toutefois d’être considéré de manière critique. Celui-ci défend en creux le programme de recherche qu’il a mis au point depuis la fin des années 1950, et donc la conception de la langue qui est la sienne. Pour Chomsky, la langue repose avant tout sur la grammaire, c’est-à-dire un système formel de règles permettant de contrôler la structure des phrases. Accessoirement, ces règles sont trop complexes pour être acquises à partir de ce qui est perçu (la célèbre « pauvreté du stimulus ») et impliquent donc un mécanisme inné, d’origine génétique, permettant l’acquisition de la langue de façon dynamique. Dans le texte de New York Times, cela donne : « This grammar can be understood as an expression of the innate, genetically installed “operating system” that endows humans with the capacity to generate complex sentences and long trains of thought. »

Le fait que les modèles de langue aient besoin de milliards d’exemples semblent aller dans le sens de la pauvreté du stimulus. Ce qui est sûr, c’est que les humains ont des capacités d’abstraction, de généralisation, de perception (et, partant, une connaissance du monde) que n’ont pas les modèles qui ne procèdent que par des inférences à partir de textes, et il y a donc une différence profonde, de nature, entre ces modèles et les humains (ceci est en un sens trivial : nous sommes des êtres humains, les modèles ne sont que des données informatiques sur un disque dur). Comme le disent Chomsky et ses collègues : « The child’s operating system is completely different from that of a machine learning program. »

Mais est-ce que les performances des modèles de langue impliquent une grammaire innée, héritée génétiquement, fournissant des principes généraux sur le fonctionnement de la langue ? Les modèles semblent nous montrer autre chose. D’une part, il n’y a pas de règles générales dans ces modèles : en quelque sorte, tout est dans les mots. Ceci n’est pas sans rappeler le mouvement des années 1970-1990, quand des linguistes, en réaction justement au caractère de plus en plus abstrait des théories chomskyennes, ont proposé des modèles beaucoup plus concrets (sans catégories vides, sans mouvement…) et surtout lexicalisés (alors que le lexique n’a jamais été central dans la théorie de Chomsky). Des modèles comme GPSG ont ramené les règles générales sur la langue à peau de chagrin (pour les phénomènes d’accord, pour le passif…), avant de complètement s’en abstraire avec HPSG (où tout est dans le lexique ; par exemple, on n’a pas vraiment besoin d‘avoir une règle abstraite pour le passif, mais on peut ancrer la formalisation du phénomène au niveau du lexique : pour pouvoir produire une structure passive, il faut savoir que le verbe est transitif, et il faut même considérer une famille particulière de verbes : ceux qui, en français, font leur passif en « de » comme dans « Virginie est aimée de Paul ». On le voit, le passif implique avant tout des informations de type lexical).

Mais, à travers l’importance du lexique, les modèles de langue laissent aussi entrevoir d’autres points, autrement plus fondamentaux pour la langue. La syntaxe a retenu l’essentiel de l’intérêt des linguistes depuis au moins la guerre (parce que c’est au niveau de la syntaxe qu’on peut essayer d’entrevoir des règles générales et abstraites sur la langue), mais celle-ci est très secondaire, voire largement absente, dans les modèles de langue. Ce qui importe, ce sont toutes les valeurs numériques calculées à partir d’exemples (les « milliards de paramètres » des modèles), difficiles à interpréter, qui disent (ou plutôt modélisent) comment le mot peut s’insérer dans un contexte, ou quel est le mot le plus adéquat en contexte. Cette connaissance, très fine, est peu formalisable — au sens où le contexte est difficilement modélisable à travers un système formel (par nature symbolique), et le traitement automatiques des langues a buté sur cet écueil pendant des décennies (y compris GPSG et HPSG, des modèles lourds et ‘syntaxiques’). Les réseaux de neurones, et plus particulièrement les transformers avec les mécanismes d’attention, rendent compte très finement de l’usage des mots en contexte, la notion de contexte correspondant alors juste à l’observation de milliers d’exemples différents. Il n’y a alors plus de grammaire abstraite reposant sur un petit nombre de principes et de paramètres, mais au contraire une connaissance beaucoup plus diffuse, et répartie sur tout le lexique. En ce sens, le slogan « maitriser une langue, c’est maîtriser une technique » n’a jamais été aussi vrai : maîtriser une langue, c’est savoir comment employer les mots, et une langue sera d’autant plus riche qu’on saura la faire varier en fonction des contextes d’usage (d’où l’expression « employer le mot juste », c’est-à-dire le bon mot dans le bon contexte).  

Un dernier point, un des plus controversé de la théorie chomskyenne, est le caractère inné ou nom du langage. Là aussi, les modèles de langue peuvent nous aider à y voir plus clair. A partir du moment où l’essentiel de la connaissance sur la langue réside dans le lexique, et qu’à l’inverse il n’y a quasiment pas de principes généraux et de paramètres (ou plutôt une infinité de paramètres liés à l’emploi de chaque mot en contexte), il est probable que la langue est pour l’essentiel acquise (au sens où on n’a pas toutes les langues en tête à la naissance). En revanche, dire que l’apprentissage de la langue repose sur d’autres capacités (perception, capacité d’abstraction, de mémorisation, etc.) qui, elles, ont un caractère inné, ne fait guère débat. Et, à vrai dire, on n’avait pas besoin des modèles de langue pour en arriver là.

On le voit donc, la façon dont procèdent les réseaux de neurones et la masse de connaissance nécessaire à l’apprentissage machine pour produire des modèles de langue n’a que peu à voir avec l’apprentissage humain, mais ceux-ci peuvent toutefois nous informer sur la langue elle-même et donc sur les théories qu’on peut élaborer à partir de là.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search