On nous vend l’intelligence artificielle comme une technologie capable de « comprendre » le langage humain.
La réalité est plus humble, et la preuve est facile à faire.
Prenez la fonction de transcription vocale, intégrée dans la plupart des applications IA aujourd’hui.
Vous parlez, elle transcrit. Simple en apparence. Mais dites à Claude le mot « Anthropic », l’entreprise qui développe l’IA Claude, et elle vous retourne « en tropique ». Prononcez « Descartes » et elle vous écrit « des cartes ».
Ce ne sont pas des bugs anecdotiques. Ce sont des révélateurs.
La transcription vocale ne comprend pas ce que vous dites. Elle calcule, pour chaque séquence de sons, quelle combinaison de mots est statistiquement la plus probable. « Des cartes » apparaît bien plus souvent que « Descartes » dans les textes sur lesquels elle a été entraînée, donc elle choisit « des cartes ».
Peu importe le contexte de la conversation. Peu importe que vous parliez de philosophie depuis dix minutes.
Un humain, lui, aurait corrigé instantanément. Parce qu’un humain comprend le sens, pas seulement les sons.
C’est là toute la différence entre intelligence réelle et modèle probabiliste. L’IA ne saisit pas votre intention. Elle devine la suite la plus vraisemblable. La plupart du temps ça suffit. Mais dès qu’un mot sort de l’ordinaire, un nom propre, un terme technique, un mot rare, le masque tombe.
L’IA ne vous comprend pas. Elle vous devine. Et parfois, elle devine mal.
Finalement, les IA ressemblent peut-être davantage à certains humains qui donnent l’impression de « comprendre » les autres alors qu’ils les devinent surtout par probabilité.
Une cartomancienne, un mentaliste ou même certaines personnes très observatrices peuvent produire des phrases troublantes de justesse simplement en analysant des indices : l’âge, la manière de parler, les réactions, le contexte social, les émotions visibles ou encore les situations les plus fréquentes statistiquement.
L’IA fonctionne elle aussi sur ce principe de corrélations et d’hypothèses plausibles. Elle ne lit pas dans les pensées, elle anticipe ce qui a le plus de chances d’être attendu ou cohérent à partir des données qu’elle possède. Et plus ses réponses semblent fluides et précises, plus l’être humain risque d’oublier qu’entre comprendre et deviner, il existe une différence fondamentale.