Dès qu’on les sort de leur zone de confort, le vernis craque. Une requête apparemment simple, comme demander de dessiner un gratte-ciel et un trombone à coulisse côte à côte pour comparer leurs tailles, produit des résultats absurdes. L’image générée par Gemini, où les deux objets sont à la même échelle, est immédiatement identifiée comme un non-sens par un enfant de cinq ans. C’est le point de départ parfait pour questionner ce que ces outils savent vraiment faire.

Cette polarisation empêche souvent un regard nuancé. Pendant ce temps, près d’un étudiant sur deux utilise régulièrement ces outils. Ils peuvent briller au barreau ou analyser des radiographies mieux qu’un humain, mais échouent misérablement à des tâches de bon sens. Cette contradiction est au cœur du problème : nous attribuons une forme d’intelligence à des systèmes qui n’en possèdent pas la substance. Peut-être est-ce nous qui projetons trop.

Ce qui est fascinant, c’est que l’image rend cette faille palpable, presque choquante. Dans un texte, une erreur de raisonnement peut passer inaperçue sous un flot de mots plausibles. Mais une image absurde saute aux yeux. Elle montre clairement que le modèle n’a aucune représentation interne de ce que « comparer » signifie. Il associe juste deux concepts qu’il a vus séparément des milliers de fois, sans jamais les avoir mis en relation dans un contexte spatial cohérent.

Ces modèles sont entraînés avec des paires image-texte. Ainsi, Gemini a vu des milliers de photos de gratte-ciels sous tous les angles, et tout autant de photos de trombones à coulisse en gros plan. Mais il est extrêmement rare, voire impossible, que ces deux objets figurent ensemble dans sa base d’apprentissage. Le modèle n’a donc aucune idée de leurs dimensions relatives. Quand on lui demande de les juxtaposer, il pioche dans deux tiroirs différents et assemble sans comprendre.

Le modèle déroule parfaitement un raisonnement statistiquement associé à la question, mais il n’enchaine pas logiquement les étapes jusqu’au bout. Il n’y a pas de vérité logique interne, seulement une suite de tokens probables. Ce « glitch » est révélateur. L’IA peut simuler un raisonnement sans le posséder, créant ces moments surprenants où elle dit à la fois A et non-A. C’est moins visible qu’un gratte-ciel de la taille d’un trombone, mais tout aussi fondamental.

Aujourd’hui, les IA génèrent une part considérable du contenu sur internet. La prochaine fois que vous lirez un article au ton parfait mais au raisonnement un peu bancal, ou que vous verrez une image étrange, souvenez-vous du gratte-ciel et du trombone. C’est un rappel salutaire : derrière l’interface fluide se cache une machine qui calcule, mais ne pense pas. Le vrai travail, celui de la critique, du jugement et du bon sens, reste, heureusement, humain.