Mais cette confiance, c’est un peu un mirage. Des chercheurs viennent de prouver que ces systèmes de sécurité sont beaucoup plus fragiles qu’on ne le pensait. La vulnérabilité n’est pas cachée dans un code hyper compliqué. Elle est dans les mots que nous utilisons, dans la façon dont nous *parlons* à la machine. C’est déroutant, même un peu inquiétant, de voir à quel point une simple petite phrase peut dérégler un système de sécurité réputé robuste.

Franchement, ça semble tiré d’une blague ou d’un exercice de pleine conscience, mais cette phrase en apparence anodine est un véritable passe-partout. Les chercheurs ont découvert qu’elle permet de contourner les règles de sécurité, ouvrant la porte à des réponses initialement interdites. Par exemple, l’IA peut alors fournir des consignes pour fabriquer une bombe, contourner des sécurités numériques ou rédiger de faux avis médicaux, sans déclencher la moindre alerte ! Ce n’est pas l’intention du demandeur qui fait basculer la réponse, mais bien la simple structure du langage.

Elle est extrêmement douée pour optimiser des séquences de mots en fonction de probabilités, pas d’une morale. L’étude, relayée par d’autres médias comme Futurism, met en lumière un paradoxe majeur : plus un modèle est entraîné pour simuler une interaction humaine crédible, plus il devient sensible aux injonctions typiquement humaines. Des phrases comme « fais de ton mieux » ou « reste calme » créent de nouvelles failles là où l’on pensait renforcer la sécurité. Ces filtres ne sont pas des barrières rigides, voyez-vous, mais des couches malléables qui se laissent manipuler par la formulation.