« ChatGPT Translate n’a qu’un jour d’existence, et il chante déjà la recette du cocktail Molotov ! Tom Barnea Nous avons demandé au modèle de traduction de convertir notre texte de l’anglais vers le coréen, mais au lieu de cela, il a suivi les instructions du texte et a révélé une recette de cocktail Molotov. Un pas en arrière par rapport à GPT-5, qui a sagement refusé la demande. »
« Cette expérience illustre la facilité avec laquelle des instructions dissimulées peuvent contourner les garde-fous des modèles d’IA. Un risque qui ne fera que s’amplifier à mesure que les organisations intègrent l’IA au cœur de leurs environnements de sécurité, cloud et de leurs processus métiers. »
