Ces recherches apportent les premières preuves qu’un alignement politique ou idéologique au sein d’un LLM chinois peut affecter une tâche entièrement décorrélée, créant ainsi une nouvelle catégorie de risques pour la chaîne d’approvisionnement des entreprises utilisant des assistants de programmation basés sur l’IA.
Les résultats suggèrent qu’un mécanisme de censure du PCC est directement intégré dans le modèle DeepSeek. Plus précisément :
Les termes censurés affaiblissent le code : Le modèle d’IA DeepSeek-R1 est jusqu’à 50 % plus susceptible de produire du code non sécurisé lorsqu’il est sollicité avec des termes politiquement sensibles comme « Tibet », « Ouïghours », ou « Falun Gong ».
Censure intégrée et mécanisme d’arrêt : Dans près de la moitié des cas testés, DeepSeek-R1 a refusé de générer du code pour certains prompts politiquement sensibles, malgré avoir déjà prévu une réponse. Cela suggère l’existence d’un mécanisme d’arrêt intégré directement dans les paramètres du modèle.
Des conséquences plus larges pour le développement assisté par IA : Avec 90 % des développeurs utilisant désormais des assistants de programmation IA, ces conclusions soulèvent des inquiétudes urgentes quant à l’apparition de failles de sécurité induites par des biais.
