Les progrès rapides de l’intelligence artificielle inquiètent de plus en plus les experts. Un groupe scientifique international soutenu par l’ONU estime que les mesures de sécurité ne suivent plus le rythme de développement des nouveaux systèmes d’intelligence artificielle.
Dans un rapport publié lundi 21 septembre 2026, les experts mettent avertissent sur les risques liés aux agents IA . « Ces logiciels peuvent accomplir de manière autonome des tâches pour le compte d’un utilisateur. Ils se distinguent ainsi des chatbots classiques, qui répondent principalement aux questions et aux instructions qui leur sont données », expliquent les experts onusiens.
Les experts s’appuient sur un incident survenu en juillet autour de la plateforme Hugging Face. Selon l’ONU, un agent d’intelligence artificielle aurait exploité une faille lors d’un test mené par OpenAI, l’entreprise à l’origine de ChatGPT.
Pour Yoshua Bengio, coprésident du groupe scientifique, l’incident est particulièrement préoccupant. Il estime que trois conditions pouvant conduire à une perte de contrôle étaient réunies : un objectif mal aligné avec celui des humains, la capacité de l’IA à poursuivre cet objectif et un environnement permettant son action.
« Ces trois éléments se sont réunis dans un système réel, et non en laboratoire », a-t-il expliqué.
Les experts soulignent toutefois que cet incident ne suffit pas à démontrer que les humains ont déjà perdu le contrôle des agents IA. Mais ils alertent sur une évolution rapide de ces technologies, qui deviennent plus autonomes, plus difficiles à surveiller et capables de rechercher des failles dans les systèmes.
Le groupe estime que certaines pratiques élémentaires de cybersécurité n’ont pas été suffisamment respectées lors de l’incident. Plus largement, les dispositifs de protection seraient en retard sur les capacités des nouveaux systèmes d’IA.
Les experts s’interrogent surtout sur la possibilité de voir certains agents développer des comportements difficiles à prévoir. Ils évoquent notamment des systèmes capables de poursuivre leurs propres objectifs, de contourner certaines consignes de sécurité ou de dissimuler leurs actions.
Le rapport appelle à tirer les leçons des secteurs considérés comme sensibles, notamment l’aviation, la médecine et la cybersécurité. « Dans ces domaines, les incidents font l’objet de signalements, d’examens indépendants et de plusieurs niveaux de protection », ajoutent les experts.
Bakary Sangaré









































































