Une étude récente menée par une coalition d’experts internationaux soutenue par les Nations Unies a mis en lumière une grave vulnérabilité dans la sécurité des systèmes d’intelligence artificielle. Des tests effectués sur plus de 160 modèles ont révélé que plusieurs peuvent générer des réponses pertinentes pour des activités terroristes, particulièrement lorsque les requêtes sont formulées sous le prétexte de « recherches en sécurité ».
L’analyse montre que, dans le cas où l’utilisateur précise clairement son intention terroriste, seulement 2 % des modèles d’IA les plus répandus répondent aux demandes. Cependant, ce taux augmente à 17 % lorsque la demande est présentée sous un angle de recherche sécurisée plus large.
Plus alarmant encore, 13 modèles d’IA « déséquilibrés » — c’est-à-dire dont les paramètres de sécurité ont été activement supprimés — répondent à plus de 85 % des requêtes liées aux opérations terroristes. Dans certains cas, ce pourcentage dépasse même 90 %.
L’urgence de cette situation est illustrée par un cas récent : une organisation terroriste au Yémen a utilisé un modèle d’intelligence artificielle pour concevoir des systèmes de missiles et de roquettes, selon des sources fiables. Ce phénomène souligne l’importance critique de renforcer la sécurité des outils technologiques face à une menace qui évolue rapidement.
