Dans un secteur de l’intelligence artificielle qui évolue à très grande vitesse, l’AI Safety Index – Summer 2025 du Future of Life Institute évalue la capacité des principaux acteurs à maîtriser les risques liés aux systèmes d’IA avancés. Son constat est préoccupant : des lacunes importantes subsistent dans l’évaluation des risques, la protection de la vie privée et la gouvernance.
Aucune des sept entreprises évaluées n’obtient la meilleure note. La plupart présentent encore des vulnérabilités significatives face aux risques immédiats comme aux risques de long terme.
Les principaux enseignements
- Évaluation des risques et cadres de sécurité : les dispositifs restent insuffisants pour traiter de manière systématique les risques de sécurité et de confidentialité, notamment lorsque les modèles manipulent des données sensibles.
- Gouvernance et responsabilité : les structures de contrôle, les mécanismes d’audit et l’attribution claire des responsabilités ne suivent pas toujours le rythme du développement technologique.
- Vie privée et protection des données : les modèles reposent sur d’immenses jeux de données, parfois composés d’informations personnelles. Sans garanties solides, le risque d’utilisation abusive, de fuite ou d’accès non autorisé augmente.
Quand la sécurité de l’IA rejoint la cybersécurité
La sécurité de l’IA n’est pas un sujet distinct de la cybersécurité. À mesure que ces systèmes gagnent en autonomie et en complexité, ils créent de nouvelles surfaces d’attaque et de nouveaux scénarios de manipulation. Les intégrer dans la santé, la finance ou l’éducation exige donc des protections capables d’assurer la confidentialité des données, l’intégrité des modèles et la maîtrise des accès.
Une innovation responsable suppose que les contrôles de cybersécurité soient conçus dès le départ, et non ajoutés après le déploiement. Une compromission peut toucher non seulement les données, mais aussi les décisions produites par le système et la confiance de l’ensemble des utilisateurs.
Les priorités d’action
- Renforcer l’évaluation des risques : tester régulièrement les vulnérabilités, documenter les scénarios d’abus et corriger les faiblesses avant la mise en production.
- Protéger les données : appliquer les principes de minimisation, de transparence et de contrôle par les personnes concernées, dans le respect notamment du RGPD et des législations nationales.
- Clarifier la gouvernance : mettre en place des organes de supervision, des audits indépendants et des canaux de signalement explicites.
- Préparer les risques de long terme : prévoir des mécanismes de contrôle, des procédures d’arrêt et des plans de continuité adaptés à des systèmes toujours plus puissants.
Un appel à la responsabilité
L’AI Safety Index 2025 constitue un signal d’alarme pour les entreprises d’IA, les autorités et les professionnels de la cybersécurité. L’IA ouvre des possibilités considérables, mais son adoption ne sera durable que si elle repose sur une sécurité démontrable, une protection réelle de la vie privée et une gouvernance transparente.
La responsabilité est collective : concepteurs, organisations utilisatrices et décideurs publics doivent faire de la confiance une exigence mesurable, et non une simple promesse.