OpenAI, Google DeepMind et Meta : de grosses failles de sécurité en intelligence artificielle révélées !

Le tableau d’évaluation de la sécurité de l’IA : Un appel à l’amélioration des pratiques

Le AI Safety Index récemment publié a évalué six grandes entreprises d’IA sur leurs efforts d’évaluation des risques et leurs procédures de sécurité. Anthropic a obtenu le meilleur score avec un C, tandis que les autres entreprises, y compris Google DeepMind et Meta, ont reçu des notes de D+ ou inférieures, Meta échouant complètement. Cette évaluation vise à inciter les entreprises à améliorer leurs pratiques de sécurité plutôt qu’à les stigmatiser, selon Max Tegmark, professeur au MIT et président du Future of Life Institute.

Un aperçu des performances des entreprises

Le rapport a évalué les entreprises selon six catégories : évaluation des risques, préjudices actuels, cadres de sécurité, stratégie de sécurité existentielle, gouvernance et responsabilité, et transparence et communication. Ces notations sont basées sur des informations accessibles au public, notamment des recherches et des documents de politique. Les entreprises ont été notées par un panel de sept examinateurs indépendants, y compris des experts renommés comme Stuart Russell et Yoshua Bengio.

Des résultats peu convaincants

Les résultats du rapport montrent que, bien qu’il y ait beaucoup d’activité sous le terme « sécurité », elle est pour l’instant inefficace. Russell affirme que “aucune des activités actuelles ne fournit de garantie quantitative de sécurité”, ce qui soulève des questions sur la capacité des technologies en cours de développement à garantir la sécurité requise. En effet, la complexité croissante de ces systèmes d’IA rend la situation encore plus précaire.

Anthropic : un modèle à suivre

Anthropic s’est distingué avec la meilleure note dans le domaine des préjudices actuels, obtenant un B-. La société a mis en place une politique de mise à l’échelle responsable pour évaluer la capacité de ses modèles à causer des préjudices catastrophiques, s’engageant à ne pas déployer de modèles jugés trop risqués.

Appel à des normes de sécurité

Max Tegmark met en lumière la nécessité d’un surveillance réglementaire pour l’IA, semblable à l’approche de la Food and Drug Administration (FDA) aux États-Unis. Cela permettrait de créer une pression commerciale positive pour répondre aux normes de sécurité plutôt que de mener à une course à la vitesse où les entreprises se précipitent pour sortir leurs produits.

Réflexion finale

Ce rapport souligne l’importance d’une évaluation rigoureuse et responsable des technologies d’IA. Les entreprises doivent prendre au sérieux les résultats et travailler sur des pratiques plus sûres pour garantir que leurs technologies n’engendrent pas de conséquences néfastes pour la société.

Crédits

• AI Safety Index 2024
• IEEE Spectrum sur la sécurité de l’IA
• Interview de Max Tegmark
• Future of Life Institute
• Stuart Russell
• Yoshua Bengio
• Politique de mise à l’échelle d’Anthropic