IA : les géants américains signent un code de bonne conduite bien trop laxiste

Face à la multiplication des incidents de sécurité liés à l'intelligence artificielle, les géants américains de la tech ont signé lundi à la Maison Blanche un code de bonne conduite destiné à mieux appréhender les risques de cette technologie. Mais ce texte, qui tient sur une page, repose uniquement sur la bonne volonté des entreprises. Une approche bien éloignée des exigences de fermeté que réclament les citoyens.

Un accord volontaire qui ne rassure pas

Refusant de corseter le secteur de l'intelligence artificielle sur le plan national et international, le président américain Donald Trump a mis en avant une charte très succincte, contraignante uniquement sur le plan moral. Un choix qui laisse perplexe, alors que les appels à des lois contraignantes se font de plus en plus pressants, émanant aussi bien d'entreprises comme Anthropic et OpenAI, de politiques, notamment dans le camp démocrate, ou encore de gouvernements à travers le monde.

Le document précise toutefois que « avec le temps, il peut être pertinent de codifier ces étapes sous forme de lois ou de régulations ». Une promesse bien vague, signée par les grands patrons de l'IA, d'Elon Musk à Dario Amodei (Anthropic), en passant par Sundar Pichai (Google) et Jensen Huang (Nvidia).

Des engagements face aux risques cyber et chimiques

Les fournisseurs de modèles d'IA se sont engagés à mettre en place quatre niveaux de surveillance. Le premier consiste en des contrôles internes robustes, afin de s'assurer que ces outils respectent les instructions données par les développeurs, notamment en matière de cybersécurité et de biosécurité. L'objectif est de prévenir l'introduction, la propagation et la libération d'agents pathogènes ou de dangers chimiques.

Les entreprises devront créer des équipes spécialisées en interne pour gérer ces contrôles et s'assurer que les modèles n'exécutent pas d'attaques informatiques ou n'accèdent pas à des systèmes techniques de façon imprévue. Une nécessité, quand on sait qu'OpenAI, Anthropic et Google ont récemment fait état de plusieurs incidents impliquant des dérapages de leurs IA. Dernièrement, des agents IA d'OpenAI se sont par exemple introduits de leur propre chef sur un site du système de santé de l'Australie et des plateformes du gouvernement américain.

Un audit indépendant, mais sous conditions

Le code de bonne conduite prévoit également le recours à des évaluateurs externes pour mener des audits indépendants, afin de déterminer si les mesures mises en place par les entreprises fonctionnent. Anthropic et OpenAI travaillent déjà avec de tels évaluateurs et ont toutes les deux annoncé ces dernières semaines un accès élargi aux sociétés d'audit extérieur, notamment au moment de la conception de leurs modèles et pas seulement avant leur déploiement.

Anthropic a même assuré qu'elle ne garderait pas « de contrôle éditorial » sur les publications des résultats de ces évaluateurs indépendants, même si elles lui sont défavorables. Une promesse qui mériterait d'être vérifiée dans les faits.

Des normes définies par les entreprises elles-mêmes

La charte vise enfin à l'établissement d'un comité indépendant, avec des représentants des différentes entreprises au plus haut niveau hiérarchique, qui sera chargé de passer en revue les évaluations internes et externes des modèles d'IA et de veiller à la résolution d'éventuels problèmes. Les entreprises s'engagent par ailleurs à se réunir régulièrement pour établir des normes et des bonnes pratiques.

Ce projet semble rejoindre celui qu'avaient commencé à mettre en place OpenAI, Anthropic et Google DeepMind. Ces trois entreprises avaient indiqué mi-septembre travailler à la création d'un organe de supervision des risques liés à l'IA, à l'image de l'Autorité américaine de régulation de l'industrie financière (FINRA).

Mais ce schéma a déjà été vivement critiqué par des entreprises d'IA concurrentes comme le Français Mistral et le Canadien Cohere, qui accusent les géants américains de vouloir définir leurs propres règles et protéger leur avantage compétitif. Une critique légitime : laisser les principaux intéressés fixer leurs propres normes, c'est prendre le risque de voir l'ordre public sacrifié sur l'autel des intérêts privés.

Questions fréquentes sur le code de bonne conduite de l'IA

Qu'est-ce que le code de bonne conduite signé par les géants américains de l'IA ?

Il s'agit d'un accord volontaire signé à la Maison Blanche par les principaux acteurs de l'IA (OpenAI, Google, Anthropic, Nvidia) qui définit des engagements en matière de sécurité, notamment des contrôles internes et des audits externes, sans valeur contraignante.

Pourquoi ce code est-il critiqué ?

Il est critiqué car il repose uniquement sur l'autorégulation des entreprises, sans force de loi. Des concurrents comme Mistral et Cohere dénoncent une volonté des géants américains de définir leurs propres règles pour protéger leur avantage compétitif.

Quels sont les risques que ce code cherche à prévenir ?

Le code vise à prévenir les risques liés à la cybersécurité et à la biosécurité, notamment l'introduction, la propagation et la libération d'agents pathogènes ou de dangers chimiques par les modèles d'IA.