Un manque de clarté et d’action
Dans un communiqué publié mardi 11 février 2025, Amodei a salué les efforts du gouvernement français pour réunir chercheurs, entreprises et responsables politiques du monde entier. Mais selon lui, le sommet n’a pas traité avec suffisamment d’urgence certains sujets clés, alors même que l’IA progresse à une vitesse vertigineuse.
Cette critique fait écho aux inquiétudes exprimées par plusieurs experts en début de semaine. L’un d’eux confiait au média Transformer que les engagements du sommet « ne disaient rien d’autre que des platitudes ».
Les points soulevés par Amodei
Une technologie qui évolue trop vite
Amodei a comparé les capacités des systèmes d’IA avancés à « l’apparition soudaine d’un nouvel État peuplé de personnes hautement intelligentes ». Une image frappante pour illustrer la puissance croissante de ces technologies et les défis qu’elles posent.
Des risques pour la sécurité mondiale
L’un des sujets qui inquiètent particulièrement le PDG d’Anthropic est l’impact potentiel de l’IA sur la sécurité internationale :
- Le risque que des acteurs malveillants exploitent ces technologies
- La nécessité pour les démocraties de rester en tête du développement de l’IA
- Le danger de voir certains régimes autoritaires utiliser l’IA pour asseoir une domination militaire mondiale
L’impact économique et social
Amodei insiste également sur l’urgence de garantir une répartition équitable des bénéfices économiques générés par ces IA ultra-puissantes. Selon lui, les gouvernements doivent veiller à ce que « tout le monde profite du progrès économique lié à l’IA », et non seulement une poignée d’acteurs.
Plus de transparence et d’évaluation des risques
Il appelle enfin à une plus grande transparence des gouvernements sur les questions de sécurité liées à l’IA et sur les méthodes utilisées pour évaluer les risques. Un point crucial alors que les débats sur la régulation s’intensifient.
Un contraste avec OpenAI
La position d’Amodei tranche avec celle d’OpenAI, qui s’est montrée beaucoup plus optimiste à l’issue du sommet. L’entreprise américaine a déclaré le week-end dernier qu’elle considérait l’événement comme « une nouvelle étape importante vers un développement responsable et bénéfique de l’IA pour tous ».
Une entreprise favorable à la régulation
Contrairement à certaines entreprises du secteur, Anthropic a souvent adopté une posture plus ouverte à la régulation de l’IA :
- Elle a apporté un soutien implicite au projet de loi californien SB 1047 sur la régulation de l’IA, auquel OpenAI s’est opposée
- Amodei a déjà mis en garde contre les conséquences économiques, sociales et sécuritaires d’un développement de l’IA laissé sans contrôle
Un sommet qui peine à convaincre
Le sommet de Paris s’inscrivait dans une série d’événements internationaux visant à établir un cadre commun sur la gouvernance de l’IA. Mais il a laissé de nombreux observateurs sur leur faim :
- Les États-Unis et le Royaume-Uni ont refusé de signer les engagements adoptés à l’issue du sommet
- Le vice-président américain JD Vance a critiqué des régulations qu’il juge « massives » et « étouffantes » pour l’innovation
Alors que l’IA continue d’évoluer à un rythme effréné, le débat reste plus brûlant que jamais : comment encadrer ces technologies sans freiner l’innovation ? Pour l’instant, aucun consensus clair ne se dessine, et les visions restent profondément divergentes.
