OpenAI, Anthropic et Google DeepMind discutent d’un projet commun pour renforcer la sécurité de l’intelligence artificielle. Les trois groupes réfléchissent à la création d’un organisme chargé d’établir des standards pour les modèles d’IA avancés.
Cette initiative intervient alors que les inquiétudes sur les risques liés à l’intelligence artificielle augmentent aux États-Unis.
Selon Reuters, OpenAI travaille avec Anthropic et Google DeepMind sur les questions de sécurité de l’IA. Les discussions durent depuis plusieurs semaines. Les entreprises cherchent notamment à coordonner leurs efforts dans ce domaine. (Reuters)
Un organisme inspiré de la FINRA
L’idée d’un tel organisme vient notamment de Demis Hassabis, cofondateur de Google DeepMind.
En juillet, il avait proposé la création d’une structure indépendante. Il l’avait comparée à la FINRA, l’organisme américain d’autorégulation du secteur financier.
Selon cette proposition, cette structure pourrait tester les modèles d’IA les plus avancés. Elle pourrait aussi établir des normes communes pour leur développement et leur utilisation. (TechCrunch)
Le projet vise donc à créer un cadre commun. Les entreprises pourraient ainsi disposer de règles techniques partagées avant le lancement de certains modèles.
OpenAI, Anthropic et Google renforcent leur coopération
Les discussions entre les trois entreprises prennent place dans un contexte particulier.
OpenAI, Anthropic et Google DeepMind sont des concurrents directs sur le marché de l’intelligence artificielle. Ils développent chacun des modèles capables de réaliser des tâches de plus en plus complexes.
Malgré cette concurrence, les trois groupes discutent désormais de la sécurité de leurs technologies.
Reuters rapporte que les entreprises cherchent à coopérer sans avoir besoin d’une dérogation aux règles antitrust américaines. Chris Lehane, responsable de la politique mondiale chez OpenAI, a confirmé l’existence de discussions sur la sécurité de l’IA. (Reuters)
Toutefois, le projet reste encore en discussion. Aucun organisme commun n’a officiellement commencé ses activités.
Demis Hassabis a changé de fonction
Le projet intervient également après une importante évolution chez Google DeepMind.
Demis Hassabis a quitté son poste de CEO de Google DeepMind en août 2026. Il occupe désormais la fonction de président de Google DeepMind.
Il est également devenu Chief Scientist d’Alphabet, la maison mère de Google.
De son côté, Koray Kavukcuoglu assure désormais la gestion quotidienne de Google DeepMind. Il conserve aussi son rôle de Chief Technology Officer. (Reuters)
La proposition concernant un organisme inspiré de la FINRA avait toutefois été formulée avant ce changement.
Un débat politique de plus en plus important
La question de la régulation de l’intelligence artificielle prend aussi de l’ampleur dans le débat politique américain.
Plusieurs responsables et législateurs demandent de nouvelles règles pour encadrer les systèmes d’IA avancés.
Reuters rapportait le 10 septembre que des parlementaires américains réclamaient davantage de règles après des alertes lancées par des chercheurs d’Anthropic. (Reuters)
Les discussions portent notamment sur les évaluations de sécurité, la transparence et la responsabilité des entreprises.
Le gouvernement américain doit donc trouver un équilibre entre plusieurs objectifs. Il doit soutenir l’innovation tout en limitant certains risques liés aux nouvelles technologies.
Des critiques sur l’autorégulation
La création d’un organisme dirigé ou financé par l’industrie soulève aussi des interrogations.
Certains observateurs se demandent notamment si une structure créée par les grandes entreprises technologiques pourrait rester suffisamment indépendante.
D’autres estiment qu’une coopération entre les principaux laboratoires d’IA pourrait faciliter la mise en place de normes communes.
Le débat reste ouvert. Les discussions actuelles ne signifient pas encore qu’un nouvel organisme possède des pouvoirs réglementaires officiels.
La sécurité de l’IA au centre des discussions
Les progrès rapides de l’intelligence artificielle poussent les entreprises et les autorités à revoir leurs méthodes de contrôle.
OpenAI, Anthropic et Google DeepMind développent des systèmes toujours plus performants. Cette évolution augmente aussi les questions autour de leur sécurité.
Les trois entreprises cherchent donc à renforcer leur coopération sur certains sujets.
Pour l’instant, les modalités précises du futur organisme restent inconnues. Son nom, son financement, ses pouvoirs et son niveau d’indépendance doivent encore faire l’objet de discussions.
Le projet marque néanmoins une nouvelle étape dans le débat international sur la gouvernance de l’intelligence artificielle. Les prochaines discussions permettront de voir si cette coopération entre les grands acteurs de l’IA peut aboutir à un véritable organisme de supervision.
