Miles Brundage, l’un des principaux conseillers d’OpenAI pour la préparation à l’intelligence artificielle générale (AGI), a annoncé son départ avec un avertissement inquiétant. Il affirme que ni OpenAI, ni aucun laboratoire, ni même le monde ne sont prêts pour l’arrivée de l’AGI. Son départ illustre les tensions internes au sein d’OpenAI, tiraillé entre recherche éthique et ambitions commerciales.
Des départs qui soulèvent des interrogations sur la mission d’OpenAI
La décision de Brundage s’inscrit dans une série de départs significatifs chez OpenAI. L’équipe AGI Readiness a été récemment dissoute, quelques mois après celle de Superalignment, dédiée à l’atténuation des risques à long terme liés à l’IA. D’autres figures clés, comme Jan Leike et le cofondateur Ilya Sutskever, ont également quitté l’organisation. Ce dernier a d’ailleurs lancé une start-up focalisée sur le développement d’AGI sûrs.
Ces départs révèlent des tensions entre les objectifs initiaux d’OpenAI et les nouvelles priorités commerciales. L’entreprise envisagerait de passer d’un statut à but non lucratif à celui de société d’utilité publique lucrative. OpenAI se trouve sous pression pour maximiser ses revenus et éviter de rembourser les fonds levés lors de son dernier tour de table de 6,6 milliards de dollars.
Liberté de recherche et gouvernance éthique en question
Brundage a évoqué des restrictions croissantes sur la recherche et la publication. Cela réduit ainsi sa capacité à influencer les politiques d’IA de manière indépendante. Il estime notamment que l’industrie doit faire entendre des voix détachées de tout conflit d’intérêt. Un rôle qu’il pense mieux remplir en dehors d’OpenAI. L’entreprise a néanmoins proposé de soutenir ses futurs projets avec un financement, des crédits API et un accès anticipé aux modèles sans conditions.
Le départ de Brundage met aussi en lumière une fracture culturelle au sein d’OpenAI. Plusieurs chercheurs se plaignent du passage d’une recherche ouverte à une focalisation accrue sur des produits commerciaux. Des rapports indiquent même que l’équipe de Leike s’est vu refuser l’accès à la puissance de calcul nécessaire à ses recherches. Cela a d’ailleurs précipité sa dissolution.
Alors que l’AGI reste un horizon flou, le départ de Brundage soulève une question cruciale. L’interrogation est que les entreprises technologiques sont-elles prêtes à faire face aux défis éthiques et sécuritaires de cette nouvelle ère ? L’avenir de la gouvernance mondiale de l’IA semble désormais se jouer autant en dehors des grandes organisations qu’en leur sein.
Des enjeux éthiques croissants dans la course à l’AGI
Le départ de Brundage souligne un enjeu majeur : les grandes entreprises d’IA peinent à concilier recherche éthique et objectifs commerciaux. La dissolution de plusieurs équipes de recherche axées sur la sécurité illustre cette tension entre innovation et précautions nécessaires. Le glissement vers une recherche focalisée sur des produits rentables inquiète plusieurs chercheurs. Ces derniers redoutent que les considérations éthiques passent au second plan.
Les déclarations de Brundage rappellent que l’industrie doit adopter une gouvernance plus transparente et indépendante, à l’abri des conflits d’intérêts. Le rôle des chercheurs indépendants devient crucial pour garantir une régulation appropriée de l’IA. La question de savoir si OpenAI et ses pairs pourront répondre à ces défis reste ouverte. De l’autres côté, la course à l’AGI s’intensifie et les pressions commerciales augmentent.
- Partager l'article :
