in ,

OpenAI sous pression : son expert en AGI tire la sonnette d’alarme avant son départ

alerte openAI

Miles Brundage, l’un des principaux conseillers d’ pour la préparation à l’ générale (AGI), a annoncé son départ avec un avertissement inquiétant. Il affirme que ni OpenAI, ni aucun laboratoire, ni même le monde ne sont prêts pour l’arrivée de l’AGI. Son départ illustre les tensions internes au sein d’OpenAI, tiraillé entre recherche éthique et ambitions commerciales.

Des départs qui soulèvent des interrogations sur la mission d’OpenAI

La décision de Brundage s’inscrit dans une série de départs significatifs chez OpenAI. L’équipe AGI Readiness a été récemment dissoute, quelques mois après celle de Superalignment, dédiée à l’atténuation des risques à long terme liés à l’IA. D’autres figures clés, comme Jan Leike et le cofondateur Ilya Sutskever, ont également quitté l’organisation. Ce dernier a d’ailleurs lancé une start-up focalisée sur le développement d’AGI sûrs.

Ces départs révèlent des tensions entre les objectifs initiaux d’OpenAI et les nouvelles priorités commerciales. L’entreprise envisagerait de passer d’un statut à but non lucratif à celui de société d’utilité publique lucrative. OpenAI se trouve sous pression pour maximiser ses revenus et éviter de rembourser les fonds levés lors de son dernier tour de table de 6,6 milliards de dollars.

Liberté de recherche et gouvernance éthique en question

Brundage a évoqué des restrictions croissantes sur la recherche et la publication. Cela réduit ainsi sa capacité à influencer les politiques d’IA de manière indépendante. Il estime notamment que l’industrie doit faire entendre des voix détachées de tout conflit d’intérêt. Un rôle qu’il pense mieux remplir en dehors d’OpenAI. L’entreprise a néanmoins proposé de soutenir ses futurs projets avec un financement, des crédits API et un accès anticipé aux modèles sans conditions.

YouTube video

Le départ de Brundage met aussi en lumière une fracture culturelle au sein d’OpenAI. Plusieurs chercheurs se plaignent du passage d’une recherche ouverte à une focalisation accrue sur des produits commerciaux. Des rapports indiquent même que l’équipe de Leike s’est vu refuser l’accès à la puissance de calcul nécessaire à ses recherches. Cela a d’ailleurs précipité sa dissolution.

Alors que l’AGI reste un horizon flou, le départ de Brundage soulève une question cruciale. L’interrogation est que les entreprises technologiques sont-elles prêtes à faire face aux défis éthiques et sécuritaires de cette nouvelle ère ? L’avenir de la gouvernance de l’IA semble désormais se jouer autant en dehors des grandes organisations qu’en leur sein.

Des enjeux éthiques croissants dans la course à l’AGI

Le départ de Brundage souligne un enjeu majeur : les grandes entreprises d’IA peinent à concilier recherche éthique et objectifs commerciaux. La dissolution de plusieurs équipes de recherche axées sur la sécurité illustre cette tension entre innovation et précautions nécessaires. Le glissement vers une recherche focalisée sur des produits rentables inquiète plusieurs chercheurs. Ces derniers redoutent que les considérations éthiques passent au second plan.

YouTube video

Les déclarations de Brundage rappellent que l’industrie doit adopter une gouvernance plus transparente et indépendante, à l’abri des conflits d’intérêts. Le rôle des chercheurs indépendants devient crucial pour garantir une régulation appropriée de l’IA. La question de savoir si OpenAI et ses pairs pourront répondre à ces défis reste ouverte. De l’autres côté, la course à l’AGI s’intensifie et les pressions commerciales augmentent.

Newsletter

Envie de ne louper aucun de nos articles ? Abonnez vous pour recevoir chaque semaine les meilleurs actualités avant tout le monde.

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *