OpenAI propose aux utilisateurs la possibilité de créer des chatbots personnalisés. Cependant, la start-up impose certaines limites et contrôle étroitement les utilisations de sa technologie. Ceci, afin de préserver son image et de s'éviter des problèmes. Elle vient notamment de bannir Dean.Bot, un chatbot imitant un candidat à l'élection présidentielle américaine.
Un ChatGPT potentiellement problématique
La course à la Maison-Blanche est lancée. Parmi les candidats à la primaire démocrate figure Dean Phillips, le challenger de Joe Biden. Pour soutenir sa campagne, deux entrepreneurs, Jed Somers et Matt Krisiloff, issus du groupe politique « We Deserve Better » ont fait appel à la start-up IA Delphi. Ceci, afin qu'elle développe un chatbot IA baptisé Dean.Bot qui imite la voix de Dean Phillips. L'IA se base sur le LLM d'OpenAI et fonctionne de la même manière que ChatGPT.
Dean.Bot n'est pas resté en ligne longtemps puisque OpenAI l'a supprimé en urgence. L'entreprise craint en effet que des personnes malintentionnées détournent une telle IA pour diffuser de fausses informations et manipuler les électeurs. Par exemple, elles pourraient l'utiliser pour passer de faux appels téléphoniques imitant la voix du candidat. Ce qui pourrait induire les électeurs en erreur et perturber les élections
Pour éviter ces dérives, OpenAI a donc pris la décision forte d'interdire tous les chatbots imitant des personnes réelles ou des organisations. C'est un premier pas concret dans la lutte de l'entreprise contre la désinformation.
OpenAI suspend le compte des développeurs
OpenAI n'a pas seulement supprimé le chatbot Dean.Bot. Intransigeante, l'entreprise de Sam Altman a également suspendu le compte des développeurs de la start-up Delphi qui l'ont créé. Cette suspension s'inscrit dans le cadre de la politique établie par OpenAI pour encadrer strictement les utilisations de son IA dans le domaine politique.
Améliorez la performance de vos projets grâce à l’IA générative ?
« Quiconque utilise nos outils doit respecter notre règlement, qui interdit leur usage dans les campagnes politiques », a annoncé une porte-parole de la start-up américaine.
De leur côté, les créateurs chatbot regrettent la décision d'OpenAI. Selon eux, cette IA conversationnelle ne représentait aucune menace et servait même un objectif positif. En créant ce ChatGPT, leur but était de permettre aux citoyens de mieux connaître le candidat Dean Phillips et son programme électoral de façon ludique et interactive.
Par ailleurs, les développeurs ont pris le soin de préciser aux utilisateurs, dès leurs premiers échanges avec le chatbot que Dean.Bot n'était pas le véritable Dean Phillips. Par conséquent, certaines informations données peuvent être erronées. Cependant, OpenAI a considéré que, malgré ces avertissements, les risques étaient trop élevés. La société a ainsi préféré jouer la carte de la prudence.
Notons que les chatbots politiques ne sont pas les seules IA bannies par OpenAI. La société californienne interdit aussi les GPTs romantiques faisant office de petites amies IA. OpenAI s'efforce ainsi d'établir un équilibre entre innovation et responsabilité, et n'hésite pas à supprimer les IA qui ne sont pas conformes aux règles établies.
- Partager l'article :
