Les intelligences artificielles vocales redonnent la parole à ceux qui l’ont perdue. Pourtant, cette avancée soulève une question inattendue : peut-on encore dire ce que l’on veut ?
Joyce Esser, une femme atteinte d’une maladie du motoneurone (MND), a été bannie de la plateforme ElevenLabs après avoir utilisé des mots jugés interdits par l’IA.
Joyce, qui vit au Royaume-Uni, a vu sa voix s’éteindre progressivement à cause de la MND bulbaire. Cette maladie affecte les muscles responsables de la parole et de la déglutition. Grâce à ElevenLabs, elle a pu recréer sa voix à partir d’anciens enregistrements. Désormais, elle peut taper des phrases que son clone vocal lit à haute voix. Cela lui permet de communiquer avec son entourage.
Elle n’est pas la seule à bénéficier de cette avancée. Jules Rodriguez, un Américain atteint de la même maladie, utilise également un clone vocal. Sa femme, Maria, raconte que retrouver sa voix a été un moment fort en émotion. « C’était comme un miracle », dit-elle.
Un bannissement pour des mots anodins
Mais la technologie a ses limites et Joyce l’a appris à ses dépens. Un jour, alors qu’elle plaisantait avec son mari, elle a tapé : « Allez, chérie, bouge-toi ! » suivi de « Je ferais mieux de mettre ma culotte aussi !!! ».
Le lendemain, ElevenLabs l’a avertie pour langage inapproprié. Le surlendemain, son compte a été suspendu par un modérateur humain. « Je venais de retrouver ma voix, et maintenant, ils me l’ont retirée… », confie Joyce.
Elle a contacté ElevenLabs, qui a fini par s’excuser et rétablir son compte. Cependant, elle ne sait toujours pas pourquoi son bannissement a eu lieu. Sophia Noel, représentante de l’entreprise, a déclaré que son message avait peut-être été interprété comme une menace.
Les conditions d’utilisation d’ElevenLabs mentionnent des interdictions liées aux menaces, à la désinformation et à l’usurpation d’identité. Pourtant, elles ne précisent rien sur l’usage d’un langage familier.
Paul, le mari de Joyce, soulève une incohérence. Les patients atteints de maladies neurodégénératives enregistrent souvent leur voix avant qu’elle ne disparaisse. « On leur dit qu’ils peuvent dire tout ce qu’ils veulent », souligne-t-il. Alors pourquoi ceux qui utilisent un clone vocal IA devraient-ils être restreints ?
Le paradoxe d’une modération sélective
Joyce n’a pas été la seule à tester les limites de l’IA vocale. Jules, qui fait du stand-up, utilise fréquemment des insultes et des blagues crues dans ses spectacles. Pourtant, il n’a jamais reçu le moindre avertissement. Lors d’un show, il a même ouvert avec un « Fuck you guys ! », une manière de désamorcer la pitié du public. Son spectacle est toujours promu sur le site d’ElevenLabs.
Face à cette incohérence, l’entreprise affirme ne plus restreindre les jurons. Richard Cave, de la MND Association au Royaume-Uni, résume bien l’ironie de la situation : « Les personnes atteintes de MND devraient pouvoir dire tout ce qu’elles pensent. Il y a de quoi jurer. »
- Partager l'article :
Restez à la pointe de l'information avec
INTELLIGENCE-ARTIFICIELLE.COM !
