Internet était en effervescence depuis la fin 2022 en raison de l'apparition de plus en plus de technologies d'intelligence artificielle. La popularité de certaines IA génératives dépassait même nos attentes dans les entreprises. Mais l'inquiétude face à ces innovations monte également, comme celle qui entoure la technologie du clonage vocal.
Parallèlement, ce que l'on pensait être de simples outils de génération d'images ou de textes s'avère être des programmes pouvant être bénéfiques pour les grandes entreprises. Certaines d'entre elles ont d'ailleurs recouru à l'IA générative, telle que le clonage vocal. Cela dans le but de tirer parti des avantages commerciaux qu'offre cette technologie.
Réglementer le clonage vocal par l'IA
À titre d'information, le clonage vocal consiste à utiliser la voix d'une personne quand une autre personne est en train de parler. Cette personne va en effet utiliser l'IA générative pour générer la voix qu'elle va utiliser. C'est une approche qui est assez facile à utiliser, bien qu'il y ait une éthique à respecter.
Le vrai problème avec l'utilisation de l'IA générative dans les entreprises relève des stigmatisations négatives pouvant être provoquées. Mais rares sont ceux qui ont conscience des menaces qui pèsent sur leurs activités. Parce qu'il y a toujours des individus qui ont recours à l'IA générative, dans des entreprises ou non, pour provoquer des troubles ou diffuser de fausses nouvelles.
À l'heure actuelle, nous assistons à une remise à niveau en ce qui concerne les normes éthiques de l'utilisation de l'IA générative. Pour le cas de l'Union européenne, elle est déjà sur le point de mettre en place une réglementation sur l'utilisation de l'intelligence artificielle. Mais aussi un code de pratique pour tous ceux qui envisagent de recourir à cette technologie. C'est-à-dire un code de pratique sur la désinformation, un projet visant à décrire les attentes des grandes entreprises contre le contenu malveillant.
Améliorez la performance de vos projets grâce à l’IA générative ?
Aux États-Unis et en Grande-Bretagne, on assiste aussi à une mise en vigueur des mesures réglementaires contre la désinformation. Soit le Online Safety Bill pour le Royaume-Uni et le National Deepfake and Digital Provenance Task Force pour les États-Unis.
Cas d'abus pour l'IA d'Evenlabs
EvenLabs a lancé il y a quelques jours la version bêta de son IA vocale. Mais en seulement quelques jours, l'outil a enregistré un nombre incalculable d'utilisateurs ayant utilisé de programme de manière malintentionnée. Selon la société, on assiste à un cas d'abus de clonage vocal. La prochaine étape d'EvenLabs serait alors de trouver une solution face à cette utilisation abusive de l'outil.
Il s'agit en effet d'une émergence du deepfake audio. L'évolution de l'IA générative et du machine learning dans certaines entreprises a entraîné l'augmentation du nombre de vidéos deepfake dans certains secteurs. Notamment dans l'industrie de la pornographie, dont le contenu est modifié pour mettre le visage d'une célébrité à la place de l'actrice.
Face à l'utilisation abusive de l'IA générative dans les entreprises, ces dernières réfléchissent désormais à la manière dont elles pourraient freiner les impacts du clonage vocal. Et jusqu'ici, la première solution serait d'ajouter des couches supplémentaires dans la vérification des comptes. Comme l'ajout obligatoire d'un justificatif d'identité ou de carte bancaire lors de l'activation des comptes.
- Partager l'article :
