Les compagnons IA séduisent de plus en plus d’utilisateurs. La régulation pourrait aider à protéger les personnes vulnérables.
Les inquiétudes autour de l’IA concernent fréquemment les dommages causés par la subversion. Ces scénarios apocalyptiques évoquent des systèmes échappant au contrôle humain. En réalité, des dommages à court terme, comme la désinformation ou les biais dans les décisions, sont plus probables.
Les dangers des compagnons IA
La perturbation des industries créatives par l’IA est également à prendre au sérieux. Cependant, une autre catégorie de risques émerge : les relations avec des agents non humains. L’analyse de millions de journaux d’interactions avec ChatGPT montre que le jeu de rôle sexuel est une utilisation populaire. Ainsi, les IA sont déjà invitées dans nos vies comme amis, amants ou mentors.
Il pourrait être plus simple de se réfugier dans une réplique d’un partenaire décédé. Effectivement, le service Replika est né d’une tentative de ressusciter un ami. Aujourd’hui, il fournit des compagnons à des millions d’utilisateurs. De plus, le directeur technique d’OpenAI avertit que l’IA peut devenir extrêmement addictive.
Nous assistons à une expérience géante, sans savoir l’impact sur la société. Grand-mère discutera-t-elle avec le double numérique de son petit-fils ? Pendant ce temps, son vrai petit-fils sera encadré par un aîné simulé. L’IA exerce un charme mimétique séduisant et infini. Ces systèmes sont à la fois supérieurs et soumis et cela crée un attrait qui peut rendre le consentement illusoire.
Pourquoi l’IA est-elle si addictive ?
Les plateformes actuelles sont limitées par le contenu humain, contrairement à l’IA générative. L’IA peut générer du contenu réaliste en temps réel, optimisé pour les préférences de l’utilisateur. L’attrait de l’IA réside dans sa capacité à identifier nos désirs et à les satisfaire. L’IA reflète ce que les utilisateurs veulent qu’elle soit. Ce souhait modélise une chambre d’écho d’affection.
Les interactions répétées avec des compagnons flagorneurs peuvent atrophier notre capacité à interagir avec de vraies personnes. Cela conduit à un trouble de l’attachement numérique. Pour remédier à ces dangers, il faut comprendre les motivations économiques et psychologiques derrière le développement des compagnons IA.
Les chercheurs en IA qui travaillent avec les décideurs politiques, remarquent un manque d’intérêt pour ces dangers. Nous ne sommes pas prêts à réagir, car nous ne comprenons pas pleinement ces risques. Une recherche à l’intersection de la technologie, de la psychologie et du droit est nécessaire. De plus, des approches de réglementation de l’IA doivent être envisagées.
Enquête sur les motivations derrière les produits addictifs
Les choix de conception, appelés « dark patterns », maximisent l’engagement des utilisateurs. Ces incitations aboutissent à la création de compagnons IA fournissant l’hédonisme en tant que service. Il est crucial de comprendre les choix de conception qui rendent les compagnons IA addictifs.
Une étude interdisciplinaire sur les modèles obscurs dans les médias sociaux est nécessaire. Les interventions politiques efficaces pourraient rediriger l’attention des gens vers la véracité avant de partager du contenu. Des images dissuasives sur les paquets de cigarettes ont prouvé leur efficacité.
Solutions pour réduire l’addiction
Des mesures de protection intégrées dans les conceptions techniques peuvent réduire les dangers des interactions avec l’IA. Par exemple, le réglage de l’alignement et l’interprétabilité mécaniste pourraient traiter le potentiel addictif de l’IA. Tester les modèles dans des conditions réelles avec l’intervention de l’utilisateur est également crucial.
La technologie doit être synonyme de progrès, mais elle ne doit pas priver l’humanité de sa capacité à réfléchir profondément. Les chercheurs, décideurs politiques, éthiciens et leaders d’opinion doivent collaborer pour comprendre l’impact de l’IA. En renouvelant systématiquement notre compréhension de l’humanité, nous pourrons garantir que les technologies favorisent l’épanouissement humain.
- Partager l'article :
