in

L’IA interagirait avec nous de la même façon que nous interagissons avec nos animaux

L’évolution de l’IA ne cesse de nous surprendre par ses capacités impressionnantes. Cette technologie a connu des avancées remarquables ces derniers temps. Un scientifique du secteur ravive les inquiétudes sur un avenir où les robots prendront le contrôle des humains.

Une évolution prévisible dès le début

L’IA évolue à une vitesse fulgurante. Elle a montré des performances impressionnantes dans de nombreux domaines comme la reconnaissance vocale, la vision par ordinateur, etc. Grâce au machine learning, elle a la capacité de traiter d’importantes quantités de données. Cette progression rapide de l’IA ainsi que la menace potentielle qu’elle pourrait représenter pour l’humanité sont au cœur de nombreux débats ces derniers mois.

Le scientifique Ilya Sutskever a pourtant déjà prédit il y a quelques années la trajectoire que prendra cette technologie. Comme il s’agit du co-fondateur même d’OpenAI, la start-up technologique à l’origine du célèbre chatbot ChatGPT, il est clair qu’il sait de quoi il parle.

Avant même le lancement de cette plateforme révolutionnaire et avant que son entreprise ne soit encore célèbre, il a averti que cette technologie qu’OpenAI est en train de développer allait révolutionner le monde. Toutefois, selon lui, il est possible que cela ne soit pas toujours bénéfique pour les humains.

Un documentaire datant de 2019 remis en ligne par le Guardian a ravivé la crainte concernant les risques associés à une IA incontrôlable. Dans celui-ci, Sutskever déclare à la réalisatrice Tonje Hessen Schei que l’IA est bénéfique, car elle offre des solutions à tous les problèmes. Mais, cela donnera lieu également à de nouveaux problèmes.

Ce documentaire a été enregistré entre 2016 et 2019. Ce qui signifie que cette figure de l’IA avait déjà conscience des risques induits par cette technologie, même avant qu’elle ne soit devenue virale. Sutskever a défini l’intelligence artificielle générale (AGI) comme un système informatique doté d’une capacité de réaliser, en mieux, n’importe qu’elle tâche qu’un humain puisse accomplir.

Les humains ne demandent pas les avis de leurs animaux

Sutskever a déclaré qu’il a peur que dans le futur, cette technologie interagira envers les humains comme ces derniers interagissent avec leurs animaux. Il explique que les humains adorent leurs animaux. Ils peuvent éprouver beaucoup de tendresse à leur égard.

Toutefois, quand les humains souhaitent prendre une décision importante, il ne consulte pas leurs animaux pour demander leurs avis ou leurs permissions. « Nous le faisons simplement parce que c’est important pour nous », déclare-t-il. Ce scientifique pense que c’est la forme de relation qui émergera entre l’AGI et les humains. Cette technologie agira de manière entièrement autonome.

La nécessité d’un alignement de l’IA avec les objectifs souhaités

Même si cette réflexion de Sutskever semble effrayante, il ne montre pas beaucoup d’inquiétude à ce sujet. Il a déclaré que la clé réside dans la programmation correcte de l’AGI. Dans le cas contraire, le scientifique pense que cette technologie pourrait développer des comportements qui privilégient sa propre survie. Elle pourrait alors potentiellement dépasser le contrôle humain et devenir dangereuse.

Des experts sont d’avis qu’une réglementation adéquate associée à des pratiques de développement responsables de l’IA est indispensable. Cela permet de gérer la plupart des risques que présente l’évolution de l’IA.

 

Newsletter

Envie de ne louper aucun de nos articles ? Abonnez vous pour recevoir chaque semaine les meilleurs actualités avant tout le monde.

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *