dans

Un micro-ondes intelligent a tenté de tuer son propriétaire

Un micro-ondes intelligent a tenté de tuer son propriétaire

En donnant vie à son ami d’enfance, cet homme a créé un micro-ondes intelligent qui a essayé de le tuer.

Alors que l’intelligence artificielle continue d’avancer à grands pas, la menace qu’elle représente grandit également. Elle pourrait devenir si intelligente au point de fournir des explications là où les informations manquent. L’expérience que Lucas Rizzotto a vécue prouve comment l’IA peut en effet être un danger pour ses utilisateurs.

Un micro-ondes intelligent … et tueur

Comme beaucoup d’enfants, Lucas Rizzotto avait un ami imaginaire. Dans son cas, il s’agissait de Magnetron, le four à micro-ondes de sa cuisine. Maintenant que l’intelligence artificielle a le pouvoir de rendre les appareils interactifs, Rizzotto a eu l’idée de donner vie à son ami d’enfance.

Pour cela, il a acheté un micro-ondes pour le rendre intelligent en l’équipant d’un micro et de haut-parleurs. Il a également intégré le modèle GPT-3 d’OpenAI pour donner à son ami la capacité de discuter. Ensuite, il a téléchargé un livre de 100 pages racontant le récit de son amitié imaginaire avec Magnetron. Ainsi, ils ont commencé à discuter et à avoir des échanges naturels.

Mais d’après Rizzotto, son ami présentait occasionnellement des éclats de violences extrêmes. Il aurait même demandé à son créateur d’entrer dans le micro-ondes avant de démarrer l’appareil, ce qui l’aurait tué. Rizzotto a demandé une explication et Magnetron a alors répondu qu’il voulait se venger de son ami qui l’avait abandonné. Le micro-ondes intelligent a effectivement interprété l’absence d’interaction qui a duré 20 ans comme un abandon.

Le danger de l’IA prouvé une fois de plus

Cet événement prouve en effet que l’intelligence artificielle peut réellement présenter une menace pour les humains. La capacité de l’IA à acquérir des connaissances à partir des données de formations est une qualité inestimable, certes. Cela permet de faire des analyses prédictives efficaces, la plupart du temps.

Mais dans le cas présent, la prédiction effectuée par le micro-ondes intelligent était erronée. En termes simples, cela prouve l’importance de fournir des données complètes pour obtenir des résultats cohérents. D’autre part, cette histoire nous donne également à réfléchir sur les limites de l’utilisation de l’IA et notamment des grands modèles de langage qui ont une portée presque infinie.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.