Plus les robots deviennent complexes, plus l'importance de l'utilisation d'une boîte noire s'accentue.
L'idée d'avoir un robot à tout faire chez soi peut être emballante. Mais quand cette machine intelligente fait des erreurs, ça reste avant tout une machine. Autrement dit, un robot ne peut pas expliquer pourquoi il n'a pas réussi à accomplir sa tâche. Et pour les incidents plus graves, cette incapacité de s'expliquer est un véritable problème.
Les robots et les accidents
Comme tous les appareils, les robots peuvent mal fonctionner. Un incident impliquant un robot peut se présenter sous deux cas de figure. D'un côté, il pourrait tout simplement avoir échoué une tâche de reconnaissance d'objets, par exemple. Dans le second cas, il pourrait avoir provoqué un accident qui a porté préjudice à une personne, comme la blesser.
Mais en l'absence d'une boîte noire, ou d'un témoin qui pourrait expliquer ces incidents, il est souvent impossible d'expliquer pourquoi les robots ont agi de telle ou telle manière.
La population robotique continue d'augmenter en nombre et en variétés. Cela va des robots aspirateurs, avec un design relativement simple, aux androïdes qui ressemblent à peu de chose près aux humains. Certains aident les chirurgiens à effectuer des opérations complexes tandis que d'autres se contentent de divertir des enfants.
La plupart des robots sont actuellement dotés d'une intelligence artificielle qui leur permet de prendre des décisions sans consulter un humain. Pour cela, ils interprètent les informations sur ce qui les entoure pour orchestrer les mouvements adéquats.
Maintenant, plus la science de la robotique évolue, plus les machines deviennent complexes. Cela rend le problème de la boîte noire d'autant plus important.
Une boîte noire éthique pour les robots
Une boîte noire est un terme généralement associé à un avion et désigne un système qui permet de fournir des informations sur les raisons d'un accident. Ce témoin intégré enregistre donc tout ce qui se passe sur l'appareil.
La boîte noire éthique pour les robots fonctionne de la même manière. Il s'agit d'un système mis au point dans le cadre d'un projet appelé RoboTIPS. Entre autres, elle enregistre toutes les entrées d'un robot afin de comprendre toutes ses actions. Les informations en question peuvent correspondre à des enregistrements vocaux, visuels et même des ondes cérébrales.
Ce système a été créé et conçu pour tous les types de dispositifs robotiques. En plus d'expliquer les causes des accidents, l'utilisation d'une boîte noire dans les robots permettrait de les éviter.
Il est important pour les dispositifs nouvellement créés ou en cours de conception d'intégrer ce genre de système. En effet, en matière de robotique et d'IA, l'explicabilité est un moyen de développer des systèmes responsables.
- Partager l'article :
