L’ignorance artificielle semble être un jeu de mots faisant allusion à l’intelligence artificielle. Ce concept peut avoir deux sens très distincts, et l’un d’entre eux a effectivement un rapport avec la capacité intellectuelle des ordinateurs.
Il existe une différence entre le fait d’ignorer volontairement un événement et le fait d’être ignorant. Vous pouvez choisir d’ignorer une personne ou une information qui n’a pas beaucoup d’importance pour vous. En revanche, devant une personne que vous ne connaissez pas ou une information que vous n’avez pas, votre ignorance n’est pas un choix, mais un fait. L’ignorance artificielle est l’application de ces principes dans le domaine de l’informatique.
Ignorance artificielle : définitions
Les termes « ignorance artificielle » nous font inévitablement penser à « intelligence artificielle ». Par ailleurs, le mot « ignorant » est en quelque sorte l’opposé d’ « intelligent ». L’adjectif « artificielle » quant à elle fait référence au domaine de l’informatique. Autrement dit, l’intelligence artificielle correspond à des machines intelligentes. Cela signifierait-il donc que l’ignorance artificielle désigne des ordinateurs ignorants ? Oui et non.
Le fait d’ignorer peut avoir deux sens légèrement différents. D’une part, il peut s’agir d’un acte volontaire, quand une personne, ou dans ce cas une machine, choisit de ne pas prendre en considération un fait ou un événement donné. D’autre part, ignorer peut également se traduire par un véritable manque de connaissance, donc involontaire.
Par conséquent, l’ignorance artificielle peut à la fois faire référence à une machine ignorante et à une machine qui ignore intentionnellement. Mais en termes d’informatique, l’un comme l’autre sens est applicable.
L’ignorance artificielle volontaire
L’ignorance artificielle est avant tout une pratique utilisée dans le cadre de la détection d’anomalies et dans la gestion des risques. En termes simples, elle consiste à ignorer le bruit de la surcharge de données. Cela permet de se concentrer sur les informations importantes dans la résolution d’un problème ou la recherche d’une opportunité.
Gestion des risques
L’application la plus courante de l’ignorance artificielle est la détection des anomalies du comportement du réseau (NBAD). Elle permet de surveiller les fichiers journaux afin d’identifier les problèmes de sécurité ou d’intrusion. Elle aide également à identifier les causes d’autres dysfonctionnements du système.
Dans le cadre de la NBAD, le gestionnaire du réseau doit établir un référentiel pour l’activité normale des journaux. Le logiciel permettra par la suite de l’alerter en cas d’activité inhabituelle. Cela peut sembler paradoxal, mais vous allez vite comprendre.
Le processus standard de la gestion des risques consiste à « identifier, mesurer, surveiller et rapporter ». Maintenant, l’approche de l’ignorance artificielle vise à ignorer les données sans importance pour se concentrer sur les valeurs aberrantes. Il s’agit d’une étape importante étant donné la quantité de données générée actuellement. En effet, le Big data, l’IA, l’IoT, etc. se traduisent par une explosion de données.
Des outils doivent donc être mis en place pour identifier ce qui est réellement important et ignorer ce qui est acceptable. Autrement dit, toutes les données ne sont pas forcément essentielles.
Par ailleurs, le fait d’ignorer les informations de routine permet également d’accélérer l’analyse en temps réel de ces grands ensembles de données. Comme exemple de cas pratique, nous pouvons citer les filtres anti-spam dans les messageries électroniques. Cela peut également s’appliquer à l’analyse des transactions financières pour lutter contre les fraudes. Enfin, la surveillance des performances des appareils connectés ou des modèles prédictifs peut également en bénéficier.
Ignorer pour optimiser
Pour vous aider à mieux comprendre, prenons un exemple plus concret de ce que cela représente. Une façon d’optimiser un processus consiste à identifier les opportunités ou les problèmes au lieu de considérer le processus dans son ensemble.
Considérez cela, si vous voulez, comme un jardin potager (ensemble de données) dans lequel vous devez identifier les tomates (opportunités) ou les mauvaises herbes (problèmes). Le jardin peut contenir d’autres autant de variétés de légumes que de mauvaises herbes. En fonction de votre objectif (récolter les tomates ou éliminer les mauvaises herbes), vous devrez ignorer les autres éléments du potager.
L’ignorance artificielle fonctionne de la même manière pour se concentrer sur les événements clés afin d’optimiser le processus de prise de décision. D’autre part, un changement de comportement ou une activité inhabituelle ne se traduit pas toujours par un problème. Cela peut effectivement se présenter comme une nouvelle opportunité d’améliorer les stratégies.
L’ignorance ou les limites de l’intelligence artificielle
Portons maintenant notre attention sur le deuxième sens de l’ignorance artificielle. Pour certains, il s’agit d’une contestation de l’existence de l’intelligence artificielle. Mais plus exactement, elle fait référence à des modèles d’IA qui échouent dans leur tâche. De plusieurs éléments dépendent la capacité ou l’incapacité des modèles de machine learning et de deep learning.
L’ignorance artificielle résulte d’une mauvaise qualité de données
Pour dire qu’un programme informatique est intelligent, il doit être capable de résoudre un problème donné avec la même précision qu’un humain. À cette fin, l’IA reçoit un ensemble de données à partir duquel il apprend à reconnaître les solutions et à les appliquer à de nouvelles entrées. L’intelligence des systèmes repose donc principalement sur les données.
De ce fait, une mauvaise qualité de données peut conduire à des résultats erronés, ce qui nous amène à l’ignorance artificielle. La qualité dépend également de plusieurs facteurs. Tout d’abord, des données incomplètes peuvent être considérées comme de mauvaise qualité. Mais ça peut également être le cas des données surchargées. Il en va de même pour les données obsolètes ou les données biaisées.
Afin d’éviter l’ignorance artificielle liée à la qualité des données, il est donc important de recueillir les bonnes informations pour former les modèles d’IA/ML/DL. Elles doivent être de haute qualité, propres, compréhensibles et représentatives.
Les machines sont le reflet des humains
Parmi les plus grands échecs des systèmes d’IA figurent les résultats biaisés. Ce problème apparaît dans plusieurs cas d’utilisation tels que les dispositifs médicaux, les outils de reconnaissance faciale, les algorithmes de sélection de CV, etc.
L’IA n’a pas naturellement appris à prendre des décisions ou à faire des prédictions. Elle a été formée à partir des données que les humains lui ont fournies. Cependant, l’humain est plein de préjugés conscients ou inconscients. Par conséquent, il arrive souvent que le modèle d’IA perpétue les mêmes préjugés et produise des résultats erronés ou biaisés.
Prenons quelques exemples. Étant donné un système d’IA utilisé dans le domaine de la médecine exclusivement formé avec des données sur des hommes blancs. Les résultats de prédiction de ce modèle pour une femme ou pour un homme de peau noire pourraient être erronés. Le même cas pourrait s’appliquer aux algorithmes de reconnaissance faciale, comme l’IA de Facebook qui a étiqueté des hommes noirs de primates.
Notons que dans ces cas-là, l’ignorance artificielle ou l’échec des modèles ne proviennent pas des modèles eux-mêmes. Autrement dit, l’intelligence des machines dépend d’abord des humains qui la forment. Cela nous ramène donc au problème de la qualité des données qui sont entre autres un reflet de la personnalité des humains.
L’ignorance artificielle c’est aussi l’incompréhension
En termes d’intelligence artificielle, nous pourrions croire que les assistants vocaux sont ce qui se fait de mieux aujourd’hui. D’une part, cela peut être vrai en considérant que les gens interagissent avec tous les dispositifs qui les entourent. Nous parlons notamment des smartphones, des enceintes connectées, des voitures et même des appareils mobiles tels que les lampes ou la climatisation. Ils obéissent tous à des commandes vocales lancées par les utilisateurs.
Ces interactions sont le fruit d’une technologie appelée NLP ou le traitement du langage naturel. Pour faire simple, il s’agit de la capacité des systèmes informatiques à comprendre le langage des humains. Le NLP combine à la fois le NLU (compréhension du langage naturel) et le NLG (génération du langage naturel) afin que la communication puisse passer dans les deux sens.
Mais en analysant le sujet de plus près, parler d’intelligence pourrait être une surestimation de la capacité de ces machines. En d’autres termes, l’ignorance artificielle, c’est aussi la limite de la compréhension des humains par les machines.
Les machines ne sont pas humaines
Le NLU est basé sur le machine learning et la classification pour déchiffrer un énoncé. De ce fait, quand un système reçoit une entrée, l’algorithme ML recherche des modèles, dans ses données d’entraînement, pour trouver les mots de même caractéristiques. Entre autres, un modèle de langage transforme la phrase en une représentation numérique avant de la retranscrire en mots.
Là où cela pose un problème, c’est que dans le langage humain, un mot peut avoir différentes significations. Le contexte est un facteur que les machines soi-disant intelligentes ne maîtrisent pas encore complètement. Ainsi, l’ignorance artificielle peut se traduire par l’incapacité de comprendre les subtilités du langage naturel telles que l’humour ou les métaphores.
Et nous en revenons toujours au même point essentiel que sont les données. La compréhension et la capacité de reproduire le langage des humains nécessitent un grand nombre de données de formations qui permettent l’analyse à la fois syntaxique et sémantique du discours.
- Partager l'article :
