Le problème de l'IA Les machines apprennent des choses, mais ne peuvent pas les comprendre

Tout le monde parle de "l'IA" ces jours-ci. Mais que vous cherchiez Siri, Alexa ou uniquement les fonctions de correction automatique présentes sur le clavier de votre smartphone, nous ne créons pas d'intelligence artificielle à usage général. Nous créons des programmes pouvant effectuer des tâches spécifiques et limitées.

Les ordinateurs ne peuvent pas «penser»

Chaque fois qu'une entreprise annonce une nouvelle fonctionnalité «IA», cela signifie généralement qu'elle utilise l'apprentissage par la machine pour créer un réseau de neurones. "L'apprentissage machine" est une technique qui permet à une machine "d'apprendre" comment mieux exécuter une tâche spécifique.

Nous n'attaquons pas l'apprentissage automatique ici! L'apprentissage automatique est une technologie fantastique avec beaucoup d'utilisations puissantes. Mais ce n’est pas une intelligence artificielle polyvalente, et comprendre les limites de l’apprentissage automatique vous aide à comprendre pourquoi notre technologie actuelle d’IA est si limitée..

L '«intelligence artificielle» des rêves de science-fiction est une sorte de cerveau informatisé ou robotisé qui pense à des choses et les comprend comme le font les humains. Une telle intelligence artificielle serait une intelligence artificielle générale (AGI), ce qui signifie qu’elle peut penser à de multiples choses différentes et appliquer cette intelligence à de multiples domaines différents. Un concept apparenté est celui de «l'IA forte», qui serait une machine capable de faire l'expérience d'une conscience semblable à celle d'un être humain..

Nous n'avons pas encore ce type d'IA. Nous ne sommes nulle part près de là. Une entité informatique comme Siri, Alexa ou Cortana ne comprend pas et ne pense pas comme nous, les humains. Cela ne «comprend» pas vraiment les choses.

Les intelligences artificielles que nous avons sont formées pour effectuer très bien une tâche spécifique, en supposant que les humains puissent fournir les données qui les aident à apprendre. Ils apprennent à faire quelque chose mais ne le comprennent toujours pas.

Les ordinateurs ne comprennent pas

Gmail a une nouvelle fonctionnalité «Smart Reply» (réponse intelligente) qui suggère des réponses aux emails. La fonction Smart Reply a identifié «Envoyé de mon iPhone» comme une réponse commune. Il souhaitait également suggérer «Je t'aime» en réponse à de nombreux types de courriels, y compris des courriels professionnels..

C'est parce que l'ordinateur ne comprend pas ce que signifient ces réponses. On vient d'apprendre que beaucoup de gens envoient ces phrases dans des courriels. Il ne sait pas si tu veux dire "je t'aime" à ton patron ou pas.

Autre exemple, Google Photos a créé un collage de photos accidentelles du tapis dans l'une de nos maisons. Il a ensuite identifié ce collage comme point fort récent sur un hub Google Home. Google Photos savait que les photos étaient similaires mais ne comprenait pas à quel point elles étaient sans importance..

Les machines apprennent souvent à jouer avec le système

L'apprentissage automatique consiste à assigner une tâche et à laisser un ordinateur décider du moyen le plus efficace de le faire. Parce qu'ils ne comprennent pas, il est facile de se retrouver avec un ordinateur «apprenant» à résoudre un problème différent de celui que vous souhaitiez..

Voici une liste d’exemples amusants dans lesquels des «intelligences artificielles» créées pour jouer à des jeux et des objectifs assignés viennent d’apprendre à jouer au système. Ces exemples proviennent tous de cet excellent tableur:

"Les créatures élevées pour la vitesse grandissent vraiment et génèrent des vitesses élevées en tombant."
"L'agent se tue à la fin du niveau 1 pour éviter de perdre en niveau 2."
"L'agent met le jeu en pause indéfiniment pour ne pas perdre."
«Dans une simulation de vie artificielle où la survie nécessitait de l'énergie mais que l'accouchement n'avait pas de coût énergétique, une espèce a développé un mode de vie sédentaire consistant principalement à s'accoupler afin de produire de nouveaux enfants pouvant être mangés (ou utilisés comme partenaires pour produire des enfants plus comestibles). . "
“Etant donné que les IA étaient plus susceptibles d’être“ tuées ”si elles perdaient une partie, pouvoir écraser la partie était un avantage pour le processus de sélection génétique. Par conséquent, plusieurs IA ont développé des moyens de faire planter le jeu. "
«Les réseaux de neurones ont évolué pour classer les champignons comestibles et toxiques en tirant parti des données présentées dans un ordre alternatif et en n'apprenant aucune des caractéristiques des images d'entrée.»

Certaines de ces solutions peuvent sembler intelligentes, mais aucun de ces réseaux de neurones n'a compris ce qu'ils faisaient. Ils se sont vu assigner un objectif et ont appris un moyen de le réaliser. Si l'objectif est d'éviter de perdre dans un jeu d'ordinateur, appuyer sur le bouton de pause est la solution la plus simple et la plus rapide à trouver..

Apprentissage automatique et réseaux de neurones

Avec l'apprentissage automatique, un ordinateur n'est pas programmé pour effectuer une tâche spécifique. Au lieu de cela, il est alimenté en données et évalué sur ses performances à la tâche.

Un exemple élémentaire d’apprentissage automatique est la reconnaissance d’image. Supposons que nous voulions former un programme informatique pour identifier les photos contenant un chien. Nous pouvons donner à un ordinateur des millions d'images, certaines contenant des chiens, d'autres non. Les images sont étiquetées, qu’elles aient un chien ou non. Le programme informatique "s'entraîne" lui-même à reconnaître à quoi ressemble un chien à partir de cet ensemble de données.

Le processus d'apprentissage automatique est utilisé pour former un réseau de neurones, qui est un programme informatique avec plusieurs couches par lesquelles chaque entrée de données passe, et chaque couche leur attribue différentes pondérations et probabilités avant de prendre une décision. Nous modélisons comment le cerveau pourrait fonctionner, avec différentes couches de neurones impliquées dans la réflexion d'une tâche. «Apprentissage en profondeur» fait généralement référence aux réseaux de neurones avec plusieurs couches empilées entre l’entrée et la sortie..

Parce que nous savons quelles photos de l'ensemble de données contiennent des chiens et qui n'en ont pas, nous pouvons les afficher via le réseau de neurones et voir si elles donnent la réponse correcte. Si le réseau décide qu'une photo en particulier n'a pas de chien, par exemple, il existe un mécanisme permettant de signaler au réseau qu'il ne se trompe pas, d'ajuster certaines choses et de réessayer. L'ordinateur ne cesse de mieux identifier si les photos contiennent un chien.

Tout cela se passe automatiquement. Avec le bon logiciel et de nombreuses données structurées sur lesquelles l'ordinateur doit s'entraîner, l'ordinateur peut ajuster son réseau de neurones pour identifier les chiens sur des photos. Nous appelons cela "l'IA".

Mais au bout du compte, vous ne disposez pas d'un programme informatique intelligent qui comprend ce qu'est un chien. Vous avez un ordinateur qui a appris à décider si un chien est sur une photo ou non. C'est encore assez impressionnant, mais c'est tout ce qu'il peut faire.

Et, selon les informations que vous avez fournies, ce réseau de neurones pourrait ne pas être aussi intelligent qu'il en a l'air. Par exemple, s'il n'y a pas de photos de chats dans votre jeu de données, le réseau de neurones peut ne pas voir la différence entre les chats et les chiens et peut marquer tous les chats comme des chiens lorsque vous les lâchez sur de vraies photos..

A quoi sert l'apprentissage machine??

L'apprentissage automatique est utilisé pour toutes sortes de tâches, y compris la reconnaissance vocale. Les assistants vocaux tels que Google, Alexa et Siri maîtrisent si bien les voix humaines grâce aux techniques d'apprentissage automatique qui les ont formés à la compréhension du langage humain. Ils se sont entraînés sur une quantité énorme d’échantillons de parole et sont de mieux en mieux à comprendre quels sons correspondent à quels mots..

Les voitures autonomes utilisent des techniques d'apprentissage automatique qui entraînent l'ordinateur à identifier des objets sur la route et à y réagir correctement. Google Photos regorge de fonctionnalités telles que les albums en direct qui identifient automatiquement les personnes et les animaux sur les photos à l'aide de l'apprentissage automatique..

Alphabet DeepMind a utilisé l’apprentissage automatique pour créer AlphaGo, un programme informatique capable de jouer au jeu de plateau complexe Go et vaincre les meilleurs humains du monde. L'apprentissage automatique a également été utilisé pour créer des ordinateurs capables de jouer à d'autres jeux, des échecs à DOTA 2..

L'apprentissage automatique est même utilisé pour l'identification de visage sur les derniers iPhone. Votre iPhone construit un réseau de neurones qui apprend à identifier votre visage et Apple inclut une puce dédiée au «moteur neural» qui exécute tout le calcul pour cette tâche et d'autres tâches d'apprentissage automatique..

L'apprentissage automatique peut être utilisé pour beaucoup d'autres choses, de l'identification de la fraude par carte de crédit aux recommandations de produits personnalisées sur les sites Web d'achat..

Mais les réseaux de neurones créés avec l'apprentissage automatique ne comprennent vraiment rien. Ce sont des programmes bénéfiques qui peuvent accomplir les tâches restreintes pour lesquelles ils ont été formés, et c'est tout.

Crédit d'image: Phonlamai Photo / Shutterstock.com, Tatiana Shepeleva / Shutterstock.com, Photographie Divers / Shutterstock.com.