L'AI ne distingue pas le vrai du faux



Le grand retour de l'Intelligence Artificielle est à l'oeuvre.

Lorsque je faisais mes études fin des années 80, c'était la grande mode. Puis pendant 25 ans, on en a plus trop entendu parlé et mêmes les recherches académiques sur le sujet ont beaucoup baissées.

Mais maintenant, les applications visibles du grand public commencent à poindre :

  • Siri, et les assistants personnels utilisent des réseaux de neurones 'profonds'
  • Les voitures automatiques utilisent les réseaux de neurones 'profonds' pour maintenir la voiture dans les bandes blanches ou pour identifier des zones de l'image comme voiture, piéton ou autres objets.



Réseaux de neurones Kesako ?

Pour le non initié, les réseaux de neurones, c'est un peu magique. On notera que c'est aussi le cas pour les initiés, car en fait on n'a pas de vrai modèle théorique permettant de comprendre réellement pourquoi ça marche si bien.
Version reader digest :

  • le réseau de neurones utilise un modèle ultra simplifié de la fonction réalisé par un neurone du cerveau humain.
  • les neurones sont connectés entre eux généralement en couche de neurones, et aussi souvent en plusieurs réseaux successifs
  • pour que le réseau serve à quelque chose, on lui apprend le bon résultat sur de très grande quantité de données. 
  • Pour cela, on lui donne, par exemple, une image en entrée, et on lui indique le résultat qu'on attend et qui est au début très différent du résultat produit par le réseau. 
  • Puis un algorithme ajuste le réseau pour s'approcher du bon résultat, et on recommence sur beaucoup beaucoup d'images
  • A un certain moment, on arrête de lui apprendre et quand on présente des images en entrée on a généralement le bon résultat. La vidéo ci-dessous montre la puissance des calculs :


Pour une excellente présentation plus détaillée et accessible, je vous conseille cette vidéo (1h30).



Si cette technologie, inventée il y a plus de 25 ans, (re)fait surface aujourd'hui, c'est qu'il faut des puissances de calcul phénoménales pour arriver à faire ça avec suffisamment de neurone (typiquement plusieurs millions de nos jours).

L'humain dans la boucle

On notera toutefois une chose importante, c'est que l'être humain reste dans la boucle d'apprentissage. C'est lui qui choisi les images de départ et qui indique le bon résultat.

Comme le dit si bien cet article, Why you can't remove humans from the AI Buzz, si on n'a pas appris au réseau à distinguer les chats, des chiens ... Eh bien le réseau ne fera jamais la différence.

Un enfant de 5 ans fait vite la différence, croyez-moi !

Le réseau de neurones ne fait que singer à merveille l'être humain. Mais pourquoi n'est il pas vraiment intelligent ?

Le vrai du faux

Si on creuse un peu plus à fond le sujet, il y a un paradoxe étonnant dans l'ordinateur.  En effet, l'ordinateur manipule les 0 et les 1 à des vitesses hallucinantes. Il est capable de faire des calculs logiques sur des quantités de données qu'aucun être humain n'est capable de saisir. C'est d'ailleurs pour cela qu'il gagne aux échecs et au jeu de go plus récemment :



Mais l'ordinateur ne peut pas distinguer le vrai du faux. Il lui faut toujours un être humain qui attribue un sens et qui dise le vrai = 1, le faux = 0, et il lui faut aussi encore un être humain pour dire comment on manipule les 0 et les 1 pour donner un résultat qui fasse du sens à un être humain.

L'ordinateur singe le raisonnement humain, sans jamais comprendre à aucun moment ce qu'il fait.
Ça reste et restera toujours un bout de silicium qui manipule des électrons.
Premièrement, c'est l'être humain qui définit comment manipuler ces électrons,
C'est toujours l'être humain qui attribue la valeur 0 ou 1 à ces manipulations d'électron, et qui donc donne une valeur logique aux résultats. Mais surtout, c'est l'être humain qui donne un sens aux résultats produit par ces manipulations logiques.

Dans l'exemple précédent de Microsoft, certes l'ordinateur a associé l'image du chien au mot chien, mais le sens du mot chien lui échappe et ce que c'est qu'est un chien encore plus.

Or l'intelligence est dans le sens des choses d'abord,  dans notre capacité d'être humain à distinguer le vrai du faux, pas dans la capacité de manipulation ou de stockage de l'information. Capacités dans lesquelles l'ordinateur nous bat et depuis très longtemps à plat de couture.

Ce qui rend les ordinateurs si utiles et si présents dans notre vie quotidienne, c'est que justement nous pouvons décharger notre cerveau de cette tâche de mémorisation et de manipulation des informations, pour nous concentrer sur d'autres tâches, comme ne plus conduire une voiture.
Comme tous les outils, les ordinateurs décuplent nos capacités. Ils décuplent notre capacité de mémorisation et d'inférence, sans pour autant être intelligent.


Quelques articles intéressant sur le sujet


Guide éthique de l'IA
http://www.genethique.org/fr/un-guide-ethique-de-lia-redige-par-un-collectif-de-chercheurs-academiciens-et-philosophes-66730.html#.WFQSK_nhDb1


Semantic Machines
https://techcrunch.com/2016/12/21/semantic-machines-hopes-to-best-google-in-the-conversational-ai-game/

new AI excitement
https://www.linkedin.com/pulse/ai-the-new-excitement-radhika-jadcherla?trk=mp-reader-card

http://qz.com/870658/in-the-race-to-build-the-best-ai-theres-already-one-clear-winner/
nvidia le grad gagnant

the future of AI
http://thenextweb.com/insider/2016/12/23/we-chat-with-deep-learning-company-skymind-about-the-future-of-ai/


Pourquoi l'intelligence est le futur de la croissance
http://www.blogdumoderateur.com/intelligence-artificielle-croissance/
très bon papier

Commentaires