Le cerveau humain 2.0

Le rêve de l'ordinateur intelligent continue de faire courir les chercheurs. Mais peut-on construire un ordinateur réellement intelligent ? Quand un ordinateur gagne aux échecs ou Jeopardy peut-on encore se poser cette question, la démonstration n'est-elle pas faite ?

La montée en puissance du projet européen  Human Brain, me donne l'occasion de revenir sur ce sujet que j'avais abordé,  il y a 3 ans dans un de mes premiers billets : Quelle différence entre Google et un enfant de 5 ans ?

L'un des buts fondamentaux de ce projet c'est de simuler le cerveau notamment à l'attention des neuroscientifiques et ainsi tenter de prédire l'effet des maladies ou des thérapies. L'un des effets induits, c'est que la puissance de calcul nécessaire est gigantesque et que donc il faudra faire des innovations en circuits intégrés pour parvenir à ce niveau de simulation.

Mais cet ordinateur une fois construit peut-être sera-t-il intelligent ? Peut-être aurons-nous créé une intelligence sur substrat de silicium ? Comme AL, il nous dira : "Hello Dave".
C'est clairement sur ce rêve et cette ambiguïté que jouent les chercheurs de ce projet.

Allons-nous vivre la 'Singularité' ce point où l'ordinateur dépassera les capacités de l'homme ?

En un sens, nous l'avons vécue depuis longtemps ?
Aucun être humain n'est capable de faire ce que fait Google en trouvant en quelques millisecondes la liste ordonnée  des liens parmi les peta-octets des pages qui contiennent l'expression demandée.
Dans les avions déjà le pilote ne saurait piloter son avion sans l'aide de l'ordinateur. Et pour éviter la mort du pilote, on fait la guerre en drone maintenant.
La voiture n'est plus qu'un ordinateur ambulant, avant que le chauffeur ne devienne carrément inutile [la voiture sans chauffeur].
Les robots marchent et courent de mieux en mieux, il est assez facile de prévoir qu'un robot sans roue battra l'homme aux 100m un jour.

Les ordinateurs peuvent analyser des milliards de comportements et produire des analyses comportementales, qu'aucun n'être humain ne pourrait déceler. Certains programmes analysent nos mails et peuvent déterminer la teneur  positive ou non d'un message bien plus vite qu'un humain. Essayez par exemple cette démo, je vous défie de battre l'ordinateur.

L'ordinateur bat l'homme à plat de couture déjà, pas besoin d'atteindre la singularité pour ça

Mais voilà, il n'est malgré tout pas intelligent !

Une remarque préliminaire, l'ordinateur bat l'homme dans quantité de domaines, pour autant, il ne procède pas du tout de la même manière. Aux échecs par exemple, il explore des milliards de possibilités, là ou l'homme ne peut en faire qu'une centaine  tout au plus et encore, ce sont les champions du monde. L'ordinateur c'est la force brute à la vitesse de la lumière (enfin presque). Donc le cerveau d'un homme ne fonctionne pas comme un ordinateur pas du tout.

Le human brain project, est d'un autre ordre il vise à créer une machine qui marcherait comme un cerveau. Enfin qui simulerait le fonctionnement d'un cerveau, mais sur du silicium. L'intelligence jaillira-t-elle à ce moment ?

J'en viens à ma deuxième remarque. Pour l'instant, aucune machine n'est capable de produire le design de sa version suivante. Il n'y a pas d'auto-design de la machine. Il y a eu des tentatives de programmation dite génétique faisant intervenir le hasard et les mutations sur le programme, à distinguer des mutations génétiques sur les données, mais ça n'a rien donné.  Derrière cette question, il y a la notion d'innovation, en effet un programme ne peut produire que ce qu'on y a mis. Mais l'être humain lui est capable d'apporter une idée totalement neuve, dont personne n'a jamais eu l'idée avant. Un ordinateur peut extraire des informations inédites, on le voit bien dans l'analyse comportementale. Mais il ne fait qu'extraire ce que le programme a pour but de trouver, en ce sens ce n'est pas une innovation. La machine pourra-t-elle un jour créer la version N+1 de son propre programme ? Je ne le pense pas, car le programme qui ferait cela ne ferait que produire les N versions de ce pourquoi il a été conçu. La machine de Turing se contente d’exécuter un programme, elle n'invente pas un programme. Demander à des artistes ou des innovateurs, ils vous montreront que la plupart du temps, leurs innovations ne proviennent pas d'un raisonnement a priori, le raisonnement est second.

Mon argument suivant sera relatif à l'intelligence. Être intelligent, c'est distinguer le vrai du faux, çà n'est pas enchaîner des milliards, ou des milliards de milliards de calculs. On aura beau augmenter la puissance de calcul, seul un être humain peut dire ce qui est vrai ou faux. Et en plus, il peut le dire dès l'âge de 5 ans, c'est-à-dire sans même avoir appris toutes ces méthodes d'inférence que l'ordinateur peut enchaîner à si grande vitesse. Mais the Human Brain project ne pourra-t-il pas justement, en simulant le cerveau d'un enfant de 5 ans, construire une machine qui trouve le vrai. N'y a-t-il pas une zone du cerveau qui s'allume quand nous reconnaissons ce qui est vrai ? Et alors bingo, nous aurions créé la machine qui sait dire le vrai.

Mais, et ce sera mon dernier argument, c'est sans compter avec l'esprit. Nous ne sommes pas que matière, et notre esprit, tout à la fois, s'appuie sur la matière et la commande. Notre esprit nous donne une conscience de nous-même à travers nos sens et notre cerveau. C'est cet esprit qui est intelligent, pas la matière et les organes sous-jacents. C'est cet esprit conscient de lui-même qui est capable de distinguer le vrai du faux et de produire de l'innovation, de produire du neuf avec du vieux.

Le cerveau humain 2.0 sera peut-être et probablement très utile mais il ne sera pas intelligent.

Articles

The Human Brain Project

L'espace sémantique continu

« Singularité » : l’idéologie de la Silicon Valley qui valait des milliards

Humanité 2.0

Nonbiological intelligence will have access to its own design and will be able to improve itself in an increasingly rapid redesign cycle ...

To understand the principles of human intelligence we need to reverse-engineer the human brain