L’intelligence artificielle pourrait-elle être malveillante ?

Depuis une quinzaine d’années, on peut voir régulièrement au cinéma des films d’anticipation qui traitent de ce sujet. Dernier en date : Chappie (réalisé par Neill Blomkamp), où il est question d’un robot doté d’une « conscience », c’est-à-dire capable d’apprendre de ses interactions avec son environnement, d’avoir des émotions et de les exprimer, de s’adapter et de réutiliser des informations mémorisées. Les robots dotés d’un « esprit » et capables de « penser » comme Chappie seraient d’une certaine façon l’expression ultime de l’intelligence artificielle.

Qu’est-ce que l’intelligence artificielle ?

On pourrait définir l’intelligence artificielle comme un système informatique dont le programme tente de simuler l’intelligence humaine. Mais la première limite d’une simulation informatique de l’intelligence humaine est que celle-ci n’est qu’un concept. Il n’existe en effet aucune définition concrète de l’intelligence. Or si l’intelligence humaine n’est pas opérationnalisable, une imitation informatique de ses processus ne peut être qu’approximative.

Plus modestement, l’objectif principal de ces programmes d’intelligence artificielle est de pouvoir analyser des informations de toutes sortes et accomplir des tâches de calcul comparables à celles réalisées par des êtres humains.

De tels programmes existent déjà et leurs vitesses de calcul dépassent largement celles d’un cerveau humain. Mais ces programmes informatiques pourraient-ils devenir suffisamment puissants au point de simuler l’esprit humain, d’être doté d’une intentionnalité et d’une conscience, et de devenir un danger pour l’humanité ? Pas si sûr…

Qu’est-ce que la conscience ?

Selon le médecin Gérald M. Edelman1, la conscience humaine est l’état faisant appel à la reconnaissance par une personne de ses propres actes et émotions, dans le présent, le passé ou le futur. Grâce à sa conscience, chaque être humain peut construire des modèles cognitifs abstraits issus de ses différentes expériences sensorielles. Ces modèles peuvent être mémorisés et permettre de nouveaux apprentissages.

Soumise à la sélection naturelle, la conscience s’est développée depuis le début de l’histoire de l’humanité pour répondre aux différentes exigences de son environnement. On dit qu’elle s’est adaptée. Cette faculté d’adaptation est rendue possible par le développement et la sélection de connexions entre les neurones du cerveau.

Ce qui est à la base du fonctionnement du cerveau humain, c’est donc sa structure biologique.

Les robots peuvent-ils « penser », être dotés d’une conscience  ?

Pour envisager d’aller au-delà d’une intelligence artificielle, et concevoir une machine qui « pense », il faut donc se demander si une conscience sans biologie peut être possible. Autrement dit, pourrait-on construire une « pensée » sans les éléments constitutifs du vivant ?

Pour Gérald M. Edelman, la réponse est clairement non. Contrairement à un ordinateur, le cerveau est bâti selon des principes qui assurent la diversité et la dégénérescence. Notre conscience naît de nos échanges affectifs et des relations existant entre notre perception, la formation de concepts et notre mémoire. Selon lui, l’esprit humain est donc « incarné », c’est-à-dire qu’il est le résultat d’interactions entre le corps, le cerveau et l’environnement.

Un « ordinateur-cerveau» ne serait donc pas concevable dans la mesure où l’esprit ne peut être compris sans la biologie. C’est pourquoi l’idée qu’une machine douée de conscience soit capable de nous asservir relève encore du domaine de la science-fiction (les craintes évoquées par certains scientifiques concernant les dangers de l’intelligence artificielle ne sont d’ailleurs pas partagées par tous les chercheurs). Par contre, nous aurions raison de nous inquiéter de certains changements de nos sociétés permis par la robotique. C’est le cas par exemple des dangers des manipulations génétiques, aujourd’hui facilitées par les progrès technologiques.

1Edelman, G. M. (2000). Biologie de la conscience. Paris : Odile Jacob.

Contactez-nous

Après cette lecture, quel est votre avis ?
Cliquez et laissez-nous un commentaire…

Source : http://blog.francetvinfo.fr/dans-vos-tetes/2015/03/23/lintelligence-artificielle-pourrait-elle-etre-malveillante.html

par Jérome Lichtle