-
La création d'une véritable IA est crainte par une importante partie de la communauté scientifique. Bill Gates (Microsoft) Elon Musk (SpaceX, Tesla) ou encore ici Stephen Hawking (Astrophysicien) nous décrivent un scénario plutôt pessimiste :
-
"Les formes primitives d'intelligence artificielle que nous avons déjà se sont montrées très utiles. Mais je pense que le développement d'une intelligence artificielle complète pourrait mettre fin à l'humanité. (...) Une fois que les hommes auraient développé l'intelligence artificielle, celle-ci décollerait seule, et se redéfinirait de plus en plus vite (...) Les humains, limités par une lente évolution biologique, ne pourraient pas rivaliser et seraient dépassés ».
[ - http://www.lemonde.fr/pixels/article/2014/12/03/hawking-l-intelligence-artificielle-pourrait-mettre-fin-a-l-humanite_4533135_4408996.html#T3hppIVjfByPU5Ja.99
- https://www.franceculture.fr/sciences/pourquoi-stephen-hawking-et-bill-gates-ont-peur-de-lintelligence-artificielle
- http://lexpansion.lexpress.fr/high-tech/intelligence-artificielle-attention-danger-meme-bill-gates-a-peur_1647411.html ]
-
Plusieurs mesures sont prises pour tenter d'éviter ces scénarios catastrophes. Google propose par exemple de créer un "bouton d’arrêt d'urgence" sur chaque IA, permettant de stopper celle-ci au moindre écart. (http://www.lemonde.fr/pixels/article/2016/06/07/pourquoi-google-a-concu-un-bouton-rouge-pour-desactiver-des-intelligences-artificielles_4941225_4408996.html). Mais cette mesure coercitive peut avoir l'effet pervers de bloquer l'apprentissage de l'IA et les avancées de recherches, voir même de faire naître chez elle un besoin de bloquer ce système pour fonctionner correctement. Déclenchant ainsi indirectement ce qui voulait être évité, à savoir la début de l'émancipation de l'IA.
-
Néanmoins, nous sommes encore loin de l'Apocalypse 2.0. L'Université de Stanford porte depuis l'automne 2014 le projet AI100 "One Hundred Year Study on Artificial Intelligence" (Étude de 100 ans sur l'intelligence Artificielle).
Ce projet consiste à rendre publiques les avancées en terme de recherches sur toutes les technologies labellisées ''Intelligence Artificielle" (IA). Le comité permanent chargé d'encadrer le projet réunit un panel d'étude tous les 5 ans ; ce panel se constitue de professeurs d'Université, d'experts dans le domaine de l'IA, de représentants de laboratoires de recherches et d'entreprises, d'étudiants en droit, sociologie, sciences politiques et économiques... Cette réunion se solde par un rapport décrivant l'état actuel de l'IA, ses applications effectives et potentielles dans le quotidien ainsi que les retombées sociales, économiques, éthiques et juridiques qui en découlent.
-
En plus d'informer tout un chacun des résultats de recherches menées par différents acteurs dans le secteur de l'Intelligence Artificielle, l'étude a pour but d'envisager le futur de l'intégration des formes d'IA dans la sphère humaine. Les résultats sont destinés au grand public, aux entreprises, aux chercheurs ainsi qu'aux gouvernements locaux, nationaux et internationaux. ( https://ai100.stanford.edu/ )
-
Enfin, si un jour, une IA telle qu'elle est décrite plus haut est créée, il pourrait être opportun d'élargir la notion juridique de personne physique aux IA, leur octroyant de fait, des droits égaux à ceux des humains. ( https://fr.wikipedia.org/wiki/Personne_physique )