L'avenir : la guerre ou les machines ?

Le Billet Eco : "L'avenir de l'emploi (Jobocalypse)" publié dans Monaco Business News n'aborde qu'une des conséquences du développement de l'Intelligence Artificielle ("IA"). Il y en a d'autres : de nombreux scientifiques ont des craintes qui vont très au-delà. Mais nous serons sauvés.

"A partir du moment où une civilisation invente les ondes radio, elle est à 50 ans des ordinateurs et probablement ensuite à 50 ou 100 ans d’inventer l’intelligence artificielle. A ce moment là, les cerveaux mous et spongieux deviennent un modèle obsolète."
Seth Shostak (Directeur du SETI)

De la jobocalypse ...

La crainte de l'impact de la robotisation sur l'emploi n'est vraiment pas nouvelle. Sur BBC News, Justin Parkinson rapporte que, juste avant de mourir en 1930, l'ancien ministre britanique et F. E. Smith, Earl of Birkenhead¹, avait publié ses prédictions pour 100 ans après. Cela nous place dans 15 ans, en 2030, et il prévoyait des progrès médicaux, le développement de l'aviation pour remplacer les automobiles, etc.², et aussi que les machines remplaceraient de plus en plus les humains, au point que ceux-ci ne travailleraient plus que 2 heures par jour, juste pour surveiller leur bon fonctionnement. Smith prévoyait aussi une sorte d'eugénisme socialement imposé³ et il croyait que l'Etat aurait à empêcher la création d'une "race d'esclaves" dédiée à cette surveillance ⁴.

Smith avait rédigé ses prédictions avant l'invention de l'informatique, et n'avait pas imaginé que les machines pourraient se surveiller elles-mêmes. De fait, il n'y a plus besoin d'esclaves⁵ et les robots vont transformer ce qu'est l'emploi et nous obliger à être créatifs pour nous adapter à un nouveau modèle économique⁶.

Mais ce n'est que le début.

... à la destruction totale

"D’ici trente ans, nous aurons les moyens technologiques de créer une intelligence superhumaine. Peu après, l’ère humaine sera terminée."
Vernor Vinge (1993)

Le raisonnement est connu : les ordinateurs sont de plus en plus intelligents et ils progressent à un rythme régulier sans aucun signe d'arrêt, il suffit donc de poursuivre leur courbe de croissance pour savoir quand ils dépasseront l'intelligence humaine.

Prédire l'avenir est difficile et bien sûr rien n'est certain, mais les arguments usuels n'apparaissent pas assez solides pour réfuter ce raisonnement :

• Rétroaction négative : Ne faire que poursuivre visuellement une courbe de tendance pour faire une prévision est généralement sans valeur : il faut pour cela être absolument certain qu'aucune rétroaction négative ne sera susceptible d'intervenir. Un exemple célèbre en est celui des prédictions climatiques : elles annoncent, alternativement mais toujours "avec certitude", un futur qui sera soit glacial soit tropical selon les variations constatées sur les quelques années précédentes :
  
  Ce risque est cependant très faible en informatique : depuis son invention et jusqu'à présent, l'évolution a toujours été dans le même sens (contrairement au climat) et on ne peut imaginer de changement.

• Barrières scientifiques : L'amélioration des ordinateurs passe par la réduction de la taille des composants, or nous sommes déjà dangereusement proches de la limite physique, qui apporte des problèmes nouveaux. Aller plus loin obligera à un changement important, et nous ne savons pas si celui-ci sera trouvé.
  Cependant, toutes les prédictions au cours de l'histoire sur l'existence de barrières scientifiques au progrès ont systématiquement été ridiculisées (et souvent très rapidement) par les découvertes suivantes.

• Spécificités humaines : Les ordinateurs ne parviendront probablement pas immédiatement à reproduire l'intégralité de l'intelligence humaine, et celle-ci présente peut-être des particularités impossibles à reproduire.
  Cet argument est certainement le plus solide, mais il souffre aussi d'une faiblesse : les robots n'auront pas besoin de reproduire l'intelligence humaine, ni même de la battre sur tous les points, il leur suffira d'être suffisamment intelligents et autonomes pour pouvoir transformer le monde à leur avantage pour que les humains y soient de moins en moins adaptés (et que leurs spécificités leurs soient de moins en moins utiles).

• Transhumanisme (h+) : Il n'y a pas que les ordinateurs qui profitent des avancées technologiques et scientifiques pour s'améliorer, les humains aussi, et dans cette course les humains partent avec une avance considérable.
  La limite est que les humains sont aussi handicapés par un historique lourd et par un processus de sélection lent et sans but, (pouvant même aller dans le sens opposé⁷). L'amélioration humaine pourrait donc retarder la date de supériorité des ordinateurs, mais pas l'interdire. Contrairement à la fable de La Fontaine, la course entre le robot-lièvre et l'humain-tortue n'a pas de ligne finale.

En fait, certain scientifiques sont maintenant tellement persuadés que la création d'une intelligence artificielle est possible, et donc inévitable, qu'ils prévoient que les premiers contacts avec une intelligence extra-terrestre le seront avec des machines : Le Journal de la Science.

Nos "sauveurs"

L'avenir apparaît ainsi déjà tracé : des bots prendront le pouvoir et transformeront l'environnement à leur avantage ce qui le rendra de moins en moins adapté à nos besoins, ce qui nous entraînera dans une spirale destructrice jusqu'à notre disparition plus ou moins complète. En d'autres termes : la dystopie des films de science fiction⁸ était bien prédictrice, et l'ère humaine sera bientôt terminée.

Pouvons-nous encore être sauvés ?

En fait, oui, tout espoir n'est pas perdu : cet avenir promis n'a que très peu de chance de se réaliser.

Les prédictions oublient en effet un autre facteur déterminant : la recherche est fragile. Il suffirait en effet d'une crise, d'une guerre ou de mouvements sociaux suffisamment étendus pour la désorganiser et bloquer ses avancées. De même, l'étatisation croissante de l'économie⁹ aurait un impact destructeur sur la créativité, et suffirait à elle-seule à empêcher l'aboutissement des recherches. Or, que prévoyons-nous pour l'avenir à très court terme ? La montée en puissance du jihad et une mainmise toujours plus oppressive des Etats sur leurs populations. Nous serons donc dans l'incapacité d'inventer les machines qui nous remplaceront.

Rien n'est certain, bien sûr, mais il est ironique que l'humanité puisse finir par être sauvée par les islamistes et les socialistes...

Philippe Gouillou
6 janvier 2015

Liens

• BBC News - Strange predictions for the future from 1930. BBC News. Justin Parkinson. 26 december 2014

• La forme dominante de l'intelligence dans le cosmos est-elle artificielle ? Maxime Vaïl. Le Journal de la Science. lundi 22 décembre 2014

• "Lettre Neuromonaco 76: La révolution Big Data : déjà la Singularité". Philippe Gouillou. Neuromonaco. 17 Jun 2013

• Vinge, V. (1993). The Coming Technological Singularity: How to Survive in the Post-Human Era. In VISION-21 Symposium (pp. 1–11).

• The world is not falling apart: The trend lines reveal an increasingly peaceful period in history. Steven Pinker and Andrew Mack. Slate. Dec 22, 2014

Image

• Photo du film "300" de Zack Snyder (2006)

Notes

©Philippe Gouillou - Mardi 6 janvier 2015