Le cerveau global / The global brain

According to the philosopher and futurist Nick Bostrom, the capabilities of Artificial Intelligence will soon exceed those of the human brain. Such an artificial superintelligence should help to build an even more powerful machine.  It might fulfill unprecendented tasks. Nick Bostrom considers that, apart from being a simple tool, an artificial intelligence might become an oracle, answering to most difficult questions, a genius, solving most difficult problems or a sovereign, able to rule organisations. By connecting superintelligent machines with the collective intelligence of human beings, some kind of global brain might emerge,.With capabilities far exceeding those of a single humain brain, such a global brain would be able to act as a "sovereign", ensuring the governance of the whole planet. This  global brain might help to address major challenges facing humanity, but it might result into an authoritarian or even totalitarian regime. The global brain would not necessarily take the best decisions for humanity. Instead it might lead the world to a catastrophy, through a path which would not be understood by human beings. The potential danger of Artificial Intelligence has been pointed out by Ellon Musk, who says that it is "our major existential threat", by  the astrophysicist Stephen Hawking and by many other scientists

---

Selon le philosophe et prospectiviste Nick Bostrom, l'intelligence artificielle devrait bientôt dépasser les performances du cerveau humain. Une telle super-intelligence artificielle va aider à concevoir une machine dotée d’une intelligence encore supérieure, en entraînant ainsi un développement accéléré de l’Intelligence Artificielle. Outre une fonction de simple outil multi-tâches, Nick Bostrom assigne trois fonctions possibles à une telle super-intelligence : celle d’oracle, pour répondre aux questions les plus difficiles, de génie, pour résoudre les problèmes les plus épineux et de souverain, auquel serait confié le choix des décisions optimales. De l’association en réseau de l’intelligence humaine et d’une super-intelligence artificielle pourrait émerger un cerveau global, doté d’un niveau d’intelligence opératoire supérieur à tout ce qu’il est encore possible de concevoir. Ce cerveau global serait capable d’assurer la fonction de « souverain », anticipée par Nick Bostrom.

Dès 1938, l’écrivain britannique H.G. Wells avait imaginé un cerveau mondial qu’il avait conçu comme une sorte d’encyclopédie universelle, préfigurant Wikipédia. L’idée d’un cerveau global a été également émise pour désigner l’intelligence collective de l’humanité, considérée comme formant un super-organisme. L’hypothèse d’un cerveau global formé à partir de la mise en réseau planétaire de machines dotées d’Intelligence Artificielle est plus récente. Un tel cerveau global pourrait notamment résulter de l’évolution de l’Internet par auto-organisation vers un système de plus en plus intelligent, au terme d’un processus d’émergence qui échapperait au contrôle humain. Un cerveau global, capable de centraliser des informations en quantités massives, puis d’en tirer les conclusions les plus pertinentes, serait en mesure de gérer un système complexe, voire la société dans son ensemble, en devenant ainsi l’outil privilégié d’une gouvernance planétaire. Plutôt que de favoriser une entente mondiale, le développement d’un tel « cerveau global » aurait sans doute comme effet d'instaurer un pouvoir hégémonique. Imposer ses décisions impliquerait un régime autoritaire, voire même totalitaire. Le « cerveau global » risque également d’entraîner l’humanité vers une catastrophe finale par des mécanismes qui seraient impossibles à décrypter. Une Intelligence Artificielle qui deviendrait autonome, n’aurait aucune raison de veiller au bien de l’humanité et pourrait même considérer la disparition de l’espèce humaine comme la meilleure solution aux problèmes de la planète.
Le danger que représentent les formes les plus avancées d’Intelligence Artificielle commence à être reconnu. Le célèbre entrepreneur américain Ellon Musk a déclaré qu'il s'agit là de la menace existentielle la plus grave concernant l'humanité. Plusieurs scientifiques de renom, dont l’astrophysicien Stephen Hawking, ont mis en garde l’opinion sur ce danger et l’urgence de mesures adéquates pour y parer.