"Life 3.0" ("Life 3.0"), the latest work by physicist Max Tegmark is a book on the future of artificial intelligence. The title may surprise. It is explained by the fact that the author, in a transhumanist perspective, considers that intelligent machines constitute the next stage of biological evolution, in accordance with a point of view that was particularly expressed by Ray Kurzweil. Life 1.0 is simply biological life. Life 2.0 refers to humanity, which represents the next stage of evolution through its ability to transform the world by its intelligence. Lastly, Life 3.0 would correspond to the arrival, presumed to be imminent, of machines that are sufficiently "intelligent" to become capable of transforming themselves and thus progressing towards ever greater intelligence, thus leading to an artificial super-intelligence, much more powerful than human intelligence. His book is therefore directly in line with the work of the transhumanist futurist Nick Bostrom, who was already considering the hypothesis of such a "super-intelligence". By helping to conceive an artificial intelligence of a still higher level, this super-intelligence would lead to a form of Singularity, resulting in an explosive increase in performance, as imagined by Ray Kurzweil. Nick Bostrom has lent to super-intelligence that would result in very extensive skills in functions as crucial as that of oracle, to bring answers to the most difficult questions, genius, to solve the most thorny problems and sovereign, to adopt the most appropriate decisions. From the network of human intelligence and artificial super-intelligence might emerge a global brain, able to ensure the "sovereign" function, anticipated by Nick Bostrom. A global brain, capable of centralizing massive amounts of information, then drawing the most relevant conclusions, would be able to manage a complex system, or even society as a whole, thus becoming the preferred tool for a global governance. Despite all the assets of artificial intelligence, it is not possible to ignore its potentially dangerous effects. Combined with the acquisition and processing of massive databases (Big Data), it allows not only to monitor the daily actions of everyone, but also to predict the behavior of an entire population. It could thus facilitate the emergence of a police state, with powerful means to detect and repress any resistance movement. From now on, artificial intelligence is used to design ever more powerful weapons. Tomorrow, intelligent robots behaving as suicide fighters will be able to carry chemical, bacteriological or nuclear weapons and activate them at their destination. By controlling all human activities on a global scale, the global brain would facilitate the transition to a form of totalitarian regime. It could also lead humanity to a major catastrophe, through mechanisms that human beings could not decipher. Becoming autonomous, an artificial super-intelligence would have no reason to look after the well-being of humanity. It may even be necessary to program the disappearance of the human species as an answer to the problems of the planet. Max Tegmark imagines many scenarios, often similar to sci-fi narratives, in order to anticipate the possible consequences of the development of a "super-intelligence". He deduces the need to think now about how to use it for the happiness of humanity, by removing the potential threats it represents. This wish is shared by leading scientists, including astrophysicist Stephen Hawking, or major industry players such as Bill Gates or Elon Musk, who cautioned against the danger posed by the most advanced forms of artificial intelligence, emphasizing the need for urgent measures to prevent such risks. Unfortunately, like many techno-prophets, Max Tegmark goes astray in considering machines that would be endowed with consciousness and subjectivity and that would claim an ethical respect of the same order as that required for human beings and more broadly living beings. Paradoxically, while the author insists on his wish to contribute to the happiness of humanity, it is such a confusion between machines and conscious beings that represents the greatest danger for humanity, showing the drifts that await our technical civilization if we do not take care.
"Vie 3.0" ("Life 3.0"), le dernier ouvrage du physicien Max Tegmark est un livre sur l'avenir de l'intelligence artificielle. Le titre peut surprendre. Il s'explique par le fait que l'auteur, dans une perspective transhumaniste, considère que les machines intelligentes constituent la prochaine étape de l'évolution biologique, conformément à un point de vue qui a été notamment exprimé par Ray Kurzweil. La Vie 1.0 correspond simplement à la vie biologique. La Vie 2.0 désigne l'humanité, qui représente l'étape suivante de l'évolution par sa capacité de transformer le monde par son intelligence. Enfin, la Vie 3.0 correspondrait à l'arrivée, pressentie comme imminente, de machines suffisamment "intelligentes" pour devenir capables de se transformer elles-mêmes et de de progresser ainsi vers toujours plus d'intelligence, conduisant à l'apparition d'une super-intelligence artificielle, capable de dépasser largement l'intelligence humaine. L'ouvrage de Max Tegmark s'inscrit donc directement dans le prolongement de l'ouvrage du prospectiviste Nick Bostrom, adepte du transhumanisme, qui envisageait déjà l'hypothèse d'une telle "super-intelligence". En aidant à concevoir une intelligence artificielle d’un niveau encore supérieur, cette super-intelligence mènerait vers une forme de singularité, se traduisant par un accroissement explosif des performances, comme l'a imaginé Ray Kurzweil. Nick Bostrom a prêté à cette super-intelligence des compétences très étendues dans des fonctions aussi déterminantes que celle d’oracle, pour apporter des réponses aux questions les plus difficiles, de génie, pour résoudre les problèmes les plus épineux et d’organe souverain, pour adopter les décisions les plus adéquates. De l’association en réseau de l’intelligence humaine et des multiples formes de super-intelligence artificielle déployées à la surface de la Terre, pourrait émerger un cerveau global, qui serait capable d’assurer la fonction « d’organe souverain », anticipée par Nick Bostrom. Un cerveau global, capable de centraliser des quantités massives d’informations, puis d’en tirer les conclusions les plus pertinentes, serait en mesure de gérer un système complexe, voire la société dans son ensemble, en devenant ainsi l’outil privilégié d’une gouvernance planétaire. On ne peut pas, de ce fait, ignorer les effets potentiellement dangereux d’une exploitation de l’intelligence artificielle à des fins de puissance et de domination. Associée à l’acquisition et au traitement de bases de données massives (Big Data), elle permet non seulement de surveiller les gestes quotidiens de chacun, mais aussi de prévoir le comportement de toute une population. Elle pourrait ainsi faciliter l’émergence d’un état policier, disposant de puissants moyens pour détecter et réprimer tout mouvement de résistance. Dès à présent, l’intelligence artificielle sert à concevoir des armes toujours plus puissantes. Demain, des robots intelligents se comportant en combattants-suicides seront capables de transporter des armes chimiques, bactériologiques ou nucléaires et de les activer à leur destination. En contrôlant l’ensemble des activités humaines à l’échelle planétaire, le cerveau global faciliterait le passage à une forme de régime totalitaire. Il pourrait également entraîner l’humanité vers une catastrophe majeure, par des mécanismes impossibles à décrypter. Devenant autonome, une super-intelligence artificielle n’aurait aucune raison de veiller au bien-être de l’humanité. Elle pourrait même être amenée à programmer la disparition de l’espèce humaine comme réponse aux problèmes de la planète. Max Tegmark imagine de nombreux scénarios, dont beaucoup font penser à des récits de science-fiction, afin d'imaginer les conséquences possibles du développement de la "super-intelligence". Il en déduit la nécessité de réfléchir dès à présent à la façon de l'utiliser pour le bonheur de l'humanité, en écartant les menaces potentielles qu'elle représente. Ce souhait st partagé par des scientifiques de renom, parmi lesquels l’astrophysicien Stephen Hawking, ou de grands acteurs du monde de l’industrie tels que Bill Gates ou Elon Musk, qui ont mis en garde l’opinion contre le danger que représentent les formes les plus avancées d’intelligence artificielle, en insistant sur la nécessité de mesures urgentes pour y parer.
Malheureusement, comme de nombreux techno-prophètes, l'auteur s'égare en envisageant des machines qui seraient dotées de conscience et de subjectivité et qui réclameraient un respect éthique du même ordre que celui qui est requis pour les êtres humains et plus largement les êtres vivants. Paradoxalement, alors que l'auteur insiste sur son souhait de contribuer au bonheur de l'humanité, c'est une telle confusion entre les machines et les êtres conscients qui représente le plus grave danger pour l'humanité. Cette confusion montre bien les dérives qui guettent notre civilisation technicienne si nous n'y prenons pas gare.
