Ce blog rassemble des informations et des réflexions sur l'avenir qui nous attend.

This blog presents informations and views about the future.

Affichage des articles dont le libellé est évolution. Afficher tous les articles
Affichage des articles dont le libellé est évolution. Afficher tous les articles

dimanche 17 décembre 2017

Vie 3.0 - L'avenir de l'intelligence artificielle / Life 3.0 - The future of artificial intelligence.


"Life 3.0" ("Life 3.0"), the latest work by physicist Max Tegmark is a book on the future of artificial intelligence. The title may surprise. It is explained by the fact that the author, in a transhumanist perspective, considers that intelligent machines constitute the next stage of biological evolution, in accordance with a point of view that was particularly expressed by Ray Kurzweil. Life 1.0 is simply biological life. Life 2.0 refers to humanity, which represents the next stage of evolution through its ability to transform the world by its intelligence. Lastly, Life 3.0 would correspond to the arrival, presumed to be imminent, of machines that are sufficiently "intelligent" to become capable of transforming themselves and thus progressing towards ever greater intelligence, thus leading to an artificial super-intelligence, much more powerful than human intelligence. His book is therefore directly in line with the work of the transhumanist futurist Nick Bostrom, who was already considering the hypothesis of such a "super-intelligence". By helping to conceive an artificial intelligence of a still higher level, this super-intelligence would lead to a form of Singularity, resulting in an explosive increase in performance, as imagined by Ray Kurzweil. Nick Bostrom has lent to super-intelligence that would result in very extensive skills in functions as crucial as that of oracle, to bring answers to the most difficult questions, genius, to solve the most thorny problems and sovereign, to adopt the most appropriate decisions. From the network of human intelligence and artificial super-intelligence might emerge a global brain, able to ensure the "sovereign" function, anticipated by Nick Bostrom. A global brain, capable of centralizing massive amounts of information, then drawing the most relevant conclusions, would be able to manage a complex system, or even society as a whole, thus becoming the preferred tool for a global governance. Despite all the assets of artificial intelligence, it is not possible to ignore its potentially dangerous effects. Combined with the acquisition and processing of massive databases (Big Data), it allows not only to monitor the daily actions of everyone, but also to predict the behavior of an entire population. It could thus facilitate the emergence of a police state, with powerful means to detect and repress any resistance movement. From now on, artificial intelligence is used to design ever more powerful weapons. Tomorrow, intelligent robots behaving as suicide fighters will be able to carry chemical, bacteriological or nuclear weapons and activate them at their destination. By controlling all human activities on a global scale, the global brain would facilitate the transition to a form of totalitarian regime. It could also lead humanity to a major catastrophe, through mechanisms that human beings could not decipher. Becoming autonomous, an artificial super-intelligence would have no reason to look after the well-being of humanity. It may even be necessary to program the disappearance of the human species as an answer to the problems of the planet. Max Tegmark imagines many scenarios, often similar to sci-fi narratives, in order to anticipate the possible consequences of the development of a "super-intelligence". He deduces the need to think now about how to use it for the happiness of humanity, by removing the potential threats it represents. This wish is shared by leading scientists, including astrophysicist Stephen Hawking, or major industry players such as Bill Gates or Elon Musk, who cautioned against the danger posed by the most advanced forms of artificial intelligence, emphasizing the need for urgent measures to prevent such risks. Unfortunately, like many techno-prophets, Max Tegmark goes astray in considering machines that would be endowed with consciousness and subjectivity and that would claim an ethical respect of the same order as that required for human beings and more broadly living beings. Paradoxically, while the author insists on his wish to contribute to the happiness of humanity, it is such a confusion between machines and conscious beings that represents the greatest danger for humanity, showing the drifts that await our technical civilization if we do not take care.

"Vie 3.0" ("Life 3.0"), le dernier ouvrage du physicien Max Tegmark est un livre sur l'avenir de l'intelligence artificielle. Le titre peut surprendre. Il s'explique par le fait que l'auteur, dans une perspective transhumaniste, considère que les machines intelligentes constituent la prochaine étape de l'évolution biologique, conformément à un point de vue qui a été notamment exprimé par Ray Kurzweil. La Vie 1.0 correspond simplement à la vie biologique. La Vie 2.0 désigne l'humanité, qui représente l'étape suivante de l'évolution par sa capacité de transformer le monde par son intelligence. Enfin, la Vie 3.0 correspondrait à l'arrivée, pressentie comme imminente, de machines suffisamment "intelligentes" pour devenir capables de se transformer elles-mêmes et de de progresser ainsi vers toujours plus d'intelligence, conduisant à l'apparition d'une super-intelligence artificielle, capable de dépasser largement l'intelligence humaine. L'ouvrage de Max Tegmark s'inscrit donc directement dans le prolongement de l'ouvrage du prospectiviste Nick Bostrom, adepte du transhumanisme, qui envisageait déjà l'hypothèse d'une telle "super-intelligence". En aidant à concevoir une intelligence artificielle d’un niveau encore supérieurcette super-intelligence mènerait vers une forme de singularité, se traduisant par un accroissement explosif des performances, comme l'a imaginé Ray Kurzweil. Nick Bostrom a prêté à cette super-intelligence des compétences très étendues dans des fonctions aussi déterminantes que celle d’oracle, pour apporter des réponses aux questions les plus difficiles, de génie, pour résoudre les problèmes les plus épineux et d’organe souverain, pour adopter les décisions les plus adéquates. De l’association en réseau de l’intelligence humaine et des multiples formes de super-intelligence artificielle déployées à la surface de la Terre, pourrait émerger un cerveau global, qui serait capable d’assurer la fonction « d’organe souverain », anticipée par Nick Bostrom. Un cerveau global, capable de centraliser des quantités massives d’informations, puis d’en tirer les conclusions les plus pertinentes, serait en mesure de gérer un système complexe, voire la société dans son ensemble, en devenant ainsi l’outil privilégié d’une gouvernance planétaireOn ne peut pas, de ce fait, ignorer les effets potentiellement dangereux d’une exploitation de l’intelligence artificielle à des fins de puissance et de domination. Associée à l’acquisition et au traitement de bases de données massives (Big Data), elle permet non seulement de surveiller les gestes quotidiens de chacun, mais aussi de prévoir le comportement de toute une population. Elle pourrait ainsi faciliter l’émergence d’un état policier, disposant de puissants moyens pour détecter et réprimer tout mouvement de résistance. Dès à présent, l’intelligence artificielle sert à concevoir des armes toujours plus puissantes. Demain, des robots intelligents se comportant en combattants-suicides seront capables de transporter des armes chimiques, bactériologiques ou nucléaires et de les activer à leur destination.  En contrôlant l’ensemble des activités humaines à l’échelle planétaire, le cerveau global faciliterait le passage à une forme de régime totalitaire. Il pourrait également entraîner l’humanité vers une catastrophe majeure, par des mécanismes impossibles à décrypter. Devenant autonome, une super-intelligence artificielle n’aurait aucune raison de veiller au bien-être de l’humanité. Elle pourrait même être amenée à programmer la disparition de l’espèce humaine comme réponse aux problèmes de  la planète. Max Tegmark imagine de nombreux scénarios,  dont beaucoup font penser à des récits de science-fiction, afin d'imaginer les conséquences possibles du développement de la "super-intelligence". Il en déduit la nécessité de réfléchir dès à présent à la façon de l'utiliser pour le bonheur de l'humanité, en écartant les menaces potentielles qu'elle représente. Ce souhait st partagé par des scientifiques de renom, parmi lesquels l’astrophysicien Stephen Hawking, ou de grands acteurs du monde de l’industrie tels que Bill Gates ou Elon Musk, qui ont mis  en garde l’opinion contre le danger que représentent les formes les plus avancées d’intelligence artificielle, en insistant sur la nécessité de mesures urgentes pour y parer.
Malheureusement, comme de nombreux techno-prophètes, l'auteur s'égare en envisageant des machines qui seraient dotées de conscience et de subjectivité et qui réclameraient un respect éthique du même ordre que celui qui est requis pour les êtres humains et plus largement les êtres vivants. Paradoxalement, alors que l'auteur insiste sur son souhait de contribuer au bonheur de l'humanité, c'est une telle confusion entre les machines et les êtres conscients qui représente le plus grave danger pour l'humanité. Cette confusion montre bien les dérives qui guettent notre civilisation technicienne si nous n'y prenons pas gare.

lundi 14 avril 2014

L'évolution a-t-elle un sens? / Is evolution meaningful?


The Darwinian theory of evolution is most often presented as the result of random transformations selected through an adaptation mechanism. It is considered to follow all directions. The apparition of human beings is one of its outcomes, among many others. This vision is not accepted by the supporters of the "intelligent design" concept. This concept is rejected by most scientists, but it can be presented in different ways. The biochemist Michael Denton claims that,  according to a structuralist view, only some specific shapes or structures are compatible with the laws of nature, leading to the complex structures which can be observed in living species. He relates these shapes to the anthropic principle, which might imply that an intelligent design is present since the Big bang. Still the mere idea that only structures compatible with the laws of physics and chemistry can be easily accepted, and does not seem uncompatible with the Darwinian mechanism of selection. A more radical view can be derived from the vision of Teilhard de Chardin, who considered that evolution is leading life towards ever more consciousness and intelligence until it might reach the "Omega point". This vision is not either in contradiction with the Darwinian mechanism of selection, as reaching a higher level of consciousness and intelligence helps a living being to reach a better adaptation to its surrounding environment. Therefore it is not necessary to imagine any teleological mechanism for driving such an evolution, which can be achieved through self-organization. The rise of consciousness and intelligence during evolution remains a fact and it may be found surprising that the role of consciousness during evolution has been hardly taken into account until now.

La théorie Darwinienne de l'évolution est souvent interprétée comment répondant au "hasard et à la nécessité", le hasard des mutations et la nécessité de la sélection naturelle. Le résultat de cette évolution est perçu comme un buisson foisonnant, dont aucune orientation n'est privilégiée. Cette vision est contestée par les partisans du "dessein intelligent", forme atténuée du "créationnisme", cherchant à faire passer des idées similaires, mais sous un habillage plus compatible avec le langage scientifique. L'idée centrale est qu'il est impossible de bâtir un organe complexe, semblable à une horloge, par des modifications graduelles menées au hasard, même lorsqu'elles font l'objet d'un mécanisme de sélection. Le concept de "dessein intelligent", qui est soutenu par des lobbys conservateurs, notamment aux Etats-Unis est rejeté par la quasi totalité des scientifiques. Il n'a d'ailleurs jamais pu être formulé sous forme d'une explication concrète des phénomènes observés. 
Il existe une forme encore plus atténuée du même principe, formulée par le biochimiste britannique