La conscience est-elle un phénomène électrique?/Is consciousness an electrical phenomenon?

A la Recherche de la Conscience Perdue

Alexandre Rojey

tous les livres sur Babelio.com

The idea that consciousness is purely the result of electrochemical exchanges occurring in the neural circuits of the brain is now widely accepted. Consciousness is then perceived as the equivalent of software equipping the supercomputer that would be the brain.Conversely, with the progress of digital technologies and artificial intelligence, many people imagine the imminent arrival of robots, not only thinking, but also aware and endowed with feelings. In this case, an ethics of behavior vis-à-vis such "sentimental robots" should be provided.

In this context, the question of consciousness becomes a burning activity because only a better perception of its uniqueness can establish a radical difference between the human being and the machine. The idea of ​​a soul controlling thought, as Descartes still admitted, has become incompatible with the achievements of neuroscience. Is it possible, however, to view human subjectivity from a point of view other than that of a reductive materialism?

A book to be published on January 28 in bookstores entitled "In search of lost consciousness - The Presence and the Open" explores the possibility of synthesizing the achievements of neuroscience and the teachings of great spiritual traditions.

Building on the knowledge acquired concerning the nature of consciousness and the matter-mind link, this work shows that it is possible to overcome current cleavages, by appealing to the notion of levels of reality. Subjectivity then finds its source in the notion of Presence and, beyond, within the unlimited space of the Open.

While diving into the interior allows joining the Presence and discovering a spirituality that remains compatible with different religious or philosophical convictions, acting in the interpersonal and intergenerational space of the Open gives meaning for undertaking to rebuild a society invaded by consumerism.

---

A la Recherche de la Conscience Perdue

Alexandre Rojey

tous les livres sur Babelio.com

L’idée selon laquelle la conscience est purement issue des échanges électrochimiques se produisant dans les circuits neuronaux du cerveau est à présent largement admise. La conscience est alors perçue comme l’équivalent d’un software équipant le superordinateur que serait le cerveau.

Réciproquement, avec les progrès des technologies numériques et de l’intelligence artificielle, nombreux sont ceux qui imaginent l’arrivée prochaine de robots, non seulement pensants, mais également conscients et dotés de sentiments. Il faudrait dans ce cas prévoir une éthique de comportement vis-à-vis de tels « robots sentimentaux ».

Dans ce contexte la question de la conscience devient d’une brûlante activité car seule une meilleure perception de son caractère unique permet d’établir une différence radicale entre l’être humain et la machine. L’idée d’une âme contrôlant la pensée comme l’admettait encore Descartes est devenue incompatible avec les acquis des neurosciences. Est-il possible néanmoins d’envisager la subjectivité humaine d’un point de vue autre que celui d’un matérialisme réducteur ?

Un ouvrage à paraître le 28 janvier en librairie intitulé « A la recherche de la conscience perdue – La Présence et l’Ouvert » explore la possibilité d’opérer une synthèse entre les acquis des neurosciences et les enseignements des grandes traditions spirituelles.

En s’appuyant sur les connaissances acquises concernant la nature de la conscience et le lien matière-esprit, cet ouvrage montre qu’il est possible de dépasser les clivages actuels, en faisant appel à la notion de niveaux de réalité. La subjectivité trouve alors sa source dans la notion de Présence et, au-delà, au sein de l’espace illimité de l’Ouvert.

Tandis que plonger à l’intérieur de soi permet de rejoindre la Présence et de découvrir une forme spiritualité qui reste compatible avec différentes convictions religieuses ou philosophiques, agir dans l’espace interpersonnel et intergénérationnel de l’Ouvert permet de redonner un sens au travail à entreprendre pour reconstruire une société envahie par le consumérisme et le simulacre.

Intelligence artificielle et conscience humaine/ Artificial Intelligence and human consciousness

At the time of transhumanism and artificial intelligence, the question of human consciousness finds a singular relevance. The ability of computers to perform an increasing number of tasks that were exclusively the responsibility of human intelligence led to the assimilation of these two forms of intelligence. Advances in neuroscience have helped to reinforce this assimilation, since brain neuron circuits have been identified to electronic circuits. Many journalists and even scientists like Michio Kaku have imagined machines that are not only capable of thinking, but also conscious, that is, endowed with subjectivity or even feelings. In this context, it becomes more important than ever to wonder about the specificity of human consciousness and more broadly about the fundamental difference that exists between living beings and machines. If the human brain is assimilated to a computer, what remains of human dignity? What consideration can we expect from all living beings, reduced to a condition of machines? To show the fundamental difference between a human being and a machine, it is necessary first of all to reject firmly the idea that computers equipped with logical functions and thus able to perform certain functions that previously required the intervention of human intelligence, might be provided with some subjectivity and be able to experience sensations, even feelings. To admit that conscious states represent a form of software that can be placed on any medium seems completely ungrounded. Assimilating conscious states and information processing, a theory that leads Chalmers to give a thermostat an early awareness, is no more convincing. At the same time, it is necessary to better understand the unique nature of the consciousness and sensibility that is spread within all living beings. To compare the performance of a machine and a human being, it is necessary to clarify how intelligence is measured. A machine is certainly capable of going beyond human intelligence in many ways, being faster, more extensive and more reliable. On the other hand, human intelligence will no doubt remain for a long time deeper, that is to say, capable of imagining, understanding and exploiting complex and abstract concepts. Despite the performance that computers and robots are capable of, assimilating the intelligence of machines to that of human beings undoubtedly proceeds from too hasty extrapolation. The replacement of human workers by robots risks dehumanizing the social milieu and impoverishing the collective imagination. By his intelligence, the human being kept the hope of disengaging himself from the mechanical power. Confronted with a system able to spy on him and anticipate his reactions, he is weakened and unable to react. In a world populated with intelligent objects, supposed to help him, but whose operation escapes him, he becomes dependent on machines that surpass him, not only from the physical standpoint, but also, more and more often, in areas that appeal to intelligence. The very rapid progress of artificial intelligence comes before humanity has had time to adapt accordingly. Relationships between humans and machines may change profoundly. The human being thought to dominate the machine, but the situation seems to be reversed. Faced with a robot, the human being is obliged to follow the procedure imposed on him, without possible derogation. In a world populated with computers, connected objects and robots, everyone's freedom may be compromised. The room for maneuver and negotiation opportunities that applied to human relations will be difficult to preserve. The human being, formatted by his interactions with machines, will have to adopt an algorithmic way of thinking, which will inevitably favor the development of the brain functions best adapted to the dialogue with the machines. Such conditioning of the human brain can only impoverish the capacities of intuition, imagination and creation. By becoming binary, thought will exclude dreams and poetry, as well as feelings of empathy, solidarity or compassion. It will be integrated into a vast cybernetic system, which deprives it of freedom. Dictatorship by the machine is particularly formidable, because the machine is not open to any feeling.

---

À l’heure du transhumanisme et de l’intelligence artificielle, la question de la conscience humaine retrouve une singulière actualité. La capacité des ordinateurs à effectuer un nombre croissant de tâches qui relevaient exclusivement de l'intelligence humaine a conduit à assimiler ces deux formes d'intelligence. Les progrès des neurosciences ont contribué à renforcer cette assimilation, car les circuits de neurones cérébraux ont été identifiés aux circuits électroniques. De nombreux chroniqueurs et même des scientifiques comme Michio Kaku ont imaginé des machines non seulement capables de penser, mais également conscientes, c’est-à-dire dotées de subjectivité, voire de sentiments.  Dans ce contexte, il devient plus important que jamais de s’interroger sur la spécificité de la conscience humaine et plus largement sur la différence fondamentale qui existe entre les êtres vivants et les machines. Si le cerveau humain est assimilé à un ordinateur, que reste-t-il de la dignité humaine? Quelle considération est-il possible d’espérer vis-à-vis de tous les êtres vivants, ramenés à une condition de machines?

   Pour montrer la différence fondamentale entre un être humain et une machine, il est nécessaire tout d'abord de rejeter fermement l'idée que des ordinateurs pourvus de fonctions logiques et donc capables d'accomplir certains fonctions qui nécessitaient auparavant l'intervention d'une intelligence humaine, soient pourvus d'une quelconque subjectivité et soient capables d'éprouver des sensations, voire des sentiments. L'idée que les états conscients représentent une forme de software qui peut être placée sur n'importe quel support paraît tout à fait inacceptable, de même que celle qui consiste à assimiler états conscients et traitement de l'information, théorie qui conduit Chalmers à doter un thermostat  d'un début de conscience. En même temps, il est nécessaire de mieux comprendre la nature unique de la conscience et de la sensibilité que manifestent non seulement les êtres vivants, mais aussi tous les êtres vivants. Il faut parvenir à distinguer les états conscients de processus de traitement de l'information ou d'opérations logiques. Pour comparer les performances d’une machine et d’un être humain, il est nécessaire de clarifier la façon dont on mesure l’intelligence. Une machine est certainement capable de dépasser l’intelligence humaine sur plusieurs plans, en étant plus rapide, plus étendue et plus fiable. Par contre, l’intelligence humaine va sans doute rester pendant longtemps plus profonde, c’est-à-dire capable d’imaginer, de comprendre et d’exploiter des concepts complexes et abstraits. Malgré les performances dont sont capables les ordinateurs et les robots, assimiler l’intelligence des machines à celle des êtres humains procède sans doute d’une extrapolation trop hâtive. Le remplacement des travailleurs humains par des robots risque de déshumaniser le milieu social et d’appauvrir l’imaginaire collectif.  Par son intelligence, l’être humain gardait l’espoir de se dégager de la puissance mécanique. Confronté à un système capable de l’épier et d’anticiper ses réactions, il se trouve fragilisé et incapable de réagir. Au sein d’un monde peuplé d’objets intelligents, censés l’aider, mais dont le fonctionnement lui échappe, il devient dépendant de machines qui le surpassent, non seulement sur le plan physique, mais aussi, de plus en plus souvent, dans des domaines qui font appel à l’intelligence. La progression très rapide de l’intelligence artificielle intervient avant que l’humanité n’ait eu le temps de s’adapter en conséquence. Les relations entre les êtres humains et les machines risquent d’évoluer profondément. L’être humain pensait dominer la machine, mais la situation semble s’inverser. Confronté à un robot, l’être humain est obligé de suivre la procédure qui lui est imposée, sans dérogation possible. Dans un monde peuplé d’ordinateurs, d’objets connectés et de robots, la liberté de chacun risque d’être compromise. Les marges de manœuvre et les possibilités de négociation, qui s’appliquaient aux relations humaines, seront difficiles à préserver. L’être humain, formaté par ses interactions avec des machines, devra adopter un mode de pensée algorithmique, qui va inévitablement favoriser le développement des fonctions cérébrales les mieux adaptées au dialogue avec les machines. Un tel conditionnement du cerveau humain ne peut qu’appauvrir les capacités d’intuition, d’imagination et de création. En devenant binaire, la pensée va exclure le rêve et la poésie, ainsi que les sentiments d’empathie, de solidarité ou de compassion. Elle sera enfermée dans un vaste système cybernétique, qui la prive de liberté. La dictature par la machine est particulièrement redoutable, car la machine n'est ouverte à aucun sentiment.

Vie 3.0 - L'avenir de l'intelligence artificielle / Life 3.0 - The future of artificial intelligence.

"Life 3.0" ("Life 3.0"), the latest work by physicist Max Tegmark is a book on the future of artificial intelligence. The title may surprise. It is explained by the fact that the author, in a transhumanist perspective, considers that intelligent machines constitute the next stage of biological evolution, in accordance with a point of view that was particularly expressed by Ray Kurzweil. Life 1.0 is simply biological life. Life 2.0 refers to humanity, which represents the next stage of evolution through its ability to transform the world by its intelligence. Lastly, Life 3.0 would correspond to the arrival, presumed to be imminent, of machines that are sufficiently "intelligent" to become capable of transforming themselves and thus progressing towards ever greater intelligence, thus leading to an artificial super-intelligence, much more powerful than human intelligence. His book is therefore directly in line with the work of the transhumanist futurist Nick Bostrom, who was already considering the hypothesis of such a "super-intelligence". By helping to conceive an artificial intelligence of a still higher level, this super-intelligence would lead to a form of Singularity, resulting in an explosive increase in performance, as imagined by Ray Kurzweil. Nick Bostrom has lent to super-intelligence that would result in very extensive skills in functions as crucial as that of oracle, to bring answers to the most difficult questions, genius, to solve the most thorny problems and sovereign, to adopt the most appropriate decisions. From the network of human intelligence and artificial super-intelligence might emerge a global brain, able to ensure the "sovereign" function, anticipated by Nick Bostrom. A global brain, capable of centralizing massive amounts of information, then drawing the most relevant conclusions, would be able to manage a complex system, or even society as a whole, thus becoming the preferred tool for a global governance. Despite all the assets of artificial intelligence, it is not possible to ignore its potentially dangerous effects. Combined with the acquisition and processing of massive databases (Big Data), it allows not only to monitor the daily actions of everyone, but also to predict the behavior of an entire population. It could thus facilitate the emergence of a police state, with powerful means to detect and repress any resistance movement. From now on, artificial intelligence is used to design ever more powerful weapons. Tomorrow, intelligent robots behaving as suicide fighters will be able to carry chemical, bacteriological or nuclear weapons and activate them at their destination. By controlling all human activities on a global scale, the global brain would facilitate the transition to a form of totalitarian regime. It could also lead humanity to a major catastrophe, through mechanisms that human beings could not decipher. Becoming autonomous, an artificial super-intelligence would have no reason to look after the well-being of humanity. It may even be necessary to program the disappearance of the human species as an answer to the problems of the planet. Max Tegmark imagines many scenarios, often similar to sci-fi narratives, in order to anticipate the possible consequences of the development of a "super-intelligence". He deduces the need to think now about how to use it for the happiness of humanity, by removing the potential threats it represents. This wish is shared by leading scientists, including astrophysicist Stephen Hawking, or major industry players such as Bill Gates or Elon Musk, who cautioned against the danger posed by the most advanced forms of artificial intelligence, emphasizing the need for urgent measures to prevent such risks. Unfortunately, like many techno-prophets, Max Tegmark goes astray in considering machines that would be endowed with consciousness and subjectivity and that would claim an ethical respect of the same order as that required for human beings and more broadly living beings. Paradoxically, while the author insists on his wish to contribute to the happiness of humanity, it is such a confusion between machines and conscious beings that represents the greatest danger for humanity, showing the drifts that await our technical civilization if we do not take care.

---

"Vie 3.0" ("Life 3.0"), le dernier ouvrage du physicien Max Tegmark est un livre sur l'avenir de l'intelligence artificielle. Le titre peut surprendre. Il s'explique par le fait que l'auteur, dans une perspective transhumaniste, considère que les machines intelligentes constituent la prochaine étape de l'évolution biologique, conformément à un point de vue qui a été notamment exprimé par Ray Kurzweil. La Vie 1.0 correspond simplement à la vie biologique. La Vie 2.0 désigne l'humanité, qui représente l'étape suivante de l'évolution par sa capacité de transformer le monde par son intelligence. Enfin, la Vie 3.0 correspondrait à l'arrivée, pressentie comme imminente, de machines suffisamment "intelligentes" pour devenir capables de se transformer elles-mêmes et de de progresser ainsi vers toujours plus d'intelligence, conduisant à l'apparition d'une super-intelligence artificielle, capable de dépasser largement l'intelligence humaine. L'ouvrage de Max Tegmark s'inscrit donc directement dans le prolongement de l'ouvrage du prospectiviste Nick Bostrom, adepte du transhumanisme, qui envisageait déjà l'hypothèse d'une telle "super-intelligence". En aidant à concevoir une intelligence artificielle d’un niveau encore supérieur, cette super-intelligence mènerait vers une forme de singularité, se traduisant par un accroissement explosif des performances, comme l'a imaginé Ray Kurzweil. Nick Bostrom a prêté à cette super-intelligence des compétences très étendues dans des fonctions aussi déterminantes que celle d’oracle, pour apporter des réponses aux questions les plus difficiles, de génie, pour résoudre les problèmes les plus épineux et d’organe souverain, pour adopter les décisions les plus adéquates. De l’association en réseau de l’intelligence humaine et des multiples formes de super-intelligence artificielle déployées à la surface de la Terre, pourrait émerger un cerveau global, qui serait capable d’assurer la fonction « d’organe souverain », anticipée par Nick Bostrom. Un cerveau global, capable de centraliser des quantités massives d’informations, puis d’en tirer les conclusions les plus pertinentes, serait en mesure de gérer un système complexe, voire la société dans son ensemble, en devenant ainsi l’outil privilégié d’une gouvernance planétaire. On ne peut pas, de ce fait, ignorer les effets potentiellement dangereux d’une exploitation de l’intelligence artificielle à des fins de puissance et de domination. Associée à l’acquisition et au traitement de bases de données massives (Big Data), elle permet non seulement de surveiller les gestes quotidiens de chacun, mais aussi de prévoir le comportement de toute une population. Elle pourrait ainsi faciliter l’émergence d’un état policier, disposant de puissants moyens pour détecter et réprimer tout mouvement de résistance. Dès à présent, l’intelligence artificielle sert à concevoir des armes toujours plus puissantes. Demain, des robots intelligents se comportant en combattants-suicides seront capables de transporter des armes chimiques, bactériologiques ou nucléaires et de les activer à leur destination.  En contrôlant l’ensemble des activités humaines à l’échelle planétaire, le cerveau global faciliterait le passage à une forme de régime totalitaire. Il pourrait également entraîner l’humanité vers une catastrophe majeure, par des mécanismes impossibles à décrypter. Devenant autonome, une super-intelligence artificielle n’aurait aucune raison de veiller au bien-être de l’humanité. Elle pourrait même être amenée à programmer la disparition de l’espèce humaine comme réponse aux problèmes de  la planète. Max Tegmark imagine de nombreux scénarios,  dont beaucoup font penser à des récits de science-fiction, afin d'imaginer les conséquences possibles du développement de la "super-intelligence". Il en déduit la nécessité de réfléchir dès à présent à la façon de l'utiliser pour le bonheur de l'humanité, en écartant les menaces potentielles qu'elle représente. Ce souhait st partagé par des scientifiques de renom, parmi lesquels l’astrophysicien Stephen Hawking, ou de grands acteurs du monde de l’industrie tels que Bill Gates ou Elon Musk, qui ont mis  en garde l’opinion contre le danger que représentent les formes les plus avancées d’intelligence artificielle, en insistant sur la nécessité de mesures urgentes pour y parer.

Malheureusement, comme de nombreux techno-prophètes, l'auteur s'égare en envisageant des machines qui seraient dotées de conscience et de subjectivité et qui réclameraient un respect éthique du même ordre que celui qui est requis pour les êtres humains et plus largement les êtres vivants. Paradoxalement, alors que l'auteur insiste sur son souhait de contribuer au bonheur de l'humanité, c'est une telle confusion entre les machines et les êtres conscients qui représente le plus grave danger pour l'humanité. Cette confusion montre bien les dérives qui guettent notre civilisation technicienne si nous n'y prenons pas gare.

La transcendance numérique / The digital transcendence

Following Nietzsche, the death of God had already been announced, as Man was considered to have become self-sufficient.  According to the new postliberal order, Man is considered as too vulnerable and not reliable enough and the only supreme reference, which can be accepted, is the super-intelligent computer or the intelligent robot. According to Ray Kurzweil, the acceleration of the pace of progress of the artificial intelligence  will lead, in a not too-distant future, to the appearance of a form of discontinuity, or Singularity, transforming radically the human destiny. Relying on the present rate of progress, Ray Kurzweil estimated that this Singularity might occur by 2045. While Teilhard de Chardin announced an Omega point, as the final destination of the noosphere, Ray Kurzweil is expecting the occurrence of the super-intelligent machine, which will provide the advent of the Singularity. Human beings might remain, at least temporarily, associated with such a machine, in the form of a cyborg, but they are doomed to disappear, as the machine will become self-sufficient. The cyborg represents only a transitional stage of the evolution leading to the supreme robot, which will appear during the next step of the evolutionary process. The further step will be to program the extinction of the human species, as it will become useless.Thus, the  machine becomes the supreme reference, the new horizon of mankind. The construction of an omniscient machine has already been announced by the physicists, Frank Tipler and David Deutsch. According to David Deutsch, it would be possible during a finite amount of time to build a universal Turing machine, able to simulate any  physical or biological process existing within the Universe. Such a machine would be omniscient.The Singularity becomes the only form of transcendence which remains. The omniscient computer becomes the god offered to the veneration of the crowds, to which are assigned the most difficult decisions, including the decisions of justice. The machine designed to govern incorporates the global super-intelligent brain, which is aimed to manage the whole human society. Its decisions are deemed to be irrevocable. Those who are supposed to control ils operation hold the actual power, but they could loose it at any time.

---

A la suite de Nietzsche, le XX^e siècle avait annoncé la mort de Dieu, en considérant que l’Homme se suffisait à lui-même. Dans la vision hégémonique du nouvel ordre postlibéral, l’homme, jugé trop fragile et trop peu fiable, perd, à son tour, sa place comme référence suprême, pour être remplacé par l’ordinateur super-intelligent ou le robot intelligent, dont l’efficacité ne connait aucune borne. Selon Ray Kurzweil, l’accélération du rythme de progression de l’intelligence artificielle va se traduire, dans un avenir relativement proche, par l’apparition d’une forme de discontinuité, ou Singularité, conduisant l’humanité vers un destin totalement différent de son sort actuel. En s’appuyant sur le rythme de progression des ordinateurs, Ray Kurzweill situe vers 2045 le moment où cette Singularité pourrait apparaître. Tandis que Teilhard de Chardin contemplait un point Omega, aboutissement et point de convergence de la noosphère, Ray Kurzweil se situe dans l’attente de la machine super-intelligente, qui permettra l’avènement de la Singularité. L’être humain reste, au moins temporairement, associé à la machine sous forme d’un cyborg, mais en suivant la démarche de Kurzweil, il risque d’apparaître rapidement comme superflu, la machine se suffisant à elle-même. Le cyborg se présente alors comme l’étape transitoire d’une évolution menant au robot supra-humain, qui constitue la nouvelle étape du processus d’évolution. Il ne restera plus alors qu’à programmer l’extinction de la majeure partie de la population humaine.

La machine devient la référence suprême, le nouvel horizon de l’humanité. La réalisation d’une machine omnisciente a été explicitement prévue par les physiciens Frank Tipler et David Deutsch. Selon David Deutsch, il serait possible de réaliser dans un temps fini une machine de Turing universelle, capable de simuler n’importe quel processus physique ou biologique. Une telle machine serait alors omnisciente. La Singularité prend d’autant plus d’importance qu’elle constitue la seule forme de transcendance que reconnaisse le nouvel ordre postlibéral. L’ordinateur omniscient devient le dieu offert à la vénération des foules. C’est à lui que sont confiées les décisions les plus difficiles et en particulier les décisions de justice. La machine à gouverner est conçue sur ce modèle. Le cerveau global qui gère le fonctionnement de toute la société humaine est doté de la super-intelligence numérique. Il est sacrilège de contester ses décisions, qui sont jugées irrévocables. Ceux qui en contrôlent le fonctionnement détiennent le pouvoir effectif, mais celui-ci risque à tout moment de leur échapper.

Le cerveau global / The global brain

According to the philosopher and futurist Nick Bostrom, the capabilities of Artificial Intelligence will soon exceed those of the human brain. Such an artificial superintelligence should help to build an even more powerful machine.  It might fulfill unprecendented tasks. Nick Bostrom considers that, apart from being a simple tool, an artificial intelligence might become an oracle, answering to most difficult questions, a genius, solving most difficult problems or a sovereign, able to rule organisations. By connecting superintelligent machines with the collective intelligence of human beings, some kind of global brain might emerge,.With capabilities far exceeding those of a single humain brain, such a global brain would be able to act as a "sovereign", ensuring the governance of the whole planet. This  global brain might help to address major challenges facing humanity, but it might result into an authoritarian or even totalitarian regime. The global brain would not necessarily take the best decisions for humanity. Instead it might lead the world to a catastrophy, through a path which would not be understood by human beings. The potential danger of Artificial Intelligence has been pointed out by Ellon Musk, who says that it is "our major existential threat", by  the astrophysicist Stephen Hawking and by many other scientists

---

Selon le philosophe et prospectiviste Nick Bostrom, l'intelligence artificielle devrait bientôt dépasser les performances du cerveau humain. Une telle super-intelligence artificielle va aider à concevoir une machine dotée d’une intelligence encore supérieure, en entraînant ainsi un développement accéléré de l’Intelligence Artificielle. Outre une fonction de simple outil multi-tâches, Nick Bostrom assigne trois fonctions possibles à une telle super-intelligence : celle d’oracle, pour répondre aux questions les plus difficiles, de génie, pour résoudre les problèmes les plus épineux et de souverain, auquel serait confié le choix des décisions optimales. De l’association en réseau de l’intelligence humaine et d’une super-intelligence artificielle pourrait émerger un cerveau global, doté d’un niveau d’intelligence opératoire supérieur à tout ce qu’il est encore possible de concevoir. Ce cerveau global serait capable d’assurer la fonction de « souverain », anticipée par Nick Bostrom.

L'intelligence artificielle est-elle une menace? / Is Artificial Intelligence a threat for humanity?

The astrophysicist Stephen Hawking and some other  renowned scientists have written to the The Independent, mentioning the need to carefully assess the threats which might result from the massive use of Artificial Intelligence (A.I.) in the near future. A.I. is progressing at a very fast rate and is replacing human beings in a fast growing number of applications. Finance is one of these application areas. As A.I. will be used for improving intelligent machines, an accelerating progress might result, leading to some kind of singularity. The actions lead by such machines have no reason to stay beneficial for humanity. Military deadly applications are certainly one of the areas which will involve a major use of A.I. By becoming autonomous, a machine equipped with a high level A.I. might lead humanity along a very dangerous path. During the biological evolution of humanity the development of intelligent has been accompanied by a rise of consciousness. It will not be the case with A.I., despite dubious assertions from science-fiction writers. The humanity is not prepared in handling a very amount of supplementary A.I., which might lead humanity to catastrophy through a path too complex for anticipating the dangers it involves, before it is too late.

---

Plusieurs scientifiques de renom, dont l’astrophysicien Stephen Hawking, ont voulu alerter l’opinion sur les dangers de l’intelligence artificielle (I.A.) et la nécessité de prendre des mesures, en vue d’éviter des dérives, dans un texte publié en mai 2014, par le journal  The Independent. Le philosophe et prospectiviste suédois Nick Bostrom souligne également le défi que représente pour l’évolution de l’humanité l’apparition d’une nouvelle forme de super-intelligence. L'I.A., dont la simple possibilité pouvait être mise en doute il y a encore peu d’années, devient une réalité qui s’impose dans un nombre croissant de domaines, en remplaçant les opérateurs humains pour opérer des tâches complexes, notamment dans le secteur financier. Ainsi, tout en conférant de nouvelles capacités à l’espèce humaine, l'I.A. pose également de nombreux problèmes. Alors que le travail intellectuel s’était développé aux dépens du travail physique au moment de la révolution industrielle, c’est à présent également le travail intellectuel qui est menacé. Pour le moment seules échappent à l’emprise de l'I.A. quelques activités créatives, mais dans l’avenir l'I.A.sera de plus en plus « créative » et même ces tâches pourront être confiées, au moins en large partie, à des machines.