At the time of transhumanism and artificial intelligence, the question of human consciousness finds a singular relevance. The ability of computers to perform an increasing number of tasks that were exclusively the responsibility of human intelligence led to the assimilation of these two forms of intelligence. Advances in neuroscience have helped to reinforce this assimilation, since brain neuron circuits have been identified to electronic circuits. Many journalists and even scientists like Michio Kaku have imagined machines that are not only capable of thinking, but also conscious, that is, endowed with subjectivity or even feelings. In this context, it becomes more important than ever to wonder about the specificity of human consciousness and more broadly about the fundamental difference that exists between living beings and machines. If the human brain is assimilated to a computer, what remains of human dignity? What consideration can we expect from all living beings, reduced to a condition of machines? To show the fundamental difference between a human being and a machine, it is necessary first of all to reject firmly the idea that computers equipped with logical functions and thus able to perform certain functions that previously required the intervention of human intelligence, might be provided with some subjectivity and be able to experience sensations, even feelings. To admit that conscious states represent a form of software that can be placed on any medium seems completely ungrounded. Assimilating conscious states and information processing, a theory that leads Chalmers to give a thermostat an early awareness, is no more convincing. At the same time, it is necessary to better understand the unique nature of the consciousness and sensibility that is spread within all living beings. To compare the performance of a machine and a human being, it is necessary to clarify how intelligence is measured. A machine is certainly capable of going beyond human intelligence in many ways, being faster, more extensive and more reliable. On the other hand, human intelligence will no doubt remain for a long time deeper, that is to say, capable of imagining, understanding and exploiting complex and abstract concepts. Despite the performance that computers and robots are capable of, assimilating the intelligence of machines to that of human beings undoubtedly proceeds from too hasty extrapolation. The replacement of human workers by robots risks dehumanizing the social milieu and impoverishing the collective imagination. By his intelligence, the human being kept the hope of disengaging himself from the mechanical power. Confronted with a system able to spy on him and anticipate his reactions, he is weakened and unable to react. In a world populated with intelligent objects, supposed to help him, but whose operation escapes him, he becomes dependent on machines that surpass him, not only from the physical standpoint, but also, more and more often, in areas that appeal to intelligence. The very rapid progress of artificial intelligence comes before humanity has had time to adapt accordingly. Relationships between humans and machines may change profoundly. The human being thought to dominate the machine, but the situation seems to be reversed. Faced with a robot, the human being is obliged to follow the procedure imposed on him, without possible derogation. In a world populated with computers, connected objects and robots, everyone's freedom may be compromised. The room for maneuver and negotiation opportunities that applied to human relations will be difficult to preserve. The human being, formatted by his interactions with machines, will have to adopt an algorithmic way of thinking, which will inevitably favor the development of the brain functions best adapted to the dialogue with the machines. Such conditioning of the human brain can only impoverish the capacities of intuition, imagination and creation. By becoming binary, thought will exclude dreams and poetry, as well as feelings of empathy, solidarity or compassion. It will be integrated into a vast cybernetic system, which deprives it of freedom. Dictatorship by the machine is particularly formidable, because the machine is not open to any feeling.
À l’heure du transhumanisme et de l’intelligence artificielle, la question de la conscience humaine retrouve une singulière actualité. La capacité des ordinateurs à effectuer un nombre croissant de tâches qui relevaient exclusivement de l'intelligence humaine a conduit à assimiler ces deux formes d'intelligence. Les progrès des neurosciences ont contribué à renforcer cette assimilation, car les circuits de neurones cérébraux ont été identifiés aux circuits électroniques. De nombreux chroniqueurs et même des scientifiques comme Michio Kaku ont imaginé des machines non seulement capables de penser, mais également conscientes, c’est-à-dire dotées de subjectivité, voire de sentiments. Dans ce contexte, il devient plus important que jamais de s’interroger sur la spécificité de la conscience humaine et plus largement sur la différence fondamentale qui existe entre les êtres vivants et les machines. Si le cerveau humain est assimilé à un ordinateur, que reste-t-il de la dignité humaine? Quelle considération est-il possible d’espérer vis-à-vis de tous les êtres vivants, ramenés à une condition de machines?
Pour montrer la différence fondamentale entre un être humain et une machine, il est nécessaire tout d'abord de rejeter fermement l'idée que des ordinateurs pourvus de fonctions logiques et donc capables d'accomplir certains fonctions qui nécessitaient auparavant l'intervention d'une intelligence humaine, soient pourvus d'une quelconque subjectivité et soient capables d'éprouver des sensations, voire des sentiments. L'idée que les états conscients représentent une forme de software qui peut être placée sur n'importe quel support paraît tout à fait inacceptable, de même que celle qui consiste à assimiler états conscients et traitement de l'information, théorie qui conduit Chalmers à doter un thermostat d'un début de conscience. En même temps, il est nécessaire de mieux comprendre la nature unique de la conscience et de la sensibilité que manifestent non seulement les êtres vivants, mais aussi tous les êtres vivants. Il faut parvenir à distinguer les états conscients de processus de traitement de l'information ou d'opérations logiques. Pour comparer les performances d’une machine et d’un être humain, il est nécessaire de clarifier la façon dont on mesure l’intelligence. Une machine est certainement capable de dépasser l’intelligence humaine sur plusieurs plans, en étant plus rapide, plus étendue et plus fiable. Par contre, l’intelligence humaine va sans doute rester pendant longtemps plus profonde, c’est-à-dire capable d’imaginer, de comprendre et d’exploiter des concepts complexes et abstraits. Malgré les performances dont sont capables les ordinateurs et les robots, assimiler l’intelligence des machines à celle des êtres humains procède sans doute d’une extrapolation trop hâtive. Le remplacement des travailleurs humains par des robots risque de déshumaniser le milieu social et d’appauvrir l’imaginaire collectif. Par son intelligence, l’être humain gardait l’espoir de se dégager de la puissance mécanique. Confronté à un système capable de l’épier et d’anticiper ses réactions, il se trouve fragilisé et incapable de réagir. Au sein d’un monde peuplé d’objets intelligents, censés l’aider, mais dont le fonctionnement lui échappe, il devient dépendant de machines qui le surpassent, non seulement sur le plan physique, mais aussi, de plus en plus souvent, dans des domaines qui font appel à l’intelligence. La progression très rapide de l’intelligence artificielle intervient avant que l’humanité n’ait eu le temps de s’adapter en conséquence. Les relations entre les êtres humains et les machines risquent d’évoluer profondément. L’être humain pensait dominer la machine, mais la situation semble s’inverser. Confronté à un robot, l’être humain est obligé de suivre la procédure qui lui est imposée, sans dérogation possible. Dans un monde peuplé d’ordinateurs, d’objets connectés et de robots, la liberté de chacun risque d’être compromise. Les marges de manœuvre et les possibilités de négociation, qui s’appliquaient aux relations humaines, seront difficiles à préserver. L’être humain, formaté par ses interactions avec des machines, devra adopter un mode de pensée algorithmique, qui va inévitablement favoriser le développement des fonctions cérébrales les mieux adaptées au dialogue avec les machines. Un tel conditionnement du cerveau humain ne peut qu’appauvrir les capacités d’intuition, d’imagination et de création. En devenant binaire, la pensée va exclure le rêve et la poésie, ainsi que les sentiments d’empathie, de solidarité ou de compassion. Elle sera enfermée dans un vaste système cybernétique, qui la prive de liberté. La dictature par la machine est particulièrement redoutable, car la machine n'est ouverte à aucun sentiment.
