The astrophysicist Stephen Hawking and some other renowned scientists have written to the The Independent, mentioning the need to carefully assess the threats which might result from the massive use of Artificial Intelligence (A.I.) in the near future. A.I. is progressing at a very fast rate and is replacing human beings in a fast growing number of applications. Finance is one of these application areas. As A.I. will be used for improving intelligent machines, an accelerating progress might result, leading to some kind of singularity. The actions lead by such machines have no reason to stay beneficial for humanity. Military deadly applications are certainly one of the areas which will involve a major use of A.I. By becoming autonomous, a machine equipped with a high level A.I. might lead humanity along a very dangerous path. During the biological evolution of humanity the development of intelligent has been accompanied by a rise of consciousness. It will not be the case with A.I., despite dubious assertions from science-fiction writers. The humanity is not prepared in handling a very amount of supplementary A.I., which might lead humanity to catastrophy through a path too complex for anticipating the dangers it involves, before it is too late.
Plusieurs scientifiques de renom, dont l’astrophysicien Stephen Hawking, ont voulu alerter l’opinion sur les dangers de l’intelligence artificielle (I.A.) et la nécessité de prendre des mesures, en vue d’éviter des dérives, dans un texte publié en mai 2014, par le journal The Independent. Le philosophe et prospectiviste suédois Nick Bostrom souligne également le défi que représente pour l’évolution de l’humanité l’apparition d’une nouvelle forme de super-intelligence. L'I.A., dont la simple possibilité pouvait être mise en doute il y a encore peu d’années, devient une réalité qui s’impose dans un nombre croissant de domaines, en remplaçant les opérateurs humains pour opérer des tâches complexes, notamment dans le secteur financier. Ainsi, tout en conférant de nouvelles capacités à l’espèce humaine, l'I.A. pose également de nombreux problèmes. Alors que le travail intellectuel s’était développé aux dépens du travail physique au moment de la révolution industrielle, c’est à présent également le travail intellectuel qui est menacé. Pour le moment seules échappent à l’emprise de l'I.A. quelques activités créatives, mais dans l’avenir l'I.A.sera de plus en plus « créative » et même ces tâches pourront être confiées, au moins en large partie, à des machines.