The astrophysicist Stephen Hawking and some other renowned scientists have written to the The Independent, mentioning the need to carefully assess the threats which might result from the massive use of Artificial Intelligence (A.I.) in the near future. A.I. is progressing at a very fast rate and is replacing human beings in a fast growing number of applications. Finance is one of these application areas. As A.I. will be used for improving intelligent machines, an accelerating progress might result, leading to some kind of singularity. The actions lead by such machines have no reason to stay beneficial for humanity. Military deadly applications are certainly one of the areas which will involve a major use of A.I. By becoming autonomous, a machine equipped with a high level A.I. might lead humanity along a very dangerous path. During the biological evolution of humanity the development of intelligent has been accompanied by a rise of consciousness. It will not be the case with A.I., despite dubious assertions from science-fiction writers. The humanity is not prepared in handling a very amount of supplementary A.I., which might lead humanity to catastrophy through a path too complex for anticipating the dangers it involves, before it is too late.
Plusieurs scientifiques de renom, dont l’astrophysicien Stephen Hawking, ont voulu alerter l’opinion sur les dangers de l’intelligence artificielle (I.A.) et la nécessité de prendre des mesures, en vue d’éviter des dérives, dans un texte publié en mai 2014, par le journal The Independent. Le philosophe et prospectiviste suédois Nick Bostrom souligne également le défi que représente pour l’évolution de l’humanité l’apparition d’une nouvelle forme de super-intelligence. L'I.A., dont la simple possibilité pouvait être mise en doute il y a encore peu d’années, devient une réalité qui s’impose dans un nombre croissant de domaines, en remplaçant les opérateurs humains pour opérer des tâches complexes, notamment dans le secteur financier. Ainsi, tout en conférant de nouvelles capacités à l’espèce humaine, l'I.A. pose également de nombreux problèmes. Alors que le travail intellectuel s’était développé aux dépens du travail physique au moment de la révolution industrielle, c’est à présent également le travail intellectuel qui est menacé. Pour le moment seules échappent à l’emprise de l'I.A. quelques activités créatives, mais dans l’avenir l'I.A.sera de plus en plus « créative » et même ces tâches pourront être confiées, au moins en large partie, à des machines.
Dans l’avenir, l'I.A. pourra être mise en œuvre pour réaliser des machines encore plus intelligentes, ce qui risque de conduire à une divergence entre les capacités des machines et les capacités humaines. Les actions menées par ces machines ne seront pas forcément bénéfiques à l’humanité, soit parce qu’elles n’auront pas été prévues, soit parce qu’elles seront d’emblée tournées vers des tâches destructives. Dès à présent, on peut observer l’effet des drones, qui peuvent tuer des individus de manière ciblée et il existe de nombreuses possibilités pour réaliser une action similaire, telles que des robots remplaçant des combattants-suicide. Plus globalement, une I.A. qui deviendrait autonome, n’aurait aucune raison de veiller au bien de l’humanité et pourrait jouer un rôle catastrophique, conduisant éventuellement à la fin de l’humanité;
Tout au long de l’évolution, la progression de l’intelligence a été accompagnée par une montée de la conscience. L’importance de la notion de la conscience a été jusqu’à une date récente mal comprise en Occident, éclipsée par la notion de Raison et la volonté de privilégier le pouvoir sur la nature. L'humanité risque de ne pas être prête à se trouver dotée d'un supplément massif d'I.A., sans avoir eu le temps d'évoluer en âme et en conscience. Le supplément d’intelligence que le progrès technique met à sa disposition pourrait la mener à sa perte en l’engageant sur une voie trop complexe pour qu’elle puisse en déceler les dangers avant qu’il ne soit trop tard.
Aucun commentaire:
Enregistrer un commentaire