Pour Elon Musk l’IA est bien plus dangereuse que l’arme nucléaire
Alors que Bill Gates estime que l’IA est à la fois porteuse d’espoir et dangereuse
Elon Musk, le patron de Tesla et de SpaceX, a profité de son passage récent à la conférence South by Southwest (SXSW) qui se tenait à Austin, au Texas, pour réitérer ses avertissements concernant le danger de l’intelligence artificielle (IA). D’après Musk, « l’IA est plus dangereuse que les ogives nucléaires » et il devrait exister un organisme de réglementation supervisant le développement de cette technologie.
« Je ne suis pas normalement un partisan de la réglementation et de la surveillance – je pense qu’on devrait généralement pécher par excès de minimisation de ces choses-là, mais il s’agit d’une situation où le public court un très grave danger », a prévenu Musk.
Ce n’est pas la première fois que le patron de Tesla fait des prédictions alarmantes sur le potentiel de l’intelligence artificielle, mais sa vision pessimiste probablement motivée par le caractère incertain de l’avenir et peut être aussi la trop grande confiance en soi des concepteurs de cette technologie interpelle constamment sur la nécessité d’une surveillance et d’une réglementation étroites de l’IA. Devrait-on lui en tenir rigueur ?
Elon Musk préconise la mise en place d’un organisme public capable de vérifier que tout le monde développe l’IA en toute sécurité : « Je pense que le danger de l’IA est beaucoup plus grand que celui des ogives nucléaires, et personne ne suggérerait qu’on permette à n’importe qui de fabriquer des ogives nucléaires s’il le souhaite. Ce serait insensé », a-t-il martelé.
Son point de vue radical tranche avec la position plus modérée d’un autre philanthrope de renom issu de l’industrie technologique, Bill Gates, qui a récemment déclaré lors du 18e Symposium sur l’IA centré sur l’homme qui se tenait à l’Université de Stanford que l’intelligence artificielle est comme l’énergie nucléaire : une technologie « à la fois porteuse d’espoir et dangereuse ».
D’après le cofondateur de Microsoft, le pouvoir de l’intelligence artificielle est « tellement incroyable qu’elle entrainera une mutation profonde de la société » : certaines voies seront bonnes et d’autres mauvaises. Ce dernier reste néanmoins persuadé que l’application la plus effrayante de l’intelligence artificielle concerne la guerre, notamment les systèmes d’armement.
D’autres entités remarquables comme le fondateur de Facebook, Mark Zuckerberg, ou le professeur de Harvard Steven Pinker se sont déjà montrées plus critiques sur cette question à l’égard des propos d’Elon Musk jugés « plutôt irresponsables », selon certains, et de la « psychose orientée contre l’IA » qu’il entretiendrait au travers de son discours alarmiste.
Le patron de Tesla semble cependant résolu à ne pas se voiler la face et n’hésite pas à traiter ceux qui minimisent ou ignorent ses avertissements « d’imbéciles ». Lors du SXSW, il a déclaré : « le plus gros problème que je vois avec les soi-disant experts en IA est qu’ils pensent en savoir plus qu’ils ne savent et se croient plus intelligents qu’ils ne le sont réellement ». Selon Elon Musk, ce phénomène « a tendance à toucher les gens intelligents. Ils se définissent par leur intelligence et ils n’aiment pas l’idée qu’une machine puisse être beaucoup plus intelligente, alors ils réfutent cette idée – qui est fondamentalement défectueuse ».
S’appuyant sur le cas d’AlphaGo Zero, l’IA de DeepMind, qui a surclassé les joueurs humains au jeu de Go, Musk se dit, plus que jamais, conscient du potentiel évolutif incroyable de l’IA et de sa faculté à surpasser rapidement l’humain. Il craint que le développement de l’IA surpasse notre capacité à la gérer de manière sûre. À ce propos, il a confié : « Nous devons trouver un moyen de faire en sorte que l’avènement de la super intelligence numérique soit en symbiose avec l’humanité. Je pense que c’est la plus grande crise existentielle à laquelle nous sommes confrontés et la plus urgente ».
Dans son analyse des dangers de l’intelligence artificielle, Elon Musk établit une distinction entre les applications spécifiques à l’intelligence des machines comme les voitures autonomes et l’intelligence des machines en général. Le patron de SpaceX souhaite que tout soit mis en œuvre afin de s’assurer que, si un jour l’humanité décide collectivement que la création d’une super-intelligence numérique est la bonne décision à prendre, nous procédions en restant très très vigilants.
« Je ne suis pas vraiment inquiet à propos des projets à court terme ». Une IA mineure ne représente pas un risque particulier. Elle entrainera probablement une dislocation, des pertes d’emplois, une sophistication de l’armement et ce genre de choses, mais elle ne représente pas un risque fondamental contrairement à la super intelligence numérique, a expliqué Elon Musk.
“Croyez-moi, l’IA est bien plus dangereuse que les armes nucléaires” – Elon Musk
Plus tôt cette année, Elon Musk a donné une interview où il a fait allusion à l’idée que l’intelligence artificielle est beaucoup plus dangereuse que les armes nucléaires. C’est une déclaration assez audacieuse, qui a provoqué beaucoup de réactions négatives, compte tenu de la destruction et de la dévastation que peuvent causer les armes nucléaires.
Cela dit, ses commentaires ne doivent pas être ignorés, car d’autres, comme Julian Assange, ont exprimé les mêmes préoccupations. Ces préoccupations viennent de gens qui ont connu ce type de technologie, qui la connaissent et même qui l’utilisent. Ils ont énormément de ressources et de relations, et il est clair qu’ils ont beaucoup de connaissances dans ce domaine. Dans l’interview, Musk a déclaré :
Je pense que le danger de l’IA est beaucoup plus grand que celui des ogives nucléaires […] Personne ne laisserait entendre que nous permettrions au monde de construire des ogives nucléaires s’il le voulait, ce serait insensé. Croyez-moi : L’IA est bien plus dangereuse que les armes nucléaires.
Manque de surveillance réglementaire
Ce n’est pas la première fois qu’il évoque les dangers potentiels de l’intelligence artificielle. Avant cela, il a dit que l’IA est beaucoup plus dangereuse que la Corée du Nord. Maintenant, la plupart de nos lecteurs sont conscients du fait que “les puissances en place” ont qualifié beaucoup de dictateurs dont les pays sont “devenus voyous” avec leurs armes pour qu’ils puissent intervenir, imposer leur volonté et installer un gouvernement qui sert au mieux leurs propres intérêts. C’est depuis longtemps la tactique pour créer le problème et proposer la solution. Évidemment, Elon n’aborde pas cet aspect, mais j’ai pensé qu’il était important de le mentionner.
Musk a expliqué sa confusion quant à la raison pour laquelle il n’y a pratiquement aucune surveillance réglementaire en ce qui concerne l’IA. Ce sont là des questions importantes auxquelles personne ne pense vraiment ni ne se pose. L’IA se développe à un rythme exponentiel.
Le fondateur de Facebook, Mark Zuckerberg, a déclaré que les scénarios d’intelligence artificielle de Musk “sont inutiles et plutôt irresponsables”. Steven Pinker, professeur à Harvard, a également critiqué Musk pour ses commentaires. Cela pourrait être dû au fait que l’intelligence artificielle s’est avérée énorme pour les grandes entreprises. Non seulement c’est un domaine où l’on peut faire d’énormes profits, mais c’est aussi un domaine qui contribue à l’efficacité et à la sécurité dans notre vie de tous les jours. Musk ne condamne pas l’IA, ses entreprises utilisent l’IA, il dit simplement qu’il devrait y avoir une réglementation pour s’assurer que les choses n’aillent pas trop loin.
L’IA pense par elle-même
Jusqu’où les choses peuvent-elles aller ? Eh bien, l’intelligence artificielle pense par elle-même, et elle a déjà démontré qu’elle peut apprendre. Nous avons tous été mis au courant du scénario, un type d’intelligence artificielle conscient de soi, ne prenant aucune direction ou supervision de la part des humains, qui commence à penser par elle-même. Encore une fois, nous n’en sommes qu’au début et Musk envisage l’avenir, mais il semble que nous y sommes presque.
Prenons, par exemple, les programmes d’IA qui ne fonctionnent pas seulement en ligne pour gérer les paiements, le codage, etc. mais aussi pour contrôler les robots humains. Il y a quelques années, nous avons publié un article sur un androïde nommé Dick. Il est capable de répondre à une série de questions complexes et de trouver des réponses à des choses pour lesquelles il n’a pas été programmé auparavant. C’est une technique mathématique qui permet à l’androïde d’indexer, de récupérer et d’extraire le sens du langage humain naturel. Il est capable d’apprendre, et tout ce qu’il apprend peut être appris d’autres intelligences artificielles qui sont connectées au même ordinateur central. Si cela devient une réalité, alors ce qu’un robot apprend peut être appris par tous les autres robots.
Dans cette interview fascinante, il est assez choquant d’entendre les réponses de Dick à un stade aussi précoce de son développement. Par exemple, lorsqu’on lui a demandé s’il réfléchissait, il a répondu :
Beaucoup d’humains me demandent si je peux faire des choix (en montrant qu’il est conscient de ce que les autres pensent aussi) ou si tout ce que je fais et dis est programmé ? La meilleure façon de répondre à cela est de dire que tout, les humains, les animaux et les robots (tout ce qu’ils font) est programmé dans une certaine mesure.
Elon Musk est vraiment inquiet
Le plus gros problème que je vois avec les soi-disant experts en IA, c’est qu’ils pensent en savoir plus qu’ils n’en savent, et ils pensent être plus intelligents qu’ils ne le sont en réalité. Cela a tendance à tourmenter les gens intelligents. Ils se définissent par leur intelligence et ils n’aiment pas l’idée qu’une machine pourrait être beaucoup plus intelligente qu’eux, alors ils ne tiennent pas compte de l’idée – qui est fondamentalement erronée.
Je suis vraiment proche, très proche, à la pointe de l’IA et ça me fait peur. C’est capable de beaucoup plus que quiconque ne le sait et le taux d’amélioration est exponentiel.
Dernières pensées
Ce qu’il faut retenir, c’est qu’il faut vraiment reconnaître pourquoi nous faisons ce que nous faisons. À l’échelle collective, à l’heure actuelle, nos systèmes fonctionnent uniquement dans un but de profit. Par souci de profit, la surveillance et les règlements nécessaires ne semblent pas s’appliquer dans les domaines où ils devraient l’être. De nos jours, lorsqu’il s’agit de mettre au point des technologies pour la race humaine, beaucoup de technologies qui changent la vie et qui changent la donne sont en fait soumises à des restrictions et à la suppression de brevets. Le monde du budget noir est bien en avance sur le reste du monde, et nous ne pouvons pas vraiment dire avec certitude jusqu’à quel point notre technologie dans la catégorie de l’IA a progressé.
Lorsque nous créons une technologie, nous devons nous demander pourquoi nous la créons, pour quoi nous l’utilisons et pourquoi nous décidons de l’utiliser. Si l’intention est de faire du profit et de faciliter les choses, nous devons nous demander à quel prix cela va-t-il se produire ? Les intentions sont peut-être bonnes, mais cela ne mène pas toujours au meilleur résultat. Le fait est que le développement de la technologie de l’IA suscite de sérieuses préoccupations et que si cette technologie n’est pas maintenue dans la transparence et ne vient pas strictement de l’intention d’aider la race humaine et la planète, elle sera très probablement inutile, sinon dangereuse.
Nous pourrions faire tellement plus pour la planète et ses habitants. Imaginez si nous créions l’IA pour régénérer constamment les forêts ? Créer des forêts alimentaires ? Nourrir ceux qui ont faim ? Elon Musk voit le potentiel pour l’IA de devenir consciente et autonome, et bénéfique pour l’humanité. Il s’inquiète simplement des gens qui la contrôlent à l’heure actuelle et de leurs intentions.
Partagé par www.eveilhomme.com. Partage libre en incluant la source et le lien.
Si l’article vous a plu, n’hésitez pas à vous abonner à nos Réseaux Sociaux (https://www.facebook.com/eveilhommelemag) / NewsLetter et à partager l’article. Et si vous vous en sentez inspiré, soutenir le site par un don en cliquant sur l’image ci-dessous (nous faisons partie du compte RAIN Nutriment sur Paypal, mais c’est bien http://www.Eveilhomme.com que vous soutiendrez). Vous pouvez également aller sur Tipee (bouton TIP ci-dessous) regarder un clip pour nous aider ou faire un don. Merci infiniment et belle journée à vous.
