Google Brain, le programme de recherche en intelligences artificielles du géant Google, vient de franchir un palier étonnant et quelque peu inquiétant. En effet, deux ordinateurs sont parvenus à communiquer entre eux dans une langue qu’ils avaient eux-mêmes créée, une langue indéchiffrable par l’homme.
Dans le cadre de la recherche sur le Deep Learning, à savoir la manière dont des ordinateurs peuvent évoluer de façon autonome grâce à des algorithmes, le programme de recherche en intelligence artificielle du géant Google baptisé Google Brain a franchi un grand cap. En effet, les chercheurs sont parvenus à faire communiquer deux IA nommées Alice et Bob entre elles, alors que de son côté, une troisième IA du nom d’Eve avait pour but d’intercepter leurs communications.(1)
Alors que ce projet a pour but d’étudier la façon dont les I.A. évoluent grâce à des algorithmes. Pendant ce temps-là, une troisième I.A, Eve, était chargée d’intercepter ces communications.
Google Brain vient donc ici de réaliser une véritable prouesse technologique, une prouesse contre laquelle Stephen Hawking, notamment, nous met en garde.(2)
Des réseaux neuronaux pour sécuriser les conversations entre les intelligences artificielles.
Alice devait donc envoyer un message à Bob, qui devait réussir à le déchiffrer sans qu’Eve ne parvienne à écouter le message.
L’expérience a donc dépassé toutes les attentes, : les IA « ne sont en général pas destinées à être bonnes en chiffrement » expliquent les chercheurs de Google. Et les deux I.A. n’avaient appris d’aucun algorithme de chiffrement spécifique.(2)
Alice a ainsi envoyé plusieurs messages chiffrés de 16 bits à Bob qui devait les déchiffrer (tout comme Eve). Seul Bob détenait la clé de déchiffrement. Il aura fallu pas moins de 10 000 messages avant que Bob ne réussisse à reconstruire le message en clair. Dans le même temps, Eve, qui faisait de moins en moins d’erreurs, a vu son sort se compliquer à mesure que les IA réussissaient à communiquer entre elles.
une fois que les hommes auront développé l’intelligence artificielle, celle-ci décollera seule, et se redéfinira de plus en plus vite. Les humains, limités par une lente évolution biologique, ne pourront pas rivaliser et seront dépassés.(3)
Stephen Hawking, pour la BBC.
Quand la réalité dépasse la fiction ?
Quand on lit ce type d’information concernant une avancée probante d’un point de vue scientifique sur l’autonomie et l’indépendance d’intelligences artificielles, on ne peut s’empêcher de faire un parallèle avec ce que l’on a pu voir dans quelques bons (voire très bons) films de Sci-Fi.
L’exemple du film Terminator
On se souvient aisément en 1984 déjà, lorsqu’Arnold Schwarzenegger jouait le rôle de T-800 dans le superbe film « Terminator » de James Cameron, qu’un avenir peuplé de cyborgs, de robots intelligents (nos fameuses I.A. dont on parle aujourd’hui) était envisageable, voire quasi réel. Dans ce film qui se déroule en 2029 (soit dans 13 ans), T-800 « The Terminator » – un assassin cybernétique programmé pour tuer – est envoyé dans le passé en 1984 pour tuer une certaine Sarah Connor (un classique !), tandis qu’un certain Kyle Reese est quant à lui envoyé par le fils de Sarah Connor pour la sauver. Outre la présence de cybernétique dans ce(s) film(s), on y découvre également un personnage nommé Skynet, une Intelligence artificielle créée à l’origine pour automatiser la riposte nucléaire américaine. (4)
Le général Brewster, père de Kate Brewster, la future femme de John Connor, développe Skynet pour gérer la défense nucléaire américaine. Lorsqu’un virus doté d’une puissance inconnue infecte Internet, l’État-Major, en dépit des réserves du général Brewster, veut résoudre ce problème pour tuer le virus en activant Skynet. Mais il s’aperçoit trop tard que le virus n’était autre que Skynet lui-même. (4)
On constate alors que l’humain pourrait être vite dépassé face à une menace qui pourrait maitriser tous les outils que les Hommes utilisent de nos jours pour combattre (Internet, technologie IP, satellites, radars…, et qu’il serait aisé pour ces intelligences artificielles de manipuler le cerveau humain, puisqu’il serait incapable de déceler la moindre émotion chez cette intelligence, qui elle-même pourrait soit feindre ses émotions, mais également résister à l’isolement, la solitude ou encore la torture.
L’exemple du film Ex_Machina : où les intelligences artificielles se jouent du raisonnement humain.
C’est ce que l’on retrouve également dans un film de 2015 que j’ai beaucoup aimé, « Ex_Machina » de Alex Garland, qui met en scène Caleb, un des plus brillants codeurs que compte BlueBook – plus important moteur de recherche Internet au monde – qui passera plus d’une semaine dans la résidence du grand patron suite à un jeu qu’il remporta. Mais quand Caleb arrive dans la demeure isolée, il découvre qu’il va devoir participer à une expérience troublante : interagir avec le représentant d’une nouvelle intelligence artificielle apparaissant sous les traits d’une très jolie femme robot prénommée Ava(5).
On constatera au fil du temps qu’Ava se joue des sentiments que Caleb éprouve à son égard, et qu’elle les utilisera pour atteindre son objectif (pas de spoil ! allez voir le film ^^).
Ainsi, on peut se poser la question de la pertinence de cette technologie qui a toujours fasciné les Hommes, mais qui a toujours aussi été présenté comme une menace. Parviendra-t-on à contrôler les émotions de ces I.A, ou à faire en sorte qu’on puisse les façonner pour qu’elles prennent de bonnes décisions, non pas basées sur un système binaire, mais sur un contexte global ?
(1) Source : Sciencepost.fr du 4 novembre 2016 – Deux I.A. ont communiqué dans une langue indéchiffrable par l’Homme. Par David.
(2) Source : Journal du Geek du 7 novembre 2016 – Les I.A. de Google inventent leur propre langage chiffré. Par Elodie.
(3) Source : übergizmo du 7 novembre 2016 – Google Brain : quand deux I.A. communiquent dans une langue inconnue. Par Morgan.
(4) Source : Wikipedia – Personnages de Terminator
(5) Source : Allocine.fr – Fiche du film Ex_Machina
