La nouvelle n’a probablement pas fait le chemin jusqu’à vos oreilles. Et ce n’est pas parce que des ordinateurs auront fait obstacle ou censure… Ils ont fait bien pis ! Deux intelligences artificielles (IA), dont des superordinateurs, ont récemment réussi à communiquer (banal !)… dans une langue indéchiffrable par l’homme (wow !) Oui, l’humain n’y a vu que du feu et rien de compréhensible. C’est le début de la perte de contrôle des ordinateurs pour la race humaine. 2016 : une date à marquer d’une pierre noire.
L’affaire nous arrive de chez Google Brain, le programme de recherche en intelligence artificielle de Google. Une histoire certes étonnante, mais surtout inquiétante. Que deux ordinateurs soient parvenus à communiquer entre eux dans une langue qu’ils avaient eux-mêmes créée, et au surplus qui demeure une langue indéchiffrable par l’homme, a énormément de quoi nous inquiéter.
Si dans le cadre de la recherche sur le Deep Learning – la manière dont des ordinateurs peuvent évoluer de façon autonome grâce à des algorithmes -, le programme de recherche en intelligence artificielle Google Brain vient de franchir une étape concluante, le fait que les chercheurs n’en maîtrisent pas la finalité devient un contre-résultat fort préoccupant.
On leur donne déjà des prénoms d’humains!
Ceux-ci sont parvenus à faire communiquer deux IA (Alice et Bob) entre elles, alors qu’une troisième (Ève) avait pour but d’intercepter leurs communications. Alors qu’ils n’avaient mis aucun algorithme spécifique en place, les chercheurs constatèrent tout de même que « Alice » et « Bob » ont sécurisé leurs communications par le biais d’un chiffrement qu’ils avaient eux-mêmes développé. Si « Ève » est parvenue à intercepter certaines communications, la majorité d’entre elles sont restées indéchiffrables.
Évidemment, ce n’est qu’un début. Alors imaginons les suites… Un futur avec des intelligences artificielles (IA) qui pourront être capables de communiquer dans un langage unique que nous ne pourrons peut-être pas déchiffrer. Que nous ne pourrons plus contrôler.
Au-delà de Partnership on AI
La source de cet article nous rappelle à juste titre que Bill Gates, comme Stephen Hawking qui décrit l’intelligence artificielle comme « soit la meilleure soit la pire chose jamais arrivée à l’humanité », ou Elon Musk nous ont mis en garde contre les éventuels dangers de l’évolution des IA à l’avenir.
On apprend aussi qu’Amazon, Facebook, IBM, Microsoft ainsi que Google ont créé le groupement Partnership on AI qui est destiné à mettre en commun leurs avancées et leurs réflexions face aux risques potentiels de leurs découvertes. Mais Google comme les quatre autres sont-ils assez loin du conflit d’intérêt pour aller véritablement au fond des choses?
Il faudra bien plus que Partnership on AI pour rassurer l’humanité.
*****
Vous aimez cet article!
Faites une DONATION à notre rédaction par un clic au bas de la colonne de droite de cette page... MERCI!
