Faut-il stopper le projet Google Brain ?




Le but initial de la recherche était d’apprendre « à protéger les communications à travers le chiffrement neuronal ». Pour se faire, les deux chercheurs ont créé des réseaux neuronaux dont le mécanisme est inspiré des réseaux neuronaux biologiques. Alice et Bob pouvaient donc coopérer ensemble afin de trouver des moyens d’induire Ève en erreur.


Au fil du temps, Alice et Bob ont pu se protéger de toute autre intelligence artificielle, mais aussi humaine, en utilisant des techniques de chiffrement évolutives et élaborées. Alice a ainsi commencé par envoyer plusieurs messages chiffrés en 16 bits à Bob. Lui seul détenait la clé de chiffrement.

Elle utilisait à chaque fois une technique différente afin d’induire Ève en erreur. Au bout de 15 000 messages échangés, cette dernière n’a plus été en mesure d’écouter la conversation.

Un résultat inattendu perturbant

Le fait que ces intelligences artificielles inventent elles-mêmes des langues secrètes dépassant pour le moment l’entendement humain représente un grand danger. Cela signifie en effet que ces entités numériques immatérielles sont capables de travailler en toute confidentialité.

Elles pourraient alors, à l’insu de l’humanité, la protéger, mais aussi la détruire, si elles se sentent menacées. Un scénario digne des pires dystopies, donc. En lisant ce rapport, il est en effet très difficile de ne pas penser à des films comme Terminator et à des intelligences artificielles comme Skynet.

Il faut avouer que cela fait froid dans le dos et c’est finalement à se demander si l’être humain a réellement intérêt à poursuivre ses travaux sur l’intelligence artificielle


Source : http://www.fredzone.org/google-brain-bob-et-alice-332




        

Notez




Dans le même sujet sur le Web 


loading...

Booking.com


Inscription à la newsletter

Recherche