L’intelligence artificielle repérée en train d’inventer son propre langage effrayant


Un programme d’intelligence artificielle a développé son propre langage et personne ne peut le comprendre.

OpenAI est un développeur de systèmes d’intelligence artificielle – leurs programmes sont des exemples fantastiques de super-informatique, mais il y a des bizarreries.

DALLE-E2 est le dernier système d’IA d’OpenAI – il peut générer des images réalistes ou artistiques à partir de descriptions textuelles saisies par l’utilisateur.

DALLE-E2 représente une étape importante dans l’apprentissage automatique – le site d’OpenAI indique que le programme “a appris la relation entre les images et le texte utilisé pour les décrire”.

Une démonstration DALLE-E2 comprend des mots-clés interactifs permettant aux utilisateurs de jouer avec et de générer des images – le fait de basculer entre différents mots-clés se traduira par des images, des styles et des sujets différents.

Mais le système a un comportement étrange : il écrit son propre langage d’arrangements aléatoires de lettres, et les chercheurs ne savent pas pourquoi.

Giannis Time, un doctorat en informatique. étudiant à l’Université du Texas, a publié un Fil Twitter détaillant le nouveau langage inexpliqué de DALLE-E2.

Daras a dit à DALLE-E2 de créer une image de “paysans parlant de légumes” et le programme l’a fait, mais le discours des paysans disait “vicotes” – un mot inconnu de l’IA.

Après avoir reçu l’ordre de créer une image de “fermiers parlant de légumes”, le discours lisait des vicotes, un mot inconnu de l’IA.
Getty Images/iStockphoto

Exemple nourris “vicottes” dans le système DALLE-E2 et récupéré des images de légumes.

“Nous alimentons ensuite les mots:” Apoploe vesrreaitars “et nous obtenons des oiseaux.” Daras a écrit sur Twitter.

“Il semble que les agriculteurs parlent d’oiseaux, de jouer avec leurs légumes !”

Daras et un co-auteur ont rédigé un article sur le « vocabulaire caché » de DALLE-E2.

Ils reconnaissent que dire à DALLE-E2 de générer des images de mots – la commande « une image du mot avion » est l’exemple de Daras – conduit normalement DALLE-E2 à cracher un « texte charabia ».

Lorsqu’il est rebranché dans DALLE-E2, ce texte charabia se traduira par des images d’avions – ce qui en dit long sur la façon dont DALLE-E2 se parle et se pense.

Certains chercheurs en intelligence artificielle ont fait valoir que le texte charabia de DALLE-E2 est un “bruit aléatoire”.

Espérons que nous ne découvrions pas que la deuxième langue du DALLE-E2 était une faille de sécurité qui devait être corrigée après qu’il soit trop tard.

Cet article est initialement paru sur Le soleil et a été reproduit ici avec permission.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*