Un programme d’intelligence artificielle a développé son propre langage et personne ne peut le comprendre.
OpenAI est un développeur de systèmes d’intelligence artificielle – leurs programmes sont des exemples fantastiques de super-informatique, mais il y a des bizarreries.
DALLE-E2 est le dernier système d’IA d’OpenAI – il peut générer des images réalistes ou artistiques à partir de descriptions textuelles saisies par l’utilisateur.
DALLE-E2 représente une étape importante dans l’apprentissage automatique – le site d’OpenAI indique que le programme “a appris la relation entre les images et le texte utilisé pour les décrire”.
Une démonstration DALLE-E2 comprend des mots-clés interactifs permettant aux utilisateurs de jouer avec et de générer des images – le fait de basculer entre différents mots-clés se traduira par des images, des styles et des sujets différents.
Mais le système a un comportement étrange : il écrit son propre langage d’arrangements aléatoires de lettres, et les chercheurs ne savent pas pourquoi.
Giannis Time, un doctorat en informatique. étudiant à l’Université du Texas, a publié un Fil Twitter détaillant le nouveau langage inexpliqué de DALLE-E2.
Daras a dit à DALLE-E2 de créer une image de “paysans parlant de légumes” et le programme l’a fait, mais le discours des paysans disait “vicotes” – un mot inconnu de l’IA.
Exemple nourris “vicottes” dans le système DALLE-E2 et récupéré des images de légumes.
“Nous alimentons ensuite les mots:” Apoploe vesrreaitars “et nous obtenons des oiseaux.” Daras a écrit sur Twitter.
“Il semble que les agriculteurs parlent d’oiseaux, de jouer avec leurs légumes !”
Daras et un co-auteur ont rédigé un article sur le « vocabulaire caché » de DALLE-E2.
Ils reconnaissent que dire à DALLE-E2 de générer des images de mots – la commande « une image du mot avion » est l’exemple de Daras – conduit normalement DALLE-E2 à cracher un « texte charabia ».
Lorsqu’il est rebranché dans DALLE-E2, ce texte charabia se traduira par des images d’avions – ce qui en dit long sur la façon dont DALLE-E2 se parle et se pense.
Certains chercheurs en intelligence artificielle ont fait valoir que le texte charabia de DALLE-E2 est un “bruit aléatoire”.
Espérons que nous ne découvrions pas que la deuxième langue du DALLE-E2 était une faille de sécurité qui devait être corrigée après qu’il soit trop tard.
Cet article est initialement paru sur Le soleil et a été reproduit ici avec permission.