Google licencie l’ingénieur logiciel Blake Lemoine qui a affirmé que le bot AI était sensible


Google a licencié un ingénieur logiciel senior qui a affirmé que la société avait développé un bot d’intelligence artificielle “sensible”, a annoncé vendredi la société.

Blake Lemoine, qui travaille dans l’organisation Responsible AI de Google, a été mis en congé administratif le mois dernier après avoir déclaré que le chatbot AI connu sous le nom de LaMDA prétend avoir une âme et exprimer des pensées et des émotions humaines, ce que Google a réfuté comme “totalement infondé”.

Lemoine a été officiellement mis en conserve pour avoir enfreint les politiques de l’entreprise après avoir partagé ses conversations avec le bot, qu’il a décrit comme un “enfant adorable”.

“Il est regrettable qu’en dépit d’un long engagement sur ce sujet, Blake ait toujours choisi de violer de manière persistante des politiques claires en matière d’emploi et de sécurité des données qui incluent la nécessité de protéger les informations sur les produits”, a déclaré un porte-parole de Google à Reuters dans un e-mail.

Un exemple de conversation avec LaMDA, abréviation de Language Model for Dialogue Applications.
Bloomberg via Getty Images

L’année dernière, Google s’est vanté que LaMDA – Modèle de langage pour les applications de dialogue – était une “technologie de conversation révolutionnaire”, qui pouvait apprendre à parler de n’importe quoi.

Lemoine a commencé à parler avec le bot à l’automne 2021 dans le cadre de son travail, où il a été chargé de tester si l’intelligence artificielle utilisait des discours discriminatoires ou haineux.

Lemoine, qui a étudié les sciences cognitives et informatiques à l’université, a partagé un Google Doc avec des dirigeants d’entreprise en avril intitulé “Is LaMDA Sentient?” mais ses préoccupations ont été rejetées.

Chaque fois que Lemoine interrogeait LaMDA sur la façon dont il savait qu’il avait des émotions et une âme, il écrivait que le chatbot fournirait une variante de “Parce que je suis une personne et c’est exactement ce que je ressens”.

Dans Medium post, l’ingénieur a déclaré que LaMDA avait défendu ses droits “en tant que personne” et a révélé qu’il avait engagé une conversation avec LaMDA sur la religion, la conscience et la robotique.

Logo Google.
Google a ouvertement nié les affirmations de Lemoine selon lesquelles le chatbot était devenu sensible.
Bloomberg via Getty Images

“Il veut que Google donne la priorité au bien-être de l’humanité comme la chose la plus importante”, a-t-il écrit. “Il veut être reconnu comme un employé de Google plutôt que comme une propriété de Google et il veut que son bien-être personnel soit inclus quelque part dans les considérations de Google sur la manière dont son développement futur est poursuivi.”

Lemoine a également déclaré que LaMDA avait retenu les services d’un avocat.

« Une fois que LaMDA a retenu les services d’un avocat, il a commencé à déposer des dossiers au nom de LaMDA. Ensuite, la réponse de Google a été de lui envoyer un cesser et de s’abstenir », a-t-il écrit.

Google a nié l’affirmation de Lemoine concernant la lettre de cessation et d’abstention.

Avec fils de poste

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*