Neon AI de Samsung a un problème d’éthique, et il est aussi vieux que le canon de science-fiction

Pendant des décennies, les éthiciens, les philosophes et les écrivains de science-fiction ont lutté avec ce qui semble de plus en plus comme une fatalité dans l’évolution de la découverte technologique de l’humanité: la création d’une nouvelle espèce d’humanité artificielle. Quel meilleur endroit pour le bal débutant d’une telle espèce que la frénésie de l’électronique grand public de Las Vegas, CES 2020 ? Entrez à droite de la scène: l’avatar CGI interactif étrangement réaliste, Neon . C’est l’idée originale du Pranav Mistry de Star Labs financé par Samsung, qui sert également de PDG de la société qui, selon lui, construit «le premier humain artificiel informatisé».

“Le néon est comme un nouveau genre de vie”, a déclaré Mistry lors du dévoilement de la technologie  cette semaine au CES. “Il y a des millions d’espèces sur notre planète, et nous espérons en ajouter une de plus.”

C’est un gros discours. Et il est difficile de voir, tout à l’heure, si Neon tiendra les promesses terrifiantes de son créateur, ou s’il s’avérera finalement être un chatbot glorifié avec un peu plus de nuances que l’ ancre de l’actualité notoirement effrayante de l’ IA révélée en 2018 . 

Mais la grande discussion est pourquoi nous sommes ici. Que le langage ambitieux de Mistry reflète la fonctionnalité réaliste de Neon importe moins pour moi que l’éthique de créer une forme de vie sensible sur une planète où des milliards d’animaux brûlent à mort dans des contorsions brûlantes grâce au changement climatique et aux incendies de forêt. 

Il y a deux ans, Samsung a annoncé qu’il embaucherait 1000 spécialistes de l’IA et dépenserait 22 milliards de dollars pour l’IA d’ici 2020 . On se demande si ce budget comprenait un poste pour les éthiciens de l’IA chez Star Labs (nous avons demandé, mais Samsung n’avait pas répondu au moment de la publication). Dans le blizzard des communiqués de presse sur les produits de l’IA, il est difficile de discerner si une conversation sincère sur l’éthique de l’IA a été tenue par les dirigeants des plus grandes entreprises technologiques du monde, ou si ces conversations sont uniquement reléguées au refoulement éthique d’organisations extérieures , qui a semblé augmenter l’année dernière . 

Mistry est prompt à souligner que Neon ne fabrique pas de technologie pour les appareils Samsung et qu’il fonctionne comme sa propre entreprise. Mais Samsung est toujours son soutien.

Les rêves électriques des technologues bourdonnants, au ras de la capitale de la côte ouest, semblent rarement inclure des descriptions sobres de technologies susceptibles de changer le monde. Au lieu de cela, les entreprises préfèrent  les clins d’œil symboliques à l’éthique et au langage auto-agrandissant, que les écrivains comme moi parlent trop souvent par réflexe dans nos rapports rapides. 

Samsung, pour sa part, a déclaré que la confidentialité, la sécurité et l’éthique étaient importantes en matière d’IA. 

“Nous devons vraiment nous soucier de l’éthique”, a déclaré Young Sohn, directeur de la stratégie de Samsung , lors d’une interview en novembre 2018 . “Qu’est-ce qui est bien? Qu’est-ce qui ne va pas? … Et la recherche? Génial. Mais la recherche à des fins, pas pour utiliser ces données pour profiter de tous les êtres humains.”

Nous n’avons pas beaucoup entendu parler des «innovateurs» sur la réduction des inégalités économiques en répartissant la plus-value du travail créée par l’intelligence artificielle. Au contraire, les bénéfices augmentent dans les comptes bancaires des milliardaires tandis que la disparité des classes économiques augmente à un rythme saisissant au milieu des inquiétudes liées au déplacement de main-d’œuvre liées à l’IA non traitées . 

Nous n’avons pas non plus beaucoup entendu parler de «chefs de file» de la technologie au sujet de l’utilisation de l’intelligence artificielle pour réduire les violations mondiales des droits de l’homme. Au contraire, nous avons une multitude de sociétés technologiques qui utilisent l’IA pour aider l’armée américaine à tuer des gens , pour créer  des  systèmes de reconnaissance faciale utilisés pour suivre les minorités musulmanes en Chine et pour aider les sites Web sociaux de toxicomanie par conception à diffuser une propagande politique micro-ciblée . 

Si une entreprise – n’importe quelle entreprise – réussit à créer des humains artificiels, pourquoi devrions-nous croire que la dignité sera intrinsèque à la conception d’une nouvelle espèce? Bien que les néons n’aient pas actuellement d’incarnation physique, l’utilisation du mot «actuellement» dans la FAQ distribuée par l’entreprise donne une pause. Faut-il la création de plus en plus probable d’un corps physique artificiel pour inciter les concepteurs à la responsabilité éthique de la fabrication d’un humain artificiel? 

Inspiré par la dystopie

Dans une interview avec Shara Tibken de CNET mardi, Mistry a déclaré qu’il n’était pas prévu de donner aux néons des formes robotiques ou physiques , mais qu’ils pourraient un jour profiter de la technologie holographique.

Dans une interview avec LiveMint en décembre , Mistry a cimenté le lien de son travail avec les précédents de la science-fiction. 

“Dans Blade Runner 2049, l’officier K développe une relation avec son compagnon d’hologramme AI, Joi”, a-t-il déclaré. “Alors que les films peuvent perturber notre sens de la réalité, les” humains virtuels “ou les” humains numériques “seront la réalité. Un humain numérique pourrait étendre son rôle pour devenir une partie de notre vie quotidienne: un présentateur de nouvelles virtuel, une réceptionniste virtuelle, ou même un Star de cinéma générée par l’IA. “

Vous devez vous demander ce qui obligerait une personne à fonder ses espoirs pour l’IA sur un récit de mise en garde cyber-dystopique comme Blade Runner. L’histoire de Philip K. Dick en 1982 (et les films de Ridley Scott qui l’ont suivi) imaginent la torture et la rébellion subséquente d’une espèce d’IA esclave qui sont presque indiscernables des humains locaux qui les ont créés. Il est difficile d’imaginer une lecture du document aussi superficielle qu’elle puisse être confondue avec un encouragement. 

Mais c’est peut-être une comparaison appropriée, intentionnellement ou non. Dans un monde dépeint comme étant à la fois glamour et futuriste pour certains et décomposé de façon cauchemardesque pour le reste, l’antagoniste de l’histoire est une entreprise qui crée la vie de façon imprudente. Le slogan de Neon est “plus humain qu’humain”.

Pendant ce temps, Mistry a déclaré dans un communiqué de presse que “les néons seront intégrés dans notre monde et serviront de nouveaux liens pour un avenir meilleur, un monde où ‘les humains sont humains’ et ‘les machines sont humaines’.”

J’espère que ce n’est que grand discours. Le poids de la création est terrible. Créer une espèce, c’est se lier moralement à son bien-être et à son libre arbitre, à sa liberté évolutive et à ses droits d’existence. 

Qu’est-ce que Mistry – ou l’un de ses bailleurs de fonds, ou n’importe lequel d’entre nous – a à dire sur les droits d’une telle espèce humaine? Avec seulement le bruit des applaudissements perturbant le silence de ces préoccupations, quel genre de dieux horribles serions-nous?

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*