Meta, Google et d’autres connaissent les dangers des deepfakes avant les élections de 2024


La première élection présidentielle américaine à l’ère des deepfakes présente aux responsables politiques des défis jamais vus auparavant, à un moment où les géants de la technologie réduisent leurs cyberdéfenses.

Des images et des clips audio fabriqués pour influencer les électeurs sonnent l'alarme dans les jours précédant la primaire républicaine en Caroline du Sud le 25 février et le Super Tuesday le 5 mars, lorsque les deux partis organiseront des primaires dans un certain nombre d'États.

« Les protections en place sont-elles suffisantes pour contrecarrer » l’influence des deepfakes ciblés cette année ? Kathleen Hall Jamieson, directrice du Annenberg Public Policy Center de l'Université de Pennsylvanie, a déclaré dans une interview. « La capacité des individus et des États-nations à générer davantage de contenus trompeurs, micro-ciblés et plus difficiles à détecter pourrait se produire. »

Un large éventail d’entreprises technologiques ont reconnu la menace de manière importante vendredi soir. GOOGL GOOG Google d'Alphabet Inc., Amazon.com Inc. AMZN,
-1,58%,
Société mère de Facebook, Meta Platforms Inc. META,
-0,55%,
Microsoft Corp.
-0,77%,
OpenAI, X, Adobe Inc. ADBE,
-1,80%,
International Business Machines Corp.IBM,
-1,66%,
Tik Tok et d’autres ont signé un pacte pour adopter volontairement des « précautions raisonnables » pour empêcher que les outils d’IA ne soient utilisés pour perturber les élections démocratiques dans le monde entier.

Ces dernières semaines, OpenAI, Google et Meta ont pris des mesures pour limiter les abus de l’IA lors des élections.

Les deepfakes générés par l’IA ont commencé à faire leur chemin dans les publicités des campagnes présidentielles et des élections. Le mois dernier, un appel automatisé falsifié d’un président Biden falsifié a tenté de décourager le vote lors des primaires du New Hampshire. Cet appel automatisé a été détecté par des experts en sécurité et couvert par les médias américains, mais d'autres sont probablement passés inaperçus.

Les menaces semblent plus inquiétantes, voire dangereuses, en dehors des États-Unis. Les élections en Slovaquie En novembre, des enregistrements audio générés par l’IA ont usurpé l’identité d’un candidat libéral discutant de projets visant à augmenter les prix de la bière et à truquer les élections. Le faux récit s’est rapidement répandu sur les réseaux sociaux.

Ce mois-ci, le conseil de surveillance de Meta, composé d'universitaires, d'avocats et d'experts indépendants qui supervisent les décisions onéreuses en matière de contenu sur la plateforme, a critiqué Meta pour ses politiques « incohérentes » et « déroutantes » sur les médias manipulés après qu'une vidéo modifiée du président Biden ait été diffusée sur Facebook.

Meta a décidé de ne pas supprimer la vidéo éditée, qui montrait Biden touchant apparemment sa petite-fille de manière inappropriée. En réalité, Biden plaçait un autocollant « J’ai voté » sur sa poitrine.

“L'incapacité de faire confiance à nos sens pourrait conduire à la méfiance et à la paranoïa, détruisant encore davantage les relations sociales et politiques entre les gens”, a déclaré Sohrob Kazerounian, chercheur distingué en IA chez Vectra AI.

Évolution de l’ingérence politique en ligne

À mesure que la technologie a évolué, les méthodes employées par les individus et les États-nations pour la manipuler pendant les élections ont également évolué – remontant aux appels automatisés, aux courriers ciblés et aux rumeurs spécieuses sur Internet. L’un de ces appels automatisés visait le candidat républicain de l’époque, John McCain, avant les primaires de Caroline du Sud en 2000.

L’essor des médias sociaux a joué un rôle décisif en influençant l’élection présidentielle de 2016, lorsque des acteurs parrainés par la Russie ont envahi les plateformes proposant du contenu troll.

Suite au brouhaha, les responsables de Facebook, Twitter et d’autres ont renforcé leurs défenses qui ont conduit à des élections assez propres en 2018 et 2020.

Puis est arrivée l’insurrection du 6 janvier 2021, alimentée en grande partie par les réseaux sociaux. Aujourd’hui, avec l’émergence de l’IA, couplée à des réductions drastiques dans les entreprises de médias sociaux qui se serrent la ceinture, tous les paris sont ouverts en 2024.

X, Meta et YouTube ont licencié des milliers d'employés et de sous-traitants depuis 2020, dont certains incluaient des modérateurs de contenu.

“Même avec un effectif complet, ce n'est toujours pas suffisant lorsque la moitié du monde doit voter au milieu de la propagation de deepfakes nuancés et personnalisés”, a déclaré Jevin West, professeur agrégé à l'Université de Washington, dans une interview.

La réduction de la confiance et des équipes de sécurité, combinée à une fusillade de contenus trompeurs, « érode la confiance dans un système démocratique » et « conduit les électeurs à la confusion et à une perception erronée », selon West.

“Ma plus grande préoccupation est que cela a préparé le terrain pour que les choses soient pires en 2024 qu'en 2020”, a déclaré West.

Les solutions explorées par le Congrès et la Commission électorale fédérale n'ont pas encore été transformées en lois ou en règles, ce qui laisse aux États comme le Colorado, le Minnesota et le Wisconsin la responsabilité de promouvoir les efforts d'éducation du public en ligne pour promouvoir les fonctionnaires électoraux en tant que source fiable d'informations électorales dans le pays. 2024.

Ce mois-ci, la Federal Communications Commission a interdit à l’unanimité les appels automatisés non sollicités utilisant des voix générées par l’IA, car cette technologie peut induire les gens en erreur. La FCC a déclaré que les voix générées par l'IA dans les appels automatisés non sollicités sont interdites en vertu de la loi sur la protection des consommateurs par téléphone de 1991, qui restreint les appels marketing utilisant des messages vocaux artificiels et préenregistrés. Les appels automatisés doivent offrir aux utilisateurs un moyen de se désinscrire des futurs appels, a déclaré la FCC.

En savoir plus: Les voix générées par l’IA dans les appels automatisés peuvent tromper les électeurs. La FCC vient de les rendre illégaux.

En fin de compte, la génération IA aura un impact sur les élections, conviennent les experts. La question est de savoir si c’est bon ou mauvais.

“Tout ce dont nous entendons parler, c'est d'une utilisation néfaste de l'IA”, a déclaré l'avocate électorale Jessica Furst Johnson dans une interview. « Mais comme il est nouveau, il peut également être utilisé par les équipes électorales pour communiquer avec les électeurs. Nous ne savons pas vraiment comment cela sera utilisé.

Vérifier Sous surveillance par Crumpe, un podcast hebdomadaire sur l'actualité financière que nous regardons tous – et comment cela affecte l'économie et votre portefeuille. Jeremy Owens de Crumpe s'intéresse à ce qui motive les marchés et propose des informations qui vous aideront à prendre des décisions financières plus éclairées. Abonnez-vous sur Spotify et Pomme.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*