L’intelligence artificielle (IA) a progressé à un point où les ordinateurs peuvent apprendre à créer des « deepfakes » en combinant des images et des vidéos authentiques. Nous avons déjà vu des deepfakes troublants – des vidéos qui montrent soi-disant des célébrités bien connues, qui sont en fait fausses. Les résultats d’une vidéo ou d’une photo deepfake peuvent être amusants et inoffensifs, comme l’image ci-dessus imaginant à quoi aurait ressemblé Captain America de John Krasinski. Mais les personnes malveillantes peuvent utiliser des deepfakes pour diffuser de la désinformation, car la technologie permet aux attaquants de se faire passer pour des politiciens et de leur faire dire pratiquement n’importe quoi.

Ces deepfakes pourraient alors se propager comme une traînée de poudre sur les réseaux sociaux et avoir le potentiel de faire beaucoup de mal avant d’être démystifiés. C’est là que Facebook pourrait venir à la rescousse, car les chercheurs en IA de l’entreprise ont mis au point une technologie qui fait plus que simplement détecter les deepfakes. Facebook affirme que son IA peut en fait suivre l’origine des deepfakes en trouvant des caractéristiques uniques qui pourraient l’aider à identifier la source d’un deepfake destiné à diffuser de la désinformation.

Meilleure offre du jour Comment ces nouvelles mini-prises intelligentes sur Amazon ne coûtent-elles que 4,24 $ chacune ?! Liste des prix:21,96 $ Prix:16,97 $ Vous sauvegardez:4,99 $ (23 %) Disponible sur Amazon, Crumpe peut recevoir une commission Acheter maintenant Disponible sur Amazon Crumpe peut recevoir une commission

Voir Facebook à la pointe de la lutte contre les deepfakes est en fait rafraîchissant, car les deepfakes se propageraient largement via les applications sociales de Facebook, notamment Facebook, Messenger, WhatsApp et Instagram.

La société s’est associée à la Michigan State University pour créer une technologie capable de détecter si une vidéo ou une image est un deepfake ou authentique.

Facebook utilise sa propre IA pour rechercher des indices indiquant qu’une image ou une vidéo a été falsifiée. La même technologie peut être utilisée pour identifier les points communs entre les deepfakes et créer une empreinte digitale qui pourrait identifier l’origine du deepfake malveillant :

Notre méthode d’ingénierie inverse repose sur la découverte des modèles uniques derrière le modèle d’IA utilisé pour générer une seule image deepfake. Nous commençons par l’attribution d’images, puis travaillons à la découverte des propriétés du modèle qui a été utilisé pour générer l’image. En généralisant l’attribution d’image à la reconnaissance d’ensemble ouvert, nous pouvons déduire plus d’informations sur le modèle génératif utilisé pour créer un deepfake qui va au-delà de la reconnaissance du fait qu’il n’a jamais été vu auparavant. Et en retraçant les similitudes entre les modèles d’une collection de deepfakes, nous pourrions également dire si une série d’images provenait d’une seule source. Cette capacité à détecter quels deepfakes ont été générés à partir du même modèle d’IA peut être utile pour découvrir des cas de désinformation coordonnée ou d’autres attaques malveillantes lancées à l’aide de deepfakes.

Alors que les attaquants pourraient tenter de cacher leurs traces lors de la fabrication de deepfakes à des fins malveillantes, l’IA de Facebook pourrait toujours récupérer des éléments d’empreintes digitales qui pourraient permettre aux enquêteurs d’en déterminer l’origine.

Facebook compare les algorithmes à une technologie qui permettrait à quelqu’un de reconnaître les composants d’une voiture en fonction de son son, même s’il n’a jamais entendu la voiture auparavant :

Pour mieux comprendre les hyperparamètres, considérez un modèle génératif comme un type de voiture et ses hyperparamètres comme ses divers composants de moteur spécifiques. Différentes voitures peuvent se ressembler, mais sous le capot, elles peuvent avoir des moteurs très différents avec des composants très différents. Notre technique d’ingénierie inverse est un peu comme reconnaître les composants d’une voiture en fonction de son son, même s’il s’agit d’une nouvelle voiture dont nous n’avons jamais entendu parler auparavant.

Facebook perfectionne toujours sa technologie pour détecter les deepfakes, mais affirme que « ce travail donnera aux chercheurs et aux praticiens des outils pour mieux enquêter sur les incidents de désinformation coordonnée à l’aide de deepfakes, ainsi qu’ouvrir de nouvelles directions pour de futures recherches ». Le blog complet de Facebook sur le sujet est disponible sur ce lien.

Meilleure offre du jour Ajoutez Alexa mains libres à votre voiture pour 14,99 $ au lieu de 50 $ avec cette offre Prime Day folle et anticipée ! Prix:14,99 $ Disponible sur Amazon, Crumpe peut recevoir une commission Acheter maintenant Disponible sur Amazon Crumpe peut recevoir une commission