Les deepfakes d’IA sont bon marché et faciles et arriveront aux élections de 2024

Nos nouveaux épisodes du jeudi Décryptage Il s'agit d'approfondir les grands sujets de l'actualité, et cette semaine, nous poursuivons notre mini-série sur l'un des sujets les plus importants de tous : l'IA générative.

La semaine dernière, nous avons examiné la vague de poursuites en matière de droits d'auteur qui pourraient éventuellement mettre un terme à toute cette industrie. Il s’agit essentiellement d’un processus consistant à tirer à pile ou face – et les résultats sont tirés par les cheveux, à mesure que ces affaires se frayent un chemin dans le système judiciaire. Le plus gros problème maintenant est que les systèmes d'IA sont vraiment efficaces pour créer des images et des clips audio suffisamment faux pour être crédibles – et avec des outils comme le nouveau Sora d'OpenAI, et peut-être bientôt aussi de la vidéo.

Bien sûr, c’est une fois de plus une année d’élections présidentielles ici aux États-Unis. Donc aujourd'hui, bord Le rédacteur politique Adi Robertson se joint à l'émission pour discuter de la façon dont l'intelligence artificielle pourrait accroître la désinformation et les mensonges dans une élection qui est déjà aussi controversée que n'importe quelle autre de notre époque – et de ce qui peut être fait pour y remédier.

Les conversations sur la manipulation des médias sur les plateformes de médias sociaux vont et viennent à chaque cycle électoral. Les élections de 2016 ont été marquées par des campagnes de désinformation russes sur Facebook ; La campagne de 2020 a publié un compte rendu de l’histoire de l’ordinateur portable de Hunter Biden sur Twitter, puis les principales plateformes ont finalement interdit Donald Trump après les attentats du 6 janvier.

Ces regains d'intérêt se sont atténués, avec peu ou rien à montrer – et, dans le cas de Twitter, un retrait total de toute modération. Elon Musk a transformé la plateforme en ce qu'on appelle désormais X. Et X est l’endroit où de fausses images pornographiques de Taylor Swift ont été largement diffusées – un aperçu des problèmes auxquels sont confrontées toutes les grandes plateformes.

Il semble que les discussions sur la désinformation en 2024 soient plus nuancées qu’auparavant. Mais comme pour toute question épineuse entourant la parole en ligne, il existe un problème lié au Premier Amendement à résoudre. Des discussions sont également en cours sur les politiques et la modération des plateformes sur la meilleure façon de lutter contre la création et la diffusion de pornographie non consensuelle et sur la frontière entre les commentaires protégés et la désinformation malveillante.

Rien de tout cela ne sera facile. Mais ces problèmes ne vont pas disparaître, et il est important d’évaluer la manière dont les sociétés d’IA, les plateformes de médias sociaux et les décideurs politiques tentent de les résoudre, ainsi que ce que nous, en tant qu’individus, devons garder à l’esprit alors que le cycle électoral démarre à plein régime.