Dans un monde où l’intelligence artificielle (IA) façonne de plus en plus notre perception de la réalité, Midjourney, un générateur d’images IA populaire, a pris une décision audacieuse. Suivant les pas d’OpenAI et de Google, Midjourney a interdit la création d’images IA des figures politiques telles que l’ancien président Donald Trump et l’actuel président Joe Biden, en prévision des élections présidentielles américaines de 2024.
Cette mesure vise à réduire la propagation de la désinformation, un problème qui a déjà causé des troubles sur les réseaux sociaux l’année dernière lorsque des images photoréaliste et fausses de l’arrestation de Trump ont été créées sur Midjourney. David Holz, PDG de Midjourney, a admis qu’il ne se soucie pas vraiment du discours politique, mais il cherche surtout à éviter de devoir « policer le discours politique ».
La décision de Midjourney soulève des questions importantes sur la liberté d’expression et le rôle des entreprises technologiques dans la modération du contenu. Alors que les outils d’IA deviennent de plus en plus sophistiqués, la capacité de créer des deepfakes convaincants pose un risque croissant pour l’intégrité des processus électoraux.Les utilisateurs de Midjourney qui tentent de créer des images des deux candidats reçoivent désormais un avertissement de « Banned Prompt Detected ». Des tentatives répétées déclenchent une alerte d’abus, signalant la détermination de l’entreprise à empêcher l’abus de son outil.
Cette initiative de Midjourney est un rappel que, dans l’ère numérique, la responsabilité de protéger la vérité et la démocratie peut souvent reposer sur les épaules des créateurs de technologies. Alors que les élections de 2024 approchent, il est essentiel que tous les acteurs, des entreprises technologiques aux utilisateurs individuels, restent vigilants contre les menaces de désinformation.
Découvrez d’autres actualités sur EspritIA