La plateforme sociale X va lancer un pilote pour permettre aux chatbots d’intelligence artificielle (IA) de générer des Notes de Communauté, une fonctionnalité qui a connu un certain succès sur la plateforme depuis son acquisition par Elon Musk. Les Notes de Communauté sont des commentaires qui ajoutent du contexte à certains postes, vérifiés par d’autres utilisateurs avant d’être attachés à un poste.
Les Notes de Communauté : un succès qui inspire d’autres plateformes
Les Notes de Communauté ont été introduites sur X pour fournir un contexte supplémentaire à certaines publications, notamment celles qui peuvent être trompeuses ou qui nécessitent une clarification. Cette fonctionnalité a connu un tel succès que Meta, TikTok et YouTube ont décidé de lancer des initiatives similaires. Meta a même éliminé ses programmes de vérification des faits tiers pour adopter ce modèle de vérification communautaire à faible coût.
L’utilisation de l’IA pour générer des Notes de Communauté : opportunité ou menace ?
Mais l’utilisation de l’IA pour générer des Notes de Communauté soulève des inquiétudes. Les chatbots IA peuvent être sujets à des hallucinations, c’est-à-dire qu’ils peuvent inventer des contextes qui ne sont pas basés sur la réalité. Selon un article de recherche publié cette semaine, il est recommandé que les humains et les LLM (Large Language Models) travaillent en tandem pour générer des Notes de Communauté précises. Les retours des humains peuvent améliorer la génération de notes par les LLM via l’apprentissage par renforcement, avec des évaluateurs humains comme dernière vérification avant la publication.
Risques et limites de l’utilisation de l’IA dans la vérification des faits
Malgré les garanties de vérification humaine, il existe encore des risques liés à l’utilisation de l’IA dans la vérification des faits. Les LLM peuvent être programmés pour privilégier la « coopération » plutôt que l’exactitude, ce qui peut entraîner des notes inexactes. De plus, les évaluateurs humains pourraient être submergés par le nombre de notes générées par les LLM, ce qui pourrait réduire leur motivation pour accomplir ce travail de vérification. Pour l’instant, les utilisateurs ne devraient pas s’attendre à voir des Notes de Communauté générées par des IA, car X prévoit de tester ces contributions pendant quelques semaines avant de les lancer plus largement si elles sont couronnées de succès.