L’intelligence artificielle (IA) est en train de révolutionner la manière dont nous consommons l’information. Cependant, cette révolution soulève des questions importantes sur la fiabilité et la précision de l’information diffusée. Campbell Brown, ancienne journaliste de télévision et première responsable des actualités de Facebook, a décidé de relever le défi en fondant Forum AI, une entreprise qui évalue les performances des modèles de fondation sur les sujets les plus critiques.
Le problème de la vérité dans l’IA
L’IA est de plus en plus utilisée pour fournir des informations et des réponses à des questions complexes. Cependant, les modèles de fondation utilisés pour ces tâches sont souvent biaisés et ne fournissent pas d’informations précises. Brown a constaté que les entreprises qui développent ces modèles se concentrent davantage sur la codification et les mathématiques que sur la précision de l’information. Cela peut avoir des conséquences graves, notamment la diffusion de fausses informations et la manipulation de l’opinion publique. Les exemples de Gemini, qui utilise des sources d’information biaisées, et de la plupart des modèles qui présentent une tendance politique de gauche, illustrent ces problèmes.
La solution de Forum AI
Forum AI propose une solution à ce problème en évaluant les performances des modèles de fondation sur des sujets critiques tels que la géopolitique, la santé mentale, la finance et l’embauche. L’entreprise recrute des experts de premier plan pour concevoir des références et former des juges IA pour évaluer les modèles à grande échelle. L’objectif est d’atteindre un consensus d’environ 90 % entre les juges humains et les juges IA. Brown a déjà réussi à atteindre cet objectif avec son équipe, qui comprend des personnalités éminentes telles que Niall Ferguson, Fareed Zakaria et Tony Blinken. La méthode de Forum AI est basée sur l’idée que les modèles de fondation doivent être évalués de manière nuancée et complexe, en tenant compte de multiples perspectives et de contextes.
Le rôle de l’entreprise dans la recherche de la vérité
Brown pense que les entreprises peuvent jouer un rôle clé dans la recherche de la vérité en matière d’IA. Les entreprises qui utilisent l’IA pour prendre des décisions importantes, telles que les décisions de crédit, les prêts, les assurances et l’embauche, ont intérêt à ce que les modèles soient précis et fiables. En effet, les erreurs peuvent entraîner des conséquences graves, notamment des pertes financières et des problèmes de réputation. Brown estime que les entreprises peuvent être des alliés précieux dans la recherche de la vérité, car elles ont intérêt à ce que les modèles soient précis et fiables. Cependant, elle reconnaît que la mise en œuvre de ces solutions peut être difficile, notamment en raison de la complexité des problèmes et de la nécessité de domaines d’expertise spécifiques. La société de Brown, qui a récemment levé 3 millions de dollars, est prête à relever ce défi et à proposer des solutions innovantes pour améliorer la précision et la fiabilité de l’IA.