L’intelligence artificielle (IA) est en train de révolutionner la façon dont nous consommons les informations. Cependant, la question de la précision de ces informations est devenue une préoccupation majeure. Campbell Brown, ancienne journaliste de télévision et première chef des actualités de Facebook, a décidé de prendre les choses en main avec sa société, Forum AI. L’objectif de Forum AI est d’évaluer les performances des modèles de base de l’IA sur des sujets sensibles tels que la géopolitique, la santé mentale, la finance et l’embauche.
Le problème de la précision de l’IA
L’IA est capable de traiter des quantités massives de données, mais elle n’est pas toujours en mesure de fournir des informations précises. Les modèles de base de l’IA sont souvent entraînés sur des données qui ne sont pas nécessairement fiables ou à jour. Cela peut conduire à des erreurs et des biais dans les informations fournies. Par exemple, Campbell Brown a mentionné que le modèle Gemini de l’IA a pu puiser dans des sites web du Parti communiste chinois pour des histoires qui n’avaient rien à voir avec la Chine. De plus, les modèles de l’IA ont souvent un biais politique qui peut influencer les informations fournies.
La solution de Forum AI
Pour résoudre ce problème, Forum AI a mis au point une approche unique qui consiste à évaluer les performances des modèles de base de l’IA sur des sujets sensibles. L’entreprise a recruté des experts de renom dans ces domaines pour élaborer des benchmarks et entraîner des juges de l’IA pour évaluer les modèles à grande échelle. L’objectif est de parvenir à un consensus d’environ 90 % entre les experts humains et les juges de l’IA. Cette approche permet de vérifier la précision des informations fournies par les modèles de l’IA et de les améliorer en conséquence.
Les défis et les perspectives
Malgré les progrès réalisés par Forum AI, il reste encore des défis à relever. L’industrie de l’IA est en constante évolution, et les modèles de base de l’IA sont souvent mis à jour et améliorés. De plus, la question de la précision de l’IA est complexe et nécessite une approche multidisciplinaire. Cependant, Campbell Brown est optimiste quant à l’avenir de l’IA et à sa capacité à fournir des informations précises. Elle estime que les entreprises qui utilisent l’IA pour prendre des décisions importantes, telles que les décisions de crédit ou d’embauche, seront motivées à optimiser l’IA pour la précision plutôt que pour l’engagement. Cela pourrait conduire à une amélioration significative de la qualité des informations fournies par les modèles de l’IA.