L’utilisation de l’intelligence artificielle (IA) générative est en plein essor, mais les entreprises sont-elles prêtes à l’utiliser de manière sécurisée et responsable ? Selon un récent rapport de McKinsey, la majorité des organisations répondent par la négative. L’une des principales préoccupations est l’explicabilité, c’est-à-dire la compréhension des décisions prises par les modèles d’IA.
Datumo, le startup qui vise à aider les entreprises à construire des IA plus sûres
C’est dans ce contexte que le startup coréen Datumo a levé 15,5 millions de dollars pour aider les entreprises à construire des IA plus sûres. Fondée en 2018, Datumo a commencé comme une entreprise de labeling de données d’IA et a évolué pour proposer des outils et des données pour tester, surveiller et améliorer les modèles d’IA sans nécessiter d’expertise technique.
Des outils pour évaluer et améliorer les modèles d’IA
Datumo propose notamment une plateforme d’évaluation complète appelée Datumo Eval, qui génère automatiquement des données de test et des évaluations pour vérifier les réponses incorrectes, biaisées ou dangereuses sans nécessiter de scripting manuel. L’entreprise vise à aider les équipes de politique, de confiance et de sécurité des entreprises à évaluer et améliorer leurs modèles d’IA de manière plus efficace.
La différenciation par les données et les outils
Datumo se différencie de ses concurrents par ses jeux de données licenciés, en particulier les données crawled à partir de livres publiés, qui offrent une riche structure de raisonnement humain mais sont notoirement difficiles à nettoyer. L’entreprise compte désormais plus de 300 clients en Corée du Sud et a généré environ 6 millions de dollars de revenus en 2024.
L’avenir de l’IA responsable
Grâce à ce financement, Datumo poursuivra son développement de produits et services pour aider les entreprises à construire des IA plus sûres. L’entreprise ambitionne de devenir un leader dans le domaine de l’évaluation et de la surveillance des modèles d’IA, et vise à élargir sa présence à l’échelle mondiale.