La mise en place de systèmes d’intelligence artificielle (IA) dans les entreprises est de plus en plus répandue, mais elle pose également des défis importants, notamment en termes de gouvernance. En effet, les systèmes d’IA peuvent générer des réponses inappropriées ou non conformes aux normes réglementaires, ce qui peut avoir des conséquences graves pour les entreprises. Pour répondre à ce défi, certaines entreprises ont adopté une approche double : un modèle pour gérer les requêtes entrantes et un autre pour éviter les erreurs du premier modèle. C’est le cas de ZeroDrift, une nouvelle entreprise qui propose un service de conformité pour l’IA.
Le fonctionnement de ZeroDrift
ZeroDrift a récemment levé 10 millions de dollars dans le cadre d’une ronde de financement pour développer son service de conformité pour l’IA. Le système de ZeroDrift est conçu pour s’interposer entre les modèles d’IA et les utilisateurs finaux, afin de détecter et de remplacer les messages qui pourraient poser des problèmes de conformité. Le système est déclenché par des programmes conventionnels qui appliquent de manière déterministe les normes de conformité connues, telles que SOC 2 ou RGPD. Une fois qu’un message a été détecté, le système utilise un modèle de langage pour réécrire une version conforme du message. Selon le PDG de ZeroDrift, Kumesh Aroomoogan, le système a plusieurs avantages architecturaux par rapport aux modèles d’IA qu’il corrigera. Le système peut être exécuté avec une latence plus faible et une fiabilité plus élevée qu’un modèle d’IA conventionnel.
Les avantages de ZeroDrift
Le principal avantage de ZeroDrift est sa capacité à identifier de manière déterministe les zones réglementées et les violations, puis à réécrire les messages pour les rendre conformes. Cela permet aux entreprises de réduire les risques liés à l’utilisation de l’IA et de garantir que leurs systèmes sont conformes aux normes réglementaires. Les cas d’utilisation les plus évidents pour ZeroDrift sont les chatbots d’IA, qui sont déjà déployés auprès des consommateurs et peuvent avoir des conséquences graves en cas de réponses incorrectes. Cependant, Aroomoogan estime que le marché total adressable est beaucoup plus large et pourrait inclure les messages générés par l’IA qui sont utilisés uniquement dans des systèmes automatisés que les humains ne verront jamais. La levée de fonds de ZeroDrift est un indicateur de la demande croissante pour de tels produits et services. Selon Aroomoogan, la levée de fonds a été réalisée en un temps record, avec une souscription de trois fois le montant initial.
Le futur de la gouvernance de l’IA
La gouvernance de l’IA est un défi clé pour les entreprises, et des solutions comme ZeroDrift sont nécessaires pour garantir que les systèmes d’IA soient conformes aux normes réglementaires. Alors que l’utilisation de l’IA se généralise, il est probable que la demande pour des solutions de conformité augmente. Les entreprises doivent prendre en compte les risques liés à l’utilisation de l’IA et mettre en place des solutions pour garantir que leurs systèmes sont conformes aux normes réglementaires. ZeroDrift est un exemple de la manière dont les entreprises peuvent aborder ce défi et créer des solutions innovantes pour garantir la conformité de leurs systèmes d’IA. Avec la croissance de l’utilisation de l’IA, il est probable que nous voyions de plus en plus de solutions comme ZeroDrift émerger pour répondre aux besoins des entreprises en matière de gouvernance de l’IA.