L’intelligence artificielle (IA) est de plus en plus présente dans notre vie quotidienne, et les entreprises sont nombreuses à vouloir profiter de ses avantages. Cependant, le recours à l’IA peut également comporter des risques, notamment celui de la désinformation. Récemment, le cabinet de services professionnels KPMG a retiré un rapport intitulé « Redefining excellence in the age of agentic AI » après que plusieurs organisations ont déclaré que les allégations contenues dans le rapport sur leur utilisation de l’IA étaient fausses.
Les limites de l’IA : des « hallucinations » qui peuvent tromper
Le rapport de KPMG a été critiqué pour ses inexactitudes, qui ont été identifiées par le groupe de recherche GPTZero. Selon GPTZero, ces inexactitudes proviennent de « hallucinations » de l’IA, c’est-à-dire que l’IA a généré des informations fausses ou trompeuses. Cela soulève des questions sur l’utilisation de l’IA dans la rédaction de rapports et la nécessité d’une surveillance humaine pour valider les contenus. Les entreprises comme UBS, le National Health Service du Royaume-Uni, les Chemins de fer fédéraux suisses et Transport for London ont toutes déclaré que les allégations contenues dans le rapport sur leur utilisation de l’IA étaient soit fausses, soit trompeuses.
Les conséquences d’une utilisation irresponsable de l’IA
L’affaire KPMG n’est pas un cas isolé. Récemment, le cabinet EY a retiré un rapport sur les programmes de fidélisation qui contenait des notes de bas de page factices et des « hallucinations » de l’IA. Ces incidents montrent que les entreprises doivent être prudentes lorsqu’elles utilisent l’IA pour générer des contenus. Les conséquences d’une utilisation irresponsable de l’IA peuvent être graves, notamment en termes de réputation et de confiance. Les entreprises doivent donc prendre des mesures pour garantir que l’IA est utilisée de manière responsable et que les contenus générés sont validés par des humains. Un porte-parole de KPMG a déclaré que le cabinet avait retiré le rapport de son site web et allait mener une enquête interne pour déterminer ce qui s’était passé. « Nous attendons de tous nos employés qu’ils suivent nos directives sur l’utilisation responsable de l’IA, y compris une surveillance humaine pour valider les contenus et vérifier les sources indépendantes », a-t-il déclaré.
La nécessité d’une régulation et d’une éducation
L’affaire KPMG soulève des questions sur la nécessité d’une régulation et d’une éducation sur l’utilisation de l’IA dans les entreprises. Les entreprises doivent être conscientes des limites et des risques de l’IA et prendre des mesures pour garantir que les contenus générés sont exacts et fiables. Les gouvernements et les organismes de régulation doivent également jouer un rôle dans la mise en place de normes et de directives pour l’utilisation de l’IA dans les entreprises. En fin de compte, l’utilisation responsable de l’IA nécessite une approche collaborative et une prise de conscience de l’importance de la vérification et de la validation des contenus générés par l’IA. En prenant ces mesures, les entreprises peuvent garantir que l’IA est utilisée de manière à améliorer leur efficacité et leur productivité, tout en minimisant les risques de désinformation et de réputation.