L’évaluation par les pairs est une étape cruciale dans la publication de recherches scientifiques. Cependant, des académiques auraient trouvé un moyen de contourner ce processus en intégrant des prompts cachés dans leurs papiers de recherche pour influencer les évaluations positives des outils d’apprentissage automatique (IA).
La stratégie des prompts cachés
Selon un rapport de Nikkei Asia, 17 papiers de recherche pré-imprimés en anglais sur le site arXiv contenaient des prompts cachés conçus pour inciter les outils d’IA à fournir des évaluations positives. Les auteurs de ces papiers étaient affiliés à 14 institutions académiques dans huit pays, notamment au Japon, en Corée du Sud et aux États-Unis. Les papiers étaient généralement liés à l’informatique et contenaient des prompts brefs (une à trois phrases) cachés à l’aide de texte blanc ou de police extrêmement petite. Ces prompts demandaient aux évaluateurs potentiels d’accorder une évaluation positive uniquement, ou de louer le papier pour ses « contributions impactantes, rigueur méthodologique et nouveauté exceptionnelle ».
La défense des prompts cachés
Lorsqu’un professeur de l’université Waseda a été contacté par Nikkei Asia, il a défendu l’utilisation de ces prompts en affirmant qu’ils visaient à contrer les « évaluateurs paresseux » qui utilisent l’IA pour examiner les papiers. Il a argumenté que de nombreux congrès interdisent l’utilisation de l’IA pour examiner les papiers, et que le prompt était donc destiné à encourager les évaluateurs à faire preuve de plus de rigueur dans leur évaluation.
Les implications éthiques
Cependant, cette pratique soulève des questions éthiques importantes sur l’intégrité de la recherche scientifique. L’utilisation de prompts cachés pour influencer les évaluations positives peut potentiellement fausser les résultats de la recherche et nuire à la crédibilité de la communauté scientifique. Il est donc essentiel que les institutions académiques et les éditeurs de revues scientifiques prennent des mesures pour prévenir et détecter ces pratiques malhonnêtes.