L’utilisation de l’intelligence artificielle (IA) pour reconstituer des enregistrements de cockpit a conduit le National Transportation Safety Board (NTSB) à retirer temporairement l’accès à son système de dossier. Cet incident souligne les risques potentiels liés à la sécurité des données et à la confidentialité dans l’ère numérique.
Les faits
Le NTSB a découvert que des voix de pilotes qui ont péri dans un crash d’avion de la compagnie UPS l’année dernière avaient été reconstituées à l’aide de l’IA et circulaient sur Internet. Le système de dossier du NTSB, qui contient une grande quantité de données sur les enquêtes, est normalement accessible au public. Cependant, il est interdit par la loi fédérale d’inclure des enregistrements audio de cockpit dans ce système. Dans le cas de l’accident du vol 2976 de la compagnie UPS, le dossier contenait un fichier spectrogramme de l’enregistreur de voix. Un spectrogramme utilise un processus mathématique pour convertir les signaux sonores, y compris les fréquences basses et hautes, en une image.
La reconstitution des enregistrements
Un YouTuber populaire, Scott Manley, a noté que il était possible de reconstruire l’audio à partir des mégaoctets de données codés dans l’image spectrogramme. C’est ce qui s’est passé. Des personnes ont utilisé le spectrogramme, ainsi que la transcription publiquement disponible, pour créer des approximations de l’enregistrement audio de la cabine de pilotage du vol 2976 de la compagnie UPS, selon le NTSB. Ils ont utilisé des outils d’IA tels que Codex, selon des publications sur les réseaux sociaux. L’agence a restauré l’accès public au système de dossier le vendredi, mais a maintenu 42 enquêtes fermées en attendant une révision, y compris celle liée au vol 2976.
Les implications
Cet incident souligne les risques potentiels liés à la sécurité des données et à la confidentialité dans l’ère numérique. L’utilisation de l’IA pour reconstituer des enregistrements de cockpit soulève des questions sur la protection des informations sensibles et la possibilité de les utiliser à des fins malveillantes. Le NTSB a pris des mesures pour protéger les informations sensibles, mais cet incident montre que les défis liés à la sécurité des données sont complexes et nécessitent une attention constante. Il est essentiel de trouver un équilibre entre la transparence et la protection des informations sensibles pour garantir la sécurité et la confidentialité des données.