Comment détecter les IA qui se font passer pour des humains

Les IA sont de plus en plus habiles pour imiter les voix humaines, et ce n'est qu'une question de temps avant qu'il vous soit impossible de faire la différence entre un opérateur humain et une machine en appelant le service client de votre FAI. Dans un futur plus éloigné, cette confusion s'étendra peut-être aux rencontres de visu, si les roboticiens parviennent un jour à construire des machines anthropomorphes hyperréalistes.

Dans un monde rempli d'ordinateurs qui font de leur mieux pour ressembler à homo sapiens afin de fournir des services, il est probable que vous ayez un jour besoin d'une sorte de "détecteur d'IA" de poche permettant d'éviter des situations hautement embarrassantes - comme confier des secrets intimes à un robot Google ou draguer avec insistance un beau droïde rutilant qui aurait emprunté le physique de Michael Fassbender. On peut également s'attendre à ce que dans quelques années, des bots publicitaires envahissent les sites de rencontre - lâchant allègrement leur 06 à des hordes de jeunes gens assoiffés de relations charnelles afin de vanter tel ou tel produit de marque entre deux sextos. En bref, nous aurons bientôt besoin d'IA anti-IA, et les designers réfléchissent déjà à la question.

Ainsi, la firme australienne DT a conçu un appareil portable (une simple preuve de concept pour le moment) capable de détecter si telle ou telle voix appartient à un humain, ou à un simulacre d'humain. Quand le gadget détecte une voix synthétique, il utilise une plaque thermoélectrique afin de provoquer, littéralement, un frisson dans le dos à son propriétaire. Le prototype n'est pas très joli à voir pour le moment, mais cette vidéo montre comment le dispositif parvient à discriminer entre un enregistrement vocal de Donald Trump et une imitation de sa voix générée par une IA.

Par l'intermédiaire de ce gadget, DT nous laisse entrevoir un monde où nous pourrions porter un dispositif anti-IA derrière l'oreille. Imaginez. Nous sommes en 2060, et vous racontez votre journée passée à visiter une ferme à criquets au barman de votre tripot préféré. Tout à coup, vous sentez un léger frisson vous parcourir la nuque. Vous réalisez subitement que vous n'êtes pas en train de discuter avec un humain, mais avec un robot extrêmement doué en Tequila Sunrise. Nous sommes en 2023, et que vous regardez le JT à la télé. Le présentateur Davy Pijados lance un sujet, qui met en scène la dernière connerie balancée par notre président de la République devant un micro. Vous êtes choqué par le niveau de confusion et de bêtise que suppose cette déclaration, quand soudain, un long spasme parcourt votre échine : votre détecteur a lancé une alerte.

DT explique que son équipe de R&D a fabriqué le prototype en cinq jours seulement, à l'aide d'outils de machine learning somme toute classiques. Son architecture est plutôt simple : l'appareil envoie des fichiers audio en streaming à une app iOS en cloud, qui utilise la version de la plateforme TensorFlow de Google destinée aux développeurs d'IA afin d'analyser la voix enregistrée par l'appareil. Le modèle a été entrainé sur des milliers d'échantillons de voix synthétisés par IA, et a appris à les détecter.

Pour le moment, les performances de l'appareil n'ont pas été mesurées très sérieusement, et tout nous laisse à penser qu'il n'est pas très au point. À la décharge de DT, il s'agit là d'un travail en cours qui ne demande qu'à être amélioré ; l'équipe a d'ailleurs publié son code sur GitHub, et est ouverte à toute suggestion. L'idée est bonne et en inspirera probablement d'autres.

Disons-le tout net, le concept d'IA anti-IA ne se concrétisera peut-être jamais. Peut-être que dans vingt ans, il nous apparaitra comme une expérience de pensée ringarde complètement à côté de la plaque, tout juste bonne à stimuler les journalistes et les entrepreneurs.

Pourtant, quelque chose me dit que nous n'avons pas fini d'en entendre parler.