Objet 24.4464 - Pour une stratégie contre l’usage abusif de nos images

Quelques-unes des questions urgentes de notre époque sont les suivantes : qui fait quoi de nos images et des images de nos enfants ? À quelle image peut-on encore se fier ? Comment empêcher la production et l’utilisation d’images hypertruquées (deepfake) ?

L’intelligence artificielle (IA) permet de transformer une simple image en photo de nu ou de générer une vidéo à partir que quelques images. Les fausses photos de nu ou les vidéos pornographiques hypertruquées sont ensuite utilisées pour extorquer de l’argent ou de véritables images à caractère sexuel explicite. Les victimes sont souvent aussi des mineurs. Les parents sont victimes de chantage à la pornographie hypertruquée dans laquelle ils reconnaissent leurs enfants. Toutes les personnes dont les images sont librement accessibles sont des victimes potentielles de sextorsion ou d’une escroquerie, tout comme leurs proches. Ce risque est devenu beaucoup plus important ces derniers temps grâce aux nouvelles technologies. La manipulation et la mise en circulation n’ont jamais été aussi simples : les moyens pour y parvenir sont faciles à obtenir et à utiliser. 

Il faut donc concevoir une approche globale de la protection contre les atteintes massives à la personnalité et la violence pédocriminelle en ligne qui utilisent des images manipulées. Prévention, mesures réglementaires et poursuites judiciaires doivent aller de pair. La Suisse en est encore loin. La stratégie nationale de protection contre les cyberrisques ne traite ni le problème des images manipulées, qui devient un phénomène de masse, ni la cyberpédocriminalité. Une stratégie globale est nécessaire pour stopper le flot de pornographie hypertruquée et de sextorsion.

Liste des votes