L’Australie enquête sur la création de pédopornographie grâce à l’intelligence artificielle

Cet épisode fait pression sur les autorités australiennes pour qu’elles luttent contre la violence sexiste dans le pays

Les autorités australiennes enquêtent sur la diffusion de fausses images pornographiques d’une cinquantaine d’étudiants, prétendument créées par un adolescent utilisant l’intelligence artificielle.

Cette découverte intervient alors que le gouvernement fédéral fait pression pour que de nouvelles lois imposent des peines de prison aux délinquants qui créent et partagent des images créées par des outils d’IA pour humilier les victimes.

D’autres pays, dont les États-Unis, tentent également de faire face à l’augmentation alarmante de la pornographie deepfake, dans laquelle de faux nus d’étudiants sont créés et partagés – dans certains cas, les contrefaçons sont réalisées par des camarades de classe.

La police de Victoria a confirmé avoir arrêté et libéré un adolescent « en relation avec des images explicites circulant en ligne » dans l’attente d’enquêtes plus approfondies.

Les images auraient été créées à partir de photos publiées sur les réseaux sociaux de 50 étudiants de Bacchus Marsh Grammar, dans la banlieue de Melbourne, à Victoria.

Le directeur de l’école, Andrew Neal, a déclaré à l’Australian Broadcasting Corporation (ABC) que les victimes étaient des filles âgées de la 9e à la 12e année, ce qui indique une tranche d’âge possible entre 14 et 18 ans.

L’âge et l’identité du garçon sont inconnus, mais Neal a déclaré à ABC que “la logique suggère que [l’attaquant] est quelqu’un de l’école”.

S’adressant à ABC mercredi (12), la mère d’un étudiant de Bacchus Marsh Grammar âgé de 16 ans, dont l’image n’a pas été utilisée, a déclaré que sa fille avait vomi en voyant les photos.

“Je suis allée chercher ma fille après une soirée pyjama et elle était vraiment bouleversée, elle vomissait et c’était incroyablement graphique”, a déclaré la mère à ABC Radio Melbourne, en donnant seulement son prénom, Emily.

L’école a déclaré dans un communiqué qu’elle offrait des conseils aux étudiants et aidait la police dans son enquête.

“Le bien-être des élèves de Bacchus Marsh Grammar et de leurs familles est d’une importance primordiale pour l’école et est pris en compte”, indique le communiqué.

Lutte juridique pour arrêter les deepfakes
Les sociétés de médias sociaux, dont X et Meta, affirment que toute pornographie non consensuelle est interdite sur leurs plateformes, mais les images explicites générées par l’IA continuent de se propager rapidement en ligne.

En novembre dernier, Francesca Mani, une lycéenne de 14 ans du New Jersey, a lancé des revendications publiques en faveur d’une répression fédérale américaine contre la pornographie deepfake générée par l’IA, affirmant que des images d’elle et de dizaines de ses camarades de classe du lycée de Westfield avaient été manipulées.

Parmi les victimes très médiatisées d’images explicites falsifiées figurent Taylor Swift et la députée de New York Alexandria Ocasio-Cortez.

En mars, Ocasio-Cortez a suggéré une législation fédérale – la loi de 2024 sur les images falsifiées explicites et les modifications non consensuelles (loi DEFIANCE) – pour donner aux victimes le pouvoir de poursuivre en justice les personnes qui créent des deepfakes non consensuelles.

Cependant, la législation bipartite, soutenue par de hauts responsables républicains, n’a pas réussi à adopter une motion de consentement unanime mercredi, selon un communiqué de la commission sénatoriale de la justice.

Victoria est le seul État australien où le partage de pornographie deepfake est un crime.

En 2022, le gouvernement de l’État a introduit des peines de trois ans de prison pour avoir utilisé la technologie pour générer ou partager du matériel pédopornographique ou du matériel sexuellement explicite sans consentement.

Ce mois-ci, le gouvernement australien a également entamé le processus législatif qui devrait criminaliser la distribution de deepfake pornographie à travers le pays.

En vertu de la loi proposée, les contrevenants pourraient encourir jusqu’à six ans de prison pour avoir partagé du matériel deepfake non consensuel et sexuellement explicite.

Si le contrevenant a également créé du contenu deepfake partagé sans autorisation, la peine pourrait passer à sept ans de prison.

Cela fait partie de la réponse du pays à la violence sexiste que le Premier ministre Anthony Albanese a qualifiée de « crise nationale ».

Jusqu’à présent cette année, 35 femmes ont été tuées, selon le projet Counting Dead Women – dont beaucoup auraient été tuées par des partenaires actuels ou anciens.

Le mois dernier, le gouvernement de l’État a nommé un secrétaire parlementaire chargé du changement de comportement des hommes, une première en Australie.

Dans sa nomination, le représentant Tim Richardson a déclaré qu’il se concentrerait sur l’impact d’Internet et des médias sociaux sur les attitudes des hommes envers les femmes.

Dans un communiqué publié mercredi, la première ministre de l’État de Victoria, Jacinta Allan, a déclaré que les actes présumés de l’adolescent étaient « honteux et misogynes ».

« Les femmes et les filles méritent le respect en classe, en ligne et partout ailleurs dans notre communauté. C’est pourquoi nous avons créé des lois contre ce comportement et enseignons des relations respectueuses dans les écoles pour mettre fin à la violence avant qu’elle ne commence », a déclaré Allan.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *