Première arrestation historique par le DOJ pour des contenus indécents générés par IA : tout ce qu’il faut savoir
Un homme du Wisconsin est soupçonné d'avoir utilisé des photos pour attirer un jeune garçon de 15 ans. Quelle était son intention derrière cette manœuvre troublante ?
Tl;dr
- Un homme du Wisconsin arrêté pour production de matériel pédopornographique généré par IA.
- Le DOJ cherche à établir un précédent judiciaire pour ces types de crimes.
- Anderegg a utilisé un générateur d’images AI pour créer et distribuer les images.
- Il risque entre cinq et soixante-dix ans de prison s’il est reconnu coupable.
Un précédent judiciaire pour les crimes numériques
Dans une première affaire de son genre, le Département de la Justice américain (DOJ) a arrêté un homme du Wisconsin pour production et distribution de matériel pédopornographique généré par intelligence artificielle (IA). Le DOJ cherche à établir un précédent judiciaire, affirmant que ces matériaux restent illégaux même si aucun enfant réel n’a été utilisé pour les créer.
Les détails de l’affaire
Steven Anderegg, un ingénieur logiciel de 42 ans, aurait utilisé une version modifiée du générateur d’images AI open-source Stable Diffusion pour créer les images. Selon l’accusation, il a ensuite utilisé ces images pour tenter de séduire un mineur dans des situations sexuelles. Anderegg est actuellement accusé de quatre chefs d’accusation, notamment la production, la distribution et la possession d’images obscènes de mineurs et le transfert de matériel obscène à un mineur de moins de 16 ans.
L’utilisation de l’IA dans le crime
Les images créées par Anderegg montraient des “mineurs nus ou partiellement habillés exhibant lascivement leurs organes génitaux ou s’engageant dans des rapports sexuels avec des hommes”. Le DOJ affirme qu’il a utilisé des instructions spécifiques, y compris des instructions négatives (guidant l’IA sur ce qu’elle ne devait pas produire), pour pousser le générateur à créer le matériel pédopornographique. Bien que certains générateurs d’images basés sur le cloud aient des mesures de sécurité contre ce type d’activité, Anderegg aurait utilisé une variante de Stable Diffusion avec moins de limites.
Les conséquences possibles
Si Anderegg est reconnu coupable, il risque entre cinq et soixante-dix ans de prison. Cette affaire va remettre en question l’idée selon laquelle l’illégalité du matériel pédopornographique dépend exclusivement de l’exploitation d’enfants réels dans sa création. Le DOJ affirme que même si le matériel pédopornographique numérique généré par l’IA n’implique pas d’humains réels, il pourrait normaliser ce type de matériel et être utilisé pour attirer des enfants dans des situations prédatrices.
L’avis de la rédaction
Il est impératif de suivre le développement de l’IA avec un regard critique et vigilant. Cette affaire souligne l’importance de réglementer l’utilisation de l’IA et de punir sévèrement ceux qui l’utilisent à des fins malveillantes. La technologie ne doit pas permettre d’exploiter ou de nuire à des individus, en particulier les plus vulnérables.
- Comment les entreprises de télécoms peuvent-elles prouver leur volonté de stopper les robocalls politiques IA ?
- YouTube envisagerait de rémunérer les maisons de disques pour former son IA avec leurs morceaux
- Google déploie l’IA pour enrichir Translate avec 110 nouvelles langues : découvrez lesquelles !