Immagine che raffigura i volti delle ragazze con corpi nudi ha portato alle dimissioni dei dirigenti di una scuola privata in Pennsylvania, ha provocato una protesta degli studenti e ha innescato un'indagine penale.
Un sospetto minorenne è stato 'rimosso dalla' Lancaster Country Day School e il suo cellulare è stato sequestrato dagli investigatori ad agosto, ha detto martedì il detective della Susquehanna Regional Police Department Laurel Bair.
È l'ultimo esempio di come l'uso dell'intelligenza artificiale per creare o manipolare immagini con contenuti sessuali sia diventato una preoccupazione, anche all'interno delle scuole.
Le forze dell'ordine degli Stati Uniti stanno intensificando la lotta contro le rappresentazioni grafiche di bambini generati al computer e anche le foto manipolate di quelli reali. Il Dipartimento di Giustizia afferma di perseguire coloro che sfruttano strumenti AI e gli stati si stanno affrettando ad emanare leggi per affrontare il problema.
Una nuova legge statale della Pennsylvania che entrerà in vigore a fine mese criminalizza esplicitamente la produzione o la diffusione di materiale di abuso sessuale AI generato da bambini.
E la polizia in Corea del Sud sta facendo uno sforzo di sette mesi per combattere il contenuto deepfake esplicito, con sanzioni più severe, un uso ampliato di agenti sotto copertura e una maggiore regolamentazione dei social media. Le preoccupazioni in Corea del Sud si sono approfondite dopo che quest'anno si sono diffuse liste non confermate di scuole con vittime.
Nell'ambito dell'indagine della polizia su ciò che la Lancaster Country Day School descrive come 'disturbanti fotografie generate da AI', è stato utilizzato un mandato di perquisizione quest'estate per ottenere un iPhone 11 collegato a un 15enne, secondo i documenti del tribunale. I documenti non identificano l'adolescente.
Una donna ha detto alla polizia che sua figlia ha riferito che un compagno di classe aveva 'scattato fotografie agli studenti e utilizzando la tecnologia di Intelligenza Artificiale (AI) per rappresentare le studentesse minori di età come se fossero nude', secondo una dichiarazione giurata di causa probabile utilizzata per chiedere il mandato di perquisizione.
Matt Micciche, allora capo della scuola, ha detto alla polizia che la scuola aveva ricevuto una denuncia sulle foto nel novembre 2023 tramite il programma Safe2Say Something ma il sospetto, identificato dalle sue iniziali, ha negato le accuse, secondo l'affidavit di Bair.
Quando alcuni genitori sono venuti a conoscenza delle foto a maggio, ha scritto Bair, hanno anche appreso che le 'foto nude AI' erano state pubblicate in una chat room.
Bair, a capo dell'indagine perché il sospetto vive nel territorio del dipartimento di polizia regionale di Susquehanna, ha detto che c'è stato shock alla scuola 'per il fatto che questo sta accadendo e che è avvenuto all'interno della loro piccola comunità'. Ha declinato di dire quante ragazze fossero state mostrate nelle immagini ma ha aggiunto che probabilmente verranno rese pubbliche ulteriori informazioni sul caso nelle prossime due settimane.
Erik Yabor, portavoce della Procura di Lancaster del procuratore distrettuale Heather Adams, ha detto martedì che i pubblici ministeri della contea di Lancaster non hanno commentato sull'indagine in corso.
Un portavoce dell'ufficio del procuratore generale Michelle Henry ha detto che l'agenzia non era in grado di parlare di segnalazioni specifiche o rapporti inviati alla piattaforma Safe2Say Something, che riceve segnalazioni anonime da studenti e altri su minacce alla sicurezza.
'In generale, il nostro team riceve le segnalazioni e le invia alle rispettive forze dell'ordine o al personale della scuola per la revisione', ha detto Brett Hambright. 'Abbiamo confermato che è stato fatto riguardo alla questione su cui hai chiesto informazioni.'
LNP a Lancaster ha riferito che la maggior parte degli studenti della Lancaster Country Day hanno fatto uno sciopero venerdì 8 novembre, marciando intorno al campus e cantando: 'Ascoltaci. Riconoscici. Vedici'. La scuola è stata cancellata lunedì.
LNP ha detto che la scuola ha indicato venerdì di aver 'preso strade diverse' con Micciche e che il presidente del consiglio Angela Ang-Alhadeff si è dimesso. Associated Press ha lasciato messaggi telefonici in cerca di commento con entrambi martedì. Una lettera indirizzata alla comunità scolastica lunedì dal Consiglio di Amministrazione della Lancaster Country Day ha detto che stavano lavorando per sostituirli ed erano 'ancora nel processo di finalizzare la risoluzione del caso'.
'Quello che possiamo dire è che nel corso della scorsa settimana il consiglio è stato informato di informazioni che ci hanno portato alla decisione di risolvere la questione', ha scritto il consiglio, agendo 'nell'interesse delle ragazze che sono state colpite e nell'interesse a lungo termine della scuola.'
La scuola ha detto che è stato offerto il supporto psicologico agli studenti e che sta rivedendo le procedure di segnalazione, le pratiche di sicurezza e altre politiche riguardanti la sicurezza degli studenti.
