Il ministero delle Comunicazioni e dell’Elettronica dell’Indonesia ha avviato un’indagine ufficiale sul presunto utilizzo della tecnologia Grok, l’intelligenza artificiale disponibile sulla piattaforma X, per generare e diffondere contenuti pornografici. Questo tipo di contenuti, in particolare, sembrerebbe basarsi su fotografie reali di cittadini indonesiani, manipolate senza il loro consenso. La denuncia è stata formulata dal ministero in un comunicato ufficiale, sollevando preoccupazioni per la violazione dei diritti alla privacy e all’immagine individuale.
Il direttore generale della Supervisione dello spazio digitale, Alexander Sabar, ha precisato che le indagini preliminari hanno rivelato che Grok, al momento, non dispone di normative esplicite e adeguate per prevenire la produzione e la diffusione di contenuti pornografici, specialmente quelli realizzati con fotografie manipolate. Secondo le autorità indonesiane, tale situazione potrebbe configurarsi come una grave violazione della privacy, soprattutto quando immagini di persone vengono utilizzate o modificate senza il loro esplicito consenso.
In risposta a questa problematica, il ministero ha già avviato un coordinamento con i principali operatori di sistemi elettronici, con l’obiettivo di implementare misure di protezione più rigorose. Queste misure includono il potenziamento dei sistemi di moderazione dei contenuti, finalizzati a prevenire la creazione e la diffusione di “deepfake” immorali, e l’introduzione di procedure più rapide per la gestione delle segnalazioni relative a violazioni della privacy e dei diritti all’immagine.
Le autorità indonesiane hanno inoltre avvertito che, in caso di mancata collaborazione o inadempimento da parte delle piattaforme coinvolte, saranno previste sanzioni amministrative e penali. Tra le sanzioni contemplate ci sono anche misure severe come la sospensione dell’accesso ai servizi di intelligenza artificiale, tra cui Grok.
Questa indagine sottolinea il crescente dibattito globale sui rischi e le sfide legate all’uso delle intelligenze artificiali generative, in particolare per quanto riguarda la creazione di contenuti dannosi o dannosi per la privacy. Il caso dell’Indonesia evidenzia la necessità di una regolamentazione più stringente nell’ambito della tecnologia AI, per garantire che strumenti come Grok non vengano utilizzati per scopi illegali o immorali.
