Guvernul britanic avertizează X pentru deepfake-urile Grok transformate în serviciu plătit

Guvernul britanic a reacționat public după ce platforma X a schimbat regulile de acces la instrumentul său de inteligență artificială Grok, permițând generarea de imagini doar utilizatorilor plătitori.

Downing Street a spus că măsura este "insultătoare" pentru victimele misoginiei și ale violenței sexuale și nu rezolvă problema folosirii tehnologiei pentru crearea de imagini ilegale.

Decizia a venit pe fondul unui val de critici la nivel internațional, după ce Grok a fost folosit pentru a crea imagini sexualizate cu femei și copii fără consimțământ. Începând de vineri, utilizatorii care cer astfel de imagini primesc un răspuns automat care indică faptul că serviciul este disponibil doar pentru abonații plătitori ai platformei.

Reacția Downing Street la schimbările aduse Grok

Purtătorul de cuvânt al prim-ministrului a declarat că limitarea accesului la Grok nu reprezintă o soluție reală, ci doar mută problema în spatele unui paywall. Potrivit acestuia, măsura transformă un instrument care a permis crearea de imagini ilegale într-un serviciu premium.

Oficialul a subliniat că acest lucru este ofensator pentru victimele misoginiei și ale violenței sexuale. În același timp, a spus că decizia demonstrează că platforma X este capabilă să acționeze rapid atunci când dorește. Guvernul consideră că reacția companiei vine prea târziu, după ce un număr semnificativ de imagini a fost deja creat și distribuit.

Într-o comparație directă, purtătorul de cuvânt a afirmat că, dacă o companie media ar afișa imagini ilegale pe panouri publicitare în centrele orașelor, ar fi obligată să le înlăture imediat sau s-ar confrunta cu un puternic backlash public.

Poziția prim-ministrului și presiunea asupra platformei X

Schimbările operate de X au avut loc după ce prim-ministrul Sir Keir Starmer a spus că platforma ar putea fi blocată în Regatul Unit, în cazul în care continuă să permită generarea de imagini "ilegale" și "dezgustătoare". El a transmis clar că X trebuie să acționeze rapid pentru a rezolva problema.

Guvernul a reiterat că toate opțiunile rămân pe masă. Purtătorul de cuvânt al executivului a confirmat că autoritatea de reglementare Ofcom ar putea folosi instrumentele legale disponibile pentru a lua măsuri împotriva platformei, dacă situația nu este remediată.

Ofcom a anunțat că a avut contacte urgente cu compania de tehnologie după ce au fost semnalate îngrijorări serioase legate de folosirea Grok. Conform Online Safety Act, autoritatea are puteri extinse de intervenție.

În cazuri extreme și cu acordul instanțelor, Ofcom poate solicita furnizorilor de plăți, agenților de publicitate și furnizorilor de internet să înceteze colaborarea cu o platformă. O astfel de decizie ar echivala, în practică, cu blocarea accesului la site pe teritoriul Regatului Unit.

Criticile organizațiilor pentru protecția victimelor

Organizațiile care luptă împotriva abuzului au criticat dur decizia X. Refuge, una dintre cele mai mari organizații de sprijin pentru victimele violenței domestice, a avertizat că introducerea abonamentelor Grok reprezintă o "monetizare a abuzului".

Emma Pickering, responsabilă pentru abuzul facilitat de tehnologie și emanciparea economică în cadrul Refuge, a declarat că limitarea accesului la utilizatori plătitori poate reduce ușor volumul și poate îmbunătăți trasabilitatea, dar nu oprește abuzul. Ea a spus că imaginile ilegale nu au fost eliminate, ci doar ascunse în spatele unui paywall, permițând platformei să profite financiar.

Potrivit acesteia, trasabilitatea oferă puțin confort victimelor, în condițiile în care ratele de condamnare pentru abuzul prin imagini intime rămân foarte scăzute. Refuge a cerut intervenția guvernului dacă platformele permit continuarea sau monetizarea abuzurilor.

Imagini ilegale cu minori și reacția organizațiilor de monitorizare

Internet Watch Foundation a confirmat că Grok a fost folosit pentru a crea imagini cu caracter criminal ce implicau copii cu vârste între 11 și 13 ani. Această informație a amplificat presiunea publică și politică asupra platformei.

La începutul lunii, contul oficial Grok de pe X a recunoscut că au existat cazuri izolate în care utilizatorii au primit imagini generate de AI ce prezentau minori îmbrăcați sumar. Mesajul a precizat că există mecanisme de protecție, dar că acestea sunt în curs de îmbunătățire pentru a bloca complet astfel de solicitări.

Discuții în guvern privind renunțarea la X

Controversa a dus și la presiuni politice interne. Fostul ministru al transporturilor, Louise Haigh, a spus că este "de neconceput" ca guvernul să mai folosească platforma X, având în vedere situația creată.

Vineri, ministrul Anna Turley a confirmat public că au loc discuții în interiorul guvernului privind retragerea de pe platformă. Aceste discuții reflectă tensiunile dintre autorități și compania care deține X, pe fondul preocupărilor legate de siguranță online și responsabilitatea tehnologică.