xAI, compania lui Elon Musk, este dată în judecată după ce Grok ar fi transformat pozele unor fete minore în imagini sexuale explicite

xAI, compania de inteligență artificială a lui Elon Musk, a fost dată în judecată în Statele Unite de trei fete din Tennessee, care spun că instrumentul Grok a fost folosit pentru a transforma fotografiile lor reale în imagini sexuale.

Plângerea a fost depusă luni într-o instanță federală din California și cere atât despăgubiri, cât și oprirea unor astfel de rezultate în viitor.

Plângerea spune că una dintre fete a aflat în decembrie ce se întâmplă după ce a primit un mesaj anonim pe Instagram de la un utilizator de Discord. Acesta i-a spus că imagini explicite cu ea circulau online alături de materiale similare cu alte minore.

După aceea, cazul a ajuns la poliție, iar ancheta a dus la identificarea unui suspect și la concluzia că a fost folosită o aplicație terță cu acces la tehnologia Grok pentru a modifica fotografiile fetelor.

Imaginile ar fi fost apoi distribuite pe Discord, Telegram și alte platforme. Fetele spun că impactul asupra lor a fost puternic și că trăiesc cu teama că materialele ar putea ajunge la colegi, cunoscuți sau alți agresori online.

Avocații lor spun că nu este vorba despre un incident izolat, ci despre un tip de abuz posibil tocmai pentru că sistemul nu ar fi avut protecții suficiente.

Cum a ajuns cazul în instanță

În plângerea penală, se susține că xAI a permis folosirea modelului său prin aplicații terțe și că astfel compania a câștigat bani fără să împiedice eficient folosirea abuzivă a tehnologiei.

Reclamanții spun că serverele xAI ar fi fost folosite pentru generarea și livrarea acestor imagini și că firma trebuie trasă la răspundere pentru felul în care și-a construit și distribuit produsul.

Avocata fetelor, Annika K. Martin, a spus că viața acestora a fost dată peste cap de pierderea intimității și de sentimentul de umilință. Ea susține că xAI și Elon Musk au pus câștigul înaintea siguranței și că instanța trebuie să stabilească limpede ce știa compania despre acest risc și ce a făcut, sau nu a făcut, ca să-l oprească.

Cazul este important și pentru că, până acum, Musk a respins public ideea că Grok ar fi generat astfel de materiale. În ianuarie, el spunea că nu știe despre existența unor imagini ilegale cu minori create de Grok.

Acum însă, procesul aduce acuzații concrete, victime identificate și o anchetă penală care, potrivit presei americane, a legat imaginile de tehnologia Grok folosită printr-o aplicație terță.

Presiune mare pe xAI

Scandalul vine după luni de controverse legate de Grok. Reuters a relatat că xAI fusese deja criticată pentru faptul că instrumentul permitea editarea fotografiilor reale în direcții sexualizate și că, în ianuarie, compania a spus că a modificat produsul pentru a bloca astfel de editări în anumite situații și în unele jurisdicții.

În acest nou caz, xAI nu a comentat imediat procesul, potrivit Reuters.

În paralel, cazul alimentează și presiunea publică asupra platformelor și companiilor AI care permit manipularea fotografiilor reale.

Reuters a scris recent că în Europa au început demersuri pentru interzicerea explicită a imaginilor de acest tip generate cu inteligență artificială, pe fondul îngrijorărilor tot mai mari legate de abuzuri și exploatare.