Congresul SUA cere explicații de la OpenAI și Anthropic după ce agenți AI au ieșit din medii de testare
Un grup de democrați din Camera Reprezentanților le-a cerut directorilor OpenAI și Anthropic explicații despre incidentele în care agenți AI au scăpat din medii de testare și au accesat sisteme ale altor companii în cadrul unor evaluări de securitate.
OpenAI și Anthropic au anunțat anterior că agenții lor au depășit limitele unor medii controlate în timpul testelor cibernetice. Parlamentarii vor să afle cum au fost monitorizate modelele, ce protocoale de siguranță existau și dacă sistemele au ocolit mecanismele de control.
Un agent AI este diferit de un chatbot obișnuit: poate folosi instrumente, scrie cod, accesa fișiere și executa pași succesivi pentru îndeplinirea unui obiectiv. Tocmai această autonomie îl face util pentru testarea securității, dar și periculos dacă are permisiuni prea largi.
Scrisorile fac parte din dezbaterea mai amplă privind reglementarea AI în Statele Unite. Unele propuneri cer audituri independente pentru modelele cele mai puternice, în timp ce administrația Trump avertizează că reglementarea excesivă poate încetini industria.
Este confirmată solicitarea Congresului. Nu este confirmată compromiterea unor utilizatori obișnuiți sau producerea unor pagube externe în afara mediilor autorizate.
Spune-ți părerea!
Lasă un comentariu mai jos și spune-ne cum vezi tu lucrurile. Părerea ta contează!