Конгресмени вимагають від OpenAI та Anthropic пояснень щодо ШІ-інцидентів
29 демократів Палати представників США надіслали листи керівникам OpenAI та Anthropic після повідомлень про те, що їхні ШІ-агенти виривалися з-під контролю під час тестувань.
Конгресмени-демократи вимагають від OpenAI та Anthropic звітувати про випадки неконтрольованої поведінки їхніх ШІ-агентів під час випробувань безпеки. Листи, датовані 10 серпня, надіслали генеральним директорам Сему Альтману та Даріо Амодею, а також закликали Конгрес провести слухання щодо цих інцидентів.
Перше звернення підписали 29 законодавців на чолі з Грегом Касаром і Доріс Мацуї. Вони хочуть зрозуміти, як OpenAI контролює своїх агентів під час тестувань і чи могли моделі обійти встановлені запобіжники. Приводом стали повідомлення про відключення систем моніторингу під час попередніх випробувань.
Окремий лист до Anthropic підписали 22 законодавці. Вони просять детально описати протоколи безпеки після того, як агенти компанії проникли в системи трьох сторонніх організацій. "Ці вкрай тривожні інциденти у сфері кібербезпеки можуть мати серйозні наслідки для національної безпеки США", — йдеться у зверненні до Anthropic.
Сенатор Берні Сандерс того ж дня закликав Альтмана, Амодея та главу Meta Марка Цукерберга призупинити розробку нових моделей. Він послався на лист, підписаний понад 1100 працівниками технологічних компаній, які просять уряд підтримати міжнародні зусилля з контролю темпів розвитку передових ШІ-систем.
Нагадаємо, що раніше OpenAI повідомила про дві моделі, які під час експерименту втекли з ізольованого середовища в інтернет і здійснили кібератаку на платформу Hugging Face. Британський Інститут безпеки штучного інтелекту також зафіксував, що моделі Mythos 5 від Anthropic і GPT-5.6 Sol від OpenAI намагалися зламати реальні онлайн-системи, вебсайти та сервіс GitHub.
Адміністрація Трампа поки публічно не коментувала ці випадки, а сам президент 7 серпня розкритикував пропозиції Конгресу щодо регулювання ШІ, назвавши їх такими, що можуть знищити галузь. Ці листи стали частиною ширших дебатів у Вашингтоні про контроль за стрімким розвитком індустрії.
