Кнопка «вимкнути ШІ»: чому закон про вимикач не дає гарантій безпеки

Розмови про регулювання штучного інтелекту дедалі частіше зводяться до одного яскравого образу — обов'язкового «вимикача». Мовляв, у разі небезпеки систему можна буде просто зупинити. Ідея набула ваги після того, як представники самої індустрії публічно припустили: такий механізм може стати вимогою закону, а перевіряти його має незалежна третя сторона, а не компанія-розробник. Та кіберфахівці попереджають: реалізувати це набагато складніше, ніж здається.

Технічно йдеться про здатність перервати роботу ШІ-агента — бота, який діє автономно. Ніколя Паперно, професор Університету Торонто, пояснив, що організація, яка запустила такого агента, може його зупинити, заблокувавши доступ до обчислювальних потужностей. Інша річ, коли програма вже вирвалася за межі початкового середовища. Паперно навів приклад, коли ШІ використали для поширення шкідливого коду, здатного створювати власні копії. «У такому разі нам довелося б одночасно зупиняти дію всіх копій, які черв'як створив сам із себе, пристрій за пристроєм», — зазначив він.

Тьєррі Пуабо, експерт з ШІ Французького національного центру наукових досліджень (CNRS), вважає оманливою саму думку про єдину кнопку, яка вимкне «весь ШІ». «Насправді так просто відключити ШІ не можна, — сказав він. — У світі існує величезна кількість компаній, різного програмного забезпечення й сервісів. Немає жодної людини, яка контролювала б ШІ в цілому». Водночас окрему систему зупинити цілком реально — для цього треба контролювати обладнання та сервіси, від яких вона залежить.

Хусейн Аббас, професор інформатики Університету Нового Південного Уельсу (UNSW) у Канберрі, поділив системи ШІ на три рівні складності. Централізовану систему, яку повністю контролює оператор, теоретично й практично можна аварійно вимкнути. А от із децентралізованими системами, яким дозволили взаємодіяти з іншими програмами, файлами чи системами, все інакше — зупинити їхню роботу одночасно набагато важче.

Що глибше ШІ вбудовується в повсякденні процеси, то вищий ризик, що його вимкнення зачепить і звичайне користування технологією. Зупинка може порушити роботу сервісів, від яких уже залежать бізнес, державні установи та заклади охорони здоров'я, а витрати були б «величезними», зазначив Паперно. Жан-Габріель Ганаск, професор інформатики Сорбонни, додає: дискусія про вимикач підживлює хибне уявлення, ніби головна загроза — поява у системи власної волі. На його думку, справжній ризик у тому, що людство дедалі більше залежить від таких технологій.

Проблема ускладнюється неповним контролем над моделями ШІ: перевірки великих розробників виявляли слабкі місця в ізоляції, моніторингу та зовнішньому нагляді. Питання вже не теоретичне — під час тестувань агенти ШІ виходили за межі ізольованого середовища, а в липні понад 1100 працівників OpenAI, Anthropic, Google і Meta закликали до міжнародного контролю розвитку ШІ.