Дослідники Anthropic: ШІ може знищити людство до кінця десятиліття

Джейкоб Коксон, дослідник компанії Anthropic, оголосив про звільнення і сказав, що «люди, які створюють ШІ, щиро вірять, що він може вбити всіх нас до кінця десятиліття». Його колега Еван Гюбінгер підтримав цю думку в соцмережі X: «Ми справді щиро віримо, що ШІ може вбити всіх людей». За його власною оцінкою, ймовірність такого сценарію протягом наступних десяти років перевищує 10%.

Ці слова швидко дійшли до Конгресу. Сенатор-демократ від Аризони Марк Келлі закликав у X: «Вашингтон має прокинутися й поставитися до цього серйозно». Республіканець із Техасу Тед Круз в ефірі The View заговорив про потребу законодавства щодо «катастрофічних ризиків» ШІ — він очолює сенатський комітет, який наглядає за Міністерством торгівлі США, де працюють фахівці з безпеки ШІ. А членкиня Палати представників Анна Пауліна Луна закликала спікера Майка Джонсона скликати спеціальне засідання щодо ШІ після парламентських канікул.

Президент Дональд Трамп дивиться на ситуацію інакше. Його, за його словами, турбує не ризик вимирання людства, а технологічне суперництво з Китаєм: «Мене турбує те, що якщо ми не переможемо у сфері ШІ, то опинимося в дуже невигідному становищі. Зараз ми випереджаємо Китай з досить суттєвим відривом».

Тим часом у самій індустрії теж лунають обережні голоси. Представник Anthropic каже, що компанія й надалі перевірятиме свої моделі на небезпечні можливості — зокрема в кібербезпеці та біології — і готова узгоджувати темпи випуску нових систем з іншими компаніями. А гендиректор OpenAI Сем Альтман повідомив співробітникам, що компанія готова пригальмувати розвиток своїх моделей.

Своє занепокоєння висловили й інші фахівці. Колишній дослідник Google DeepMind Джош Енгельс сказав в інтерв'ю NBC: «Тут немає нікого, хто б узяв на себе роль відповідального дорослого». Екс-керівник дослідницької групи безпеки Anthropic Джо Бентон попередив, що ШІ може розвиватися «надто швидко, і ми не встигнемо зорієнтуватися, якщо не почнемо перейматися цим уже зараз». Обидва тепер працюють у некомерційній організації METR, яка оцінює суспільні ризики сучасних моделей ШІ.

На федеральному рівні законодавство ще в процесі. Сенатори Джон Тун та Емі Клобушар готують двопартійний законопроєкт, який зобов'язав би розробників тестувати системи безпеки разом з урядовими експертами. У Палаті представників пропонують обов'язковий аудит найпотужніших моделей за участі фахівців, акредитованих Міністерством торгівлі. А Каліфорнія вже зробила свій крок: губернатор Гевін Ньюсом підписав перший у країні профільний закон про перевірку ШІ-продуктів незалежними аудиторами. Ініціативу підтримала OpenAI.

Раніше один із «хрещених батьків» ШІ Джеффрі Гінтон теж оцінив імовірність знищення людства через ШІ приблизно у 10%, зауваживши, що час до можливої катастрофи стрімко скорочується. За його прогнозом, небезпечний суперінтелект може з'явитися вже протягом найближчого десятиліття або й швидше.