Anthropic: російські хакери використовували ШІ для атак на урядові структури України

Йдеться у звіті Anthropic Threat Intelligence. Атаку пов'язують із російським угрупованням Midnight Blizzard.

За інформацією компанії, хакери діяли за допомогою перехоплення Wi-Fi у готелях і захоплення акаунтів у WhatsApp. А моделі Claude залучали майже на всіх стадіях кампанії, частину процесів автоматизували.

Керівник відділу аналізу кіберзагроз Anthropic Джейкоб Кляйн наголосив, що можливості ШІ зростають, а разом із ними — і ризики. За його словами, сучасні моделі вже набагато краще дають раду із завданнями на кшталт оптимізації дронів чи розроблення програмного забезпечення для ракет, ніж це було ще рік тому.

Окремо у звіті згадують систему, яку хакери створили за допомогою ШІ: вона автоматично перевіряла, чи виявляють захисні програми шкідливий код, і якщо так — змінювала його, щоб обійти захист. Зловмисне використання моделей Claude фіксували протягом останніх восьми місяців.

Anthropic також повідомила, що Claude застосовували у військових програмах Росії, Китаю та Ємену. Там модель використовували для роботи, пов'язаної з ракетами, безпілотниками й боєприпасами, а також для розвідки та закупівель. За даними компанії, кіберзлочинці дедалі частіше беруть ШІ на озброєння для координації та виконання значної частини своїх операцій.