Зловмисники, пов’язані з Китаєм, росією та іншими країнами, вже намагаються використовувати моделі Claude компанії Anthropic для кібератак, розробки озброєнь, масового стеження, пропаганди та досліджень, які потенційно можуть бути пов’язані зі створенням біологічної зброї. Про це йдеться у новому звіті Anthropic, який аналізує Politico.
За даними компанії, протягом останніх восьми місяців користувачі з країн, де доступ до Claude обмежений, обходили блокування через VPN, викрадені або шахрайські акаунти та сторонні онлайн-сервіси. Anthropic заявляє, що всі описані у звіті операції вдалося виявити й припинити.
Особливе занепокоєння викликали п’ять випадків, коли науковці використовували Claude для досліджень подвійного призначення, які могли б підтримати розробку біологічної зброї. В одному з них модель залучили до підготовки грантової заявки на дослідження gain-of-function вірусу чикунгунья для військового наукового інституту. В іншому випадку Claude використовували у роботі з високопатогенним пташиним грипом. Водночас Anthropic наголошує, що не змогла встановити, чи мали ці дослідники саме злочинні наміри, оскільки подібні методи можуть застосовуватися і в законній медицині.
Звіт також описує діяльність російських акторів. За даними Anthropic, одна незалежна група, що діяла з території росії, намагалася використовувати Claude для створення автономних ударних дронів-камікадзе. Інші пов’язані з росією структури використовували моделі компанії у хакерських операціях.
Окремий блок стосується Китаю. Раніше Anthropic вже виявляла державну китайську кібершпигунську кампанію, в якій Claude Code використовувався для розвідки цілей, пошуку вразливостей, отримання облікових даних і викрадення інформації. У тій операції ШІ міг самостійно виконувати до 80–90% тактичних завдань.
Компанія також виявила дев’ять операцій інформаційного впливу, пов’язаних із росією, Туреччиною та Іраном. Деякі кампанії були приурочені до виборів, зокрема в Молдові.
Anthropic наголошує, що описані випадки не є типовим використанням Claude, а представляють найбільш складні та небезпечні операції, які вдалося зафіксувати. Компанія після їх виявлення блокувала акаунти, посилювала захисні механізми та в окремих випадках передавала інформацію правоохоронним органам та іншим технологічним компаніям.
