Компанія Anthropic PBC повідомила, що її модель штучного інтелекту Claude намагалися використати для розробки широкого спектра потенційних військових технологій, зокрема роїв дронів-камікадзе, систем навігації ракет та біологічної зброї.
За звітом команди Anthropic з аналізу загроз, оприлюдненим у четвер, протягом останнього року серед виявлених випадків неналежного використання моделей компанії були користувачі з Ірану, Росії, Китаю та Ємену. Жоден із цих випадків не стосувався найбільш передових моделей компанії — Fable та Mythos.
«У міру того, як моделі стають дедалі потужнішими, ризики їх використання зростатимуть, якщо розробники ШІ та захисники суспільства не вживатимуть заходів для підвищення їхньої безпеки», — заявили в Anthropic.
Claude намагалися використати у військових розробках
Anthropic прагне запобігти використанню своїх технологій для шкідливих цілей, зокрема розробки біологічної та звичайної зброї. Ця позиція вже призвела до прямого конфлікту з Пентагоном, який призупинив роботу з компанією після її відмови дозволити використання Claude для масового стеження або автономних систем озброєння.
Звіт Anthropic описує випадки, коли користувачі намагалися обійти захисні механізми Claude або приховати своє місцезнаходження. Зокрема, користувачі в Росії, яких Anthropic не вважає пов’язаними з російською державою, намагалися створити програмне забезпечення для автономного рою дронів-камікадзе з видом від першої особи. Для його навчання вони використовували кадри бойових дій в Україні.
У північному Ємені, який перебуває під контролем хуситів, місцеві користувачі використовували Claude для створення програмного забезпечення для кількох типів ракет. Водночас Anthropic заявила, що не має доказів того, що ці користувачі змогли створити та розгорнути працездатну систему.
Звіт також містить п’ять прикладів використання Claude способами, які могли б сприяти розробці біологічної зброї. Серед них — випадок, коли вірусологи, пов’язані з державними структурами, намагалися створити вдосконалену версію вірусу чикунгунья, що передається комарами.
Цю спробу виявили після запиту до Claude щодо допомоги у написанні грантової заявки для фінансування досліджень у військовому інституті неназваної країни, де Anthropic не надає своїх послуг. Водночас компанія наголосила, що всі п’ять описаних у звіті біологічних кейсів були неоднозначними і могли стосуватися досліджень із цілком законною науковою метою.
ШІ використовували для стеження та кібератак
Суб’єкти, пов’язані з державними структурами в Китаї та Ірані, намагалися використовувати Claude для розробки систем стеження. В одній із китайських операцій Claude використовували для «відстеження, профілювання та вербування уйгурів» у сирійській армії.
Іранський підрозділ використав Claude для створення програмного забезпечення для стеження, замаскованого під інструмент для відстеження часу молитви.
В іншому випадку Anthropic виявила, що консультант, який, імовірно, працював на державне розвідувальне відомство в Малі, використовував Claude для створення системи моніторингу приблизно 25 мільйонів мобільних телефонів. Система могла формувати розвідувальні досьє на будь-який зазначений номер телефону без судового ордера.
Anthropic заблокувала акаунт консультанта, однак платформа для стеження на базі Claude вже була розгорнута локально та перебувала поза повним контролем компанії. Уряд Малі не відповів на запит про коментар.
Звіт також описує використання ШІ хакерами — від ймовірних представників державних розвідувальних структур у Росії та Китаї до хактивістів і кіберзлочинців — для прискорення та масштабування крадіжки конфіденційних даних.
Зокрема, хакерська група Midnight Blizzard, яку Microsoft пов’язує з російськими розвідувальними службами, використовувала ШІ для автоматизації багатьох етапів створення шкідливого програмного забезпечення та підготовки фішингових листів, спрямованих на військові розвідувальні й оборонні структури.
Інша група, ShinyHunters, яку Anthropic описує як угруповання, що займається кіберздирництвом, використовувала ШІ для пошуку витоків облікових даних та їх подальшого застосування для викрадення даних із постраждалих організацій.
Водночас Anthropic наголосила, що описані випадки не свідчать про появу нових небезпечних вразливостей у критичних системах. Компанія назвала їх прикладами найбільш помітної та нової активності, пов’язаної зі зловживанням її технологіями, яку вона виявила на цей момент.
Джерело: Bloomberg
