Коли кілька років тому банда членів «Боко Харам», що пересувалася на мотоциклах, напала на військову базу на сході Нігерії, їх зупинив оборонний рів, що оточував комплекс. Екстремісти перегрупувалися і, перш ніж розпочати черговий штурм, звернулися по допомогу до штучного інтелекту (ШІ).
«Ми бачили у фільмі, як мотоцикли можуть перестрибувати через мости», — розповів колишній командир «Боко Харам» дослідниці тероризму й технологій Кембриджського університету Антонії Джуліч. «Ми використовували ШІ, щоб навчитися це робити. Ми надавали йому інформацію, наприклад, які мотоцикли ми використовуємо та яку відстань нам потрібно перестрибнути, і він давав нам кроки, що ми маємо робити». Завдяки підказкам від чат-ботів механіки модифікували мотоцикли для швидшого прискорення та максимальної швидкості. За словами перебіжчиків, бойовики рили власні ями, заповнювали їх битим склом та вогнем і практикували стрибки — іноді зі смертельними наслідками — поки не змогли успішно перестрибнути оборонний рів.
ШІ як тактичний інструмент на полі бою
Цей епізод, описаний у дослідницькій роботі докторки Джуліч, який
передали The New York Times перед її публікацією, підкреслює, як інструменти генеративного штучного інтелекту все частіше допомагають терористичним групам безпосередньо на полі бою. Це відбувається попри зусилля розробників ШІ щодо захисту від їх неправомірного використання, зазначають експерти.
Донедавна «Ісламська держава», «Аль-Каїда» та інші екстремісти переважно використовували ШІ у сфері інформаційних операцій — для виробництва пропаганди, перекладу, вербування та методів безпеки. Однак, за словами нинішніх і колишніх військових та антитерористичних чиновників США, а також незалежних дослідників, ця тенденція змінилася, оскільки джихадисти звернулися до ШІ для отримання тактичних переваг на місцях.
Докторка Джуліч протягом минулого року провела близько 60 інтерв’ю з 27 колишніми членами «Боко Харам» у Нігерії. Її польове дослідження виявило, що терористи використовували чат-боти для розробки вибухових пристроїв, ремонту або модернізації іншої зброї, а також для обговорення ідей щодо нападу на ворогів. Великі мовні моделі (ВММ), як пише докторка Джуліч у своєму звіті, «консультувалися на кожному етапі військової діяльності — під час підготовки місії, під час операцій та в аналізі після місії — що представляє іншу картину від використання ШІ, орієнтованого на пропаганду, яке домінує в публічному дискурсі та існуючих публічних дослідженнях».
Виклики для індустрії ШІ та безпеки
Ця еволюція підкреслює ширший виклик для індустрії ШІ. Чат-боти мають вбудовані обмеження, призначені для запобігання запитам інформації, яка може завдати шкоди іншим або собі. Але дослідники неодноразово виявляли, що люди можуть обходити протоколи безпеки, часто повільно, але наполегливо спонукаючи моделі розкривати інформацію, яку вони навчені обмежувати.
Дослідження докторки Джуліч та інші нещодавні дослідження, що дійшли схожих висновків, з’являються на тлі зростання побоювань щодо можливостей передових моделей ШІ. Директор ЦРУ Джон Реткліфф нещодавно порівняв їх з «цифровою ядерною зброєю». Проте ці моделі представляють недооцінені ризики для інших загроз, таких як створення біологічної зброї та терористична діяльність, заявили дослідники безпеки ШІ та чиновники національної безпеки.
«Терористи не чекають, поки ми зробимо ШІ безпечним», — сказала докторка Джуліч в інтерв’ю, додавши, що їхнє використання ШІ «було значно недооцінено як за масштабом, так і за характером». Деніел Байман, експерт з тероризму з Джорджтаунського університету, заявив, що терористичні групи «змішують і поєднують» різні системи ШІ, прагнучи уникнути технічних обмежень, встановлених компаніями ШІ. Дослідження докторки Джуліч також виявило, що «Боко Харам» була «платформо-агностичною», взаємозамінно працюючи з OpenAI ChatGPT, Anthropic Claude, Google Gemini та xAI Grok, а також з китайською фірмою DeepSeek.
Компанії ШІ, такі як Anthropic та Google, були проінформовані про висновки докторки Джуліч перед їх публікацією. Майкл Асіман, представник Anthropic, заявив, що продукти компанії «створені для відмови у небезпечних запитах, включаючи ті, що пов’язані з насильством, плануванням атак та створенням вибухових речовин». Карл Раян, представник Google, заперечив дослідження, заявивши, що технічні експерти компанії переглянули роботу і «виявили, що відповіді не були достатньо конкретними чи детальними, щоб призвести до неправомірного використання». Дрю Пусатері, представник OpenAI, зазначив, що використання платформ компанії для насильства або тероризму порушує її політику, і вони продовжуватимуть посилювати захист. Meta заявила, що дослідження докторки Джуліч спиралося на старіші моделі, а не на їх останній випуск, і що вона продовжує посилювати заходи безпеки.
Зростання ризиків та нові загрози
Інші нещодавні дослідження узгоджуються з польовим дослідженням «Боко Харам». Звіт Центру стратегічних та міжнародних досліджень (CSIS) зазначив, що «системи ШІ можуть підтримувати низку функцій оперативного планування, включаючи розвідку, переклад, дослідження цілей, розробку саморобних вибухових пристроїв (СВП), планування маршрутів, складання документів, кодування, безпеку зв’язку та аналіз розвідданих з відкритих джерел».
Tech Against Terrorism, міжнародна антитерористична некомерційна організація, підтримувана Організацією Об’єднаних Націй, минулого тижня опублікувала результати тестів ШІ, які оцінювали, як понад два десятки провідних моделей реагували на тисячі запитів, взятих з реальних випадків тероризму. Тести були зустрінуті «повною відмовою» лише у 57% випадків. Хоча запити щодо вибухових речовин відхилялися приблизно у 80% випадків, запити щодо імпровізованої хімічної зброї — лише приблизно у третині випадків, повідомила група.
Американські аналітики розвідки стверджують, що терористичні групи також починають використовувати ШІ для допомоги у 3D-друку частин зброї, що використовуються в змовах. Наприклад, ШІ допомагає деяким з цих повстанців з розробкою та виробничими рекомендаціями для компонентів дронів, запасних частин та кріплень для боєприпасів, розповів колишній високопоставлений чиновник США, який говорив на умовах анонімності.
Хоча ШІ навряд чи трансформує тероризм за одну ніч, оскільки терористичні організації зазвичай обережно, вибірково та прагматично впроваджують технології, свідчення, зібрані докторкою Джуліч, показують як прагнення, так і відданість серед осередків «Боко Харам». Перебіжчики розповідали про відвідування організованих тренінгів, зосереджених на тому, як найкраще використовувати можливості генеративних моделей ШІ для покращення їх технологій. Ці тренінги, де ноутбуки були оснащені віртуальними приватними мережами (VPN) та програмним забезпеченням для шифрування, проводилися через транснаціональні джихадистські мережі, часто очолювані членами «Ісламської держави».
Аарон Зелін, старший науковий співробітник Вашингтонського інституту близькосхідної політики, зазначив, що його нещодавнє дослідження показало, що деякі підозрювані прихильники ІДІЛ у США та Західній Європі ставили ChatGPT питання про потенційні цілі та засоби здійснення атак. Зелін вказав на випадок 27-річного тунісця, якого заарештували у травні у зв’язку зі змовою, що використовувала ШІ для планування нападу на музей або єврейський об’єкт у Парижі. Тріша Бейкон, фахівець з Сомалі в Американському університеті у Вашингтоні та колишній аналітик з питань боротьби з тероризмом у Державному департаменті, заявила, що Ісламська держава Хорасан (ІДІЛ-К), можливо, найвірулентніша філія групи, була лідером у джихадистських колах, закликаючи своїх послідовників використовувати ШІ, щоб уникнути виявлення владою. «ШІ має потенціал — і в деяких випадках продемонстрував здатність — прискорювати процес радикалізації та мобілізації до насильства», — сказала пані Бейкон.
Джерело: The New York Times
