США назвали шість китайських компаній, які американські спецслужби звинувачують у здійсненні атак промислового масштабу з метою отримання можливостей передових американських моделей ШІ. За оцінкою американських відомств, така практика може дозволяти китайським компаніям суттєво скорочувати терміни розробки власних моделей та економити мільярди доларів на їхньому навчанні.
У спільній заяві, оприлюдненій у вівторок, Агентство національної безпеки США (NSA), Агентство з кібербезпеки та інфраструктурної безпеки (CISA) та Федеральне бюро розслідувань (ФБР) заявили, що DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun та Z.AI здійснювали атаки на американські моделі щонайменше з кінця 2024 року.
За словами відомств, ці компанії «ймовірно» діяли «за відома уряду Китаю», отримуючи можливості американських моделей, зокрема варіантів Claude, GPT, Gemini та Grok.
«Китайські компанії у сфері ШІ, які здійснюють дистиляцію американських моделей ШІ промислового масштабу, отримують значно коротші терміни розробки та менші фінансові витрати на навчання передової моделі», — заявили американські відомства.
Вони закликали всі американські компанії у сфері ШІ співпрацювати з урядом США та його союзниками, щоб протидіяти діям, які, за оцінкою американської влади, загрожують лідерству США у сфері штучного інтелекту. Для цього, за словами відомств, потрібні скоординовані заходи в усій екосистемі ШІ проти «агресивної, зловмисної та цілеспрямованої дистиляції промислового масштабу», за допомогою якої отримуються обмежені пропрієтарні функціональні можливості та характеристики передових американських моделей.
Як китайські компанії отримують дані від моделей
За даними американських відомств, одним із методів є використання API для отримання відповідей від моделей ШІ через масову купівлю фіктивних акаунтів. Такі мережі шахрайських облікових записів, не зареєстрованих за справжніми користувачами, виконують «високо скоординовані запити з ідентичними або схожими текстами промптів». Їхня кількість може становити від тисяч до мільйонів запитів на схожі теми.
Іншим поширеним методом є використання технік prompt injection для обходу захисту моделей. Зокрема, йдеться про створення промптів, які змушують моделі розкривати прихований ланцюжок міркувань (chain-of-thought).
Американські відомства навели як приклад DeepSeek, яка, за їхніми словами, використовувала промпти, що змушували моделі уявляти та викладати внутрішні міркування, які привели до готових відповідей, покроково.
Нові обмеження можуть вплинути на користувачів ШІ
Щоб заохотити компанії до спільної протидії таким кампаніям, американські відомства рекомендували низку заходів, які, за їхньою оцінкою, мають ускладнити китайським компаніям отримання можливостей американських моделей.
Зокрема, компаніям рекомендували вдосконалити виявлення складних кампаній, у яких використовуються десятки тисяч акаунтів. За даними відомств, такі кампанії можуть спиратися на «сірий ринок проксі-серверів», щоб обходити географічні обмеження та спрямовувати запити через кілька різних каналів для отримання несанкціонованого доступу.
Водночас посилення таких заходів захисту може позначитися і на звичайних користувачах американських сервісів ШІ, оскільки компаніям доведеться жорсткіше контролювати доступ до своїх моделей.
Джерело: Ars Technica
