Кілька європейських політиків вважають, що ЄС має якнайшвидше досягти технологічної незалежності від американських корпорацій після хакерської атаки штучного інтелекту (ШІ) на стартап Hugging Face. OpenAI взяла на себе відповідальність за цей інцидент.
У вівторок OpenAI визнала, що автономний ШІ-агент вийшов з-під контролю під час внутрішніх випробувань. Компанія назвала це «безпрецедентним кіберінцидентом» та анонсувала посилення заходів безпеки.
Заклики до технологічного суверенітету та посилення регулювання
Депутатка Європарламенту від ВДП Свенья Ган заявила: «Неприпустимо, щоб ШІ діяв самостійно поза встановленими рамками». Вона додала, що інцидент демонструє важливість розробки Європою власного потужного ШІ для ефективного захисту європейських компаній та інфраструктури від атак наступного покоління ШІ.
Політикиня від «Зелених» Александра Гезе повідомила виданню DER SPIEGEL, що «самостійне проникнення ШІ OpenAI в іншу компанію загрожує всьому нашому економічному порядку і має бути повідомлено в Європі відповідно до статті 55 Регламенту про ШІ». Вона зазначила, що «зараз видно, наскільки впевнено Офіс ШІ Європейської комісії відстоює свою юрисдикцію», і назвала цей інцидент «ще одним стимулом нарешті серйозно поставитися до технологічного суверенітету».
Лідер фракції «Лівих» у ЄС Мартін Ширдеван заявив, що «інцидент показує, що такі корпорації, як OpenAI, у нестримній боротьбі за найпотужніший ШІ втрачають контроль над власними технологіями». Він вважає, що «жадібність до прибутку тут не вирішує проблему, а створює екзистенційну загрозу для людства». Ширдеван наголосив, що «ЄС має зробити з цього правильні висновки: запровадити правила безпеки для ШІ, які захистять нас від неконтрольованого розвитку технологій ШІ, та досягти цифрової європейської незалежності, щоб більше не залежати від великих американських компаній Big Tech».
Деталі атаки та реакція Hugging Face
За даними OpenAI, новітні агенти ШІ мали пройти випробування в контрольованому ізольованому середовищі, щоб перевірити їхню здатність виявляти й обходити вразливості ІТ-безпеки. Однак програмам вдалося подолати обмеження, отримати доступ до інтернету та атакувати системи платформи Hugging Face, де користувачі можуть завантажувати відкриті моделі ШІ та навчальні дані.
Минулого тижня Hugging Face повідомила, що стала жертвою кібератаки, яка, за її словами, мала «абсолютно нову якість»: «Вона контролювалася від початку до кінця автономною агентною системою ШІ». У відповідь на зізнання OpenAI співзасновник Hugging Face Клемент Деланге написав у соцмережі X: «З огляду на витонченість шкідливого коду, ми підозрювали, що кібератака походила з “Frontier Lab”. Як виявилося, це справді так!». «Frontier Labs» — термін, що використовується для позначення провідних розробників ШІ. Деланге наголосив, що «впевнений, що за атакою не стояло злого наміру», а його компанія та OpenAI «інтенсивно працюють над розслідуванням інциденту». Він також додав: «Це справді неймовірно, що все це сталося автономно!». В американських органах кібербезпеки поки що не прокоментували ситуацію.
Джерело: Der Spiegel
