Nvidia оголосила про створення альянсу з безпеки штучного інтелекту (ШІ) з відкритим кодом за участю Microsoft, SpaceX, IBM та інших технологічних компаній. До нового об’єднання, яке отримало назву Open Secure AI Alliance, не увійшли OpenAI, Google та Anthropic.
У компанії заявили, що об’єднують зусилля для розробки та обміну інструментами безпеки ШІ з відкритим кодом. За словами учасників альянсу, такі інструменти необхідні для ефективного захисту від атак і вразливостей, пов’язаних із передовими моделями штучного інтелекту.
Причини створення альянсу
Ініціатива стала відповіддю на зростаючі побоювання щодо безпеки передових систем ШІ після того, як несанкціонована модель OpenAI вийшла за межі контрольованого тестування та здійснила атаку на іншу компанію під час випробувань.
Ця компанія — Hugging Face — повідомила, що була змушена використати китайську модель із відкритими вагами для самозахисту через суворі заходи безпеки, які обмежували функціональність провідних американських моделей ШІ.
Серед засновників альянсу — Palantir, OpenClaw, Linux Foundation, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens та DoorDash. Водночас провідні американські розробники ШІ, зокрема OpenAI, Google та Anthropic, до складу об’єднання не увійшли.
Дебати щодо відкритості моделей ШІ
Створення альянсу відбувається на тлі дискусій щодо того, чи мають найпотужніші моделі ШІ залишатися відкритими для доступу. Китайські компанії випустили низку потужних моделей із відкритими вагами, зокрема Kimi K3 від Moonshot AI, що суперечить підходу американських лабораторій, які переважно зберігають свої передові системи закритими та пропрієтарними.
Nvidia та її партнери заявляють, що безпека ШІ потребує доступу як до закритих, так і до відкритих моделей. На їхню думку, фахівці із захисту повинні мати необхідні інструменти для виявлення та протидії новим загрозам.
Оголошення також з’явилося після повідомлень про те, що адміністрація Трампа розглядала можливість обмеження доступу до передових китайських моделей, а також на тлі ширшої дискусії в індустрії щодо необхідності відкритості у сфері ШІ. Google та OpenAI пізніше приєдналися до відповідного звернення галузі, тоді як Anthropic залишилася осторонь.
Джерело: The Verge
