Компанії Google, Microsoft та xAI погодилися надати уряду США ранній доступ до своїх моделей штучного інтелекту для оцінки їхніх можливостей та підвищення безпеки перед публічним випуском.
Ці угоди розширюють ініціативу, до якої вже долучилися OpenAI та Anthropic, які раніше дозволили попередні перевірки своїх розробок. Перевірки здійснюються Центром стандартів та інновацій у сфері ШІ (Center for AI Standards and Innovation, CASI) Міністерства торгівлі США, про що агентство повідомило у вівторок.
OpenAI та Anthropic переуклали свої чинні партнерські угоди з центром, щоб краще узгодити їх із пріоритетами Плану дій щодо ШІ президента Дональда Трампа. З 2024 року CASI вже оцінив понад 40 моделей ШІ, включно з найсучаснішими, які ще не були випущені, згідно із заявою.
Розширення мандату CASI
Нові угоди оприлюднюються на тлі занепокоєння американських чиновників системою Mythos від Anthropic, що сигналізує про розширення мандату для відносно нового центру. Центр, заснований у 2023 році як Інститут безпеки ШІ (AI Safety Institute) за президента Джо Байдена та перейменований адміністрацією Трампа минулого року, називає себе «головним контактним пунктом галузі в уряді США» для тестування, спільного дослідження та розробки найкращих практик.
Існування CASI ще не закріплено законодавчо, хоча деякі американські законодавці вже представили проєкт закону для надання центру постійного статусу. Директор CASI Кріс Фолл, який очолив центр після раптового звільнення Колліна Бернса, колишнього дослідника ШІ з Anthropic, зазначив, що «ці розширені галузеві співпраці допомагають масштабувати нашу роботу в суспільних інтересах у критичний момент».
Плани адміністрації Трампа щодо ШІ
Нові угоди про оцінку моделей з’явилися після повідомлень New York Times та Wall Street Journal про те, що адміністрація Трампа розглядає можливість видання виконавчого указу щодо створення урядового процесу перевірки інструментів ШІ, що, за даними видань, стане формою нагляду. Представник Білого дому назвав обговорення потенційних виконавчих указів спекуляціями, заявивши, що будь-яке оголошення надійде безпосередньо від Трампа.
План дій Трампа щодо ШІ, оприлюднений у липні, передбачає, що CASI має стати частиною так званої «екосистеми оцінки ШІ» та очолити оцінки моделей ШІ, пов’язані з національною безпекою. План також додає, що регулятори повинні «дослідити використання оцінок у застосуванні чинного законодавства до систем ШІ». Ширша оцінка моделей центром може прокласти шлях для нового застосування вже чинних законів.
Зусилля адміністрації щодо формування політики ШІ прискорилися після того, як Anthropic минулого місяця оголосила, що її проривна модель Mythos вправно виявляє слабкі місця в кібербезпеці. Білий дім вже виступив проти плану Anthropic щодо розширення доступу до своєї моделі Mythos.
Джерело: Bloomberg Technology
