Стартап Anthropic випускає публічну версію своєї найпотужнішої моделі штучного інтелекту, тепер названої Claude Fable 5, яка включає захисні механізми, що обмежують її використання в ризикованих сферах, таких як кібербезпека. Ця подія відбувається після того, як попередня версія моделі Mythos на початку року викликала значний резонанс у світі завдяки здатності виявляти недоліки програмного забезпечення.
Досі Anthropic обмежувала доступ до Mythos групі приблизно з 200 організацій, включаючи уряд США в рамках програми Glasswing. У квітні компанія оголосила, що Mythos виявила тисячі вразливостей у програмному забезпеченні. Ширше надання можливостей Mythos може дозволити Anthropic, компанії вартістю 965 мільярдів доларів, зміцнити свої позиції на ринку та випередити конкурента OpenAI у гонці за вихід на публічний ринок.
Захисні механізми та обмеження
Anthropic заявила, що провела ретельне тестування, аби переконатися, що користувачі не зможуть маніпулювати новою моделлю для обходу її інструкцій або виконання заборонених дій. Діанн Пенн, керівник відділу управління продуктами, досліджень та лабораторій Anthropic, повідомила Reuters: “Якщо студент коледжу попросить модель знайти кібервразливості в пакеті X або коді, модель відмовить.” У такому випадку Fable 5 повернеться до Opus 4.8 для відповіді.
Компанія Anthropic відзначає продуктивність Claude Fable 5 у сфері розробки програмного забезпечення та аналітики. За словами Пенн, модель Fable 5 буде дорожчою, але виконуватиме завдання з меншим використанням токенів, що знижує загальну вартість за завдання, згідно з ранніми відгуками клієнтів.
Плани розширення та ціноутворення
Користувачі, які мали доступ до попередньої версії Claude Mythos без захисних механізмів, зможуть оновитися до нової Claude Mythos 5. Anthropic планує з часом розширити доступ через більш “систематичну програму довіреного доступу”. Ціни на обидві моделі становлять 10 доларів за мільйон вхідних токенів та 50 доларів за мільйон вихідних токенів.
Джерело: NDTV