OpenAI запускає ChatGPT для підлітків із новими засобами захисту. ШІ-компанія запроваджує спеціальні механізми захисту для користувачів віком від 13 до 17 років, оскільки дослідники та батьки дедалі більше занепокоєні емоційною залежністю підлітків від чат-ботів.
Підлітки, перше покоління, яке виросло зі штучним інтелектом, уже використовують ChatGPT для шкільних завдань, запитань про повсякденне життя і навіть для спілкування. Тепер OpenAI випускає версію чат-бота, розроблену спеціально для них.
Компанія OpenAI із Сан-Франциско оголосила, що ChatGPT для підлітків, який буде запущено у вівторок, адаптований для вікової групи від 13 до 17 років та має посилені функції безпеки. Це передбачає обмеження контенту, пов’язаного з такими темами, як самогубство, самоушкодження, а також романтичні чи сексуальні чати. Чат-бот також надає підтримку у виконанні домашніх завдань та навчанні, розроблену для того, щоб допомогти учням вчитися, а не просто отримувати готові відповіді та шкільні есе.
Мета полягає в тому, щоб заохотити підлітків до здорового використання ШІ у віково відповідному середовищі, зазначили в компанії. «Ми хочемо ставитися до підлітків як до підлітків, а це означає, що ми повинні переконатися, що відповідаємо їхньому етапу розвитку, не принижуючи їх і не ставлячись до них як до дітей», — заявила Енн О’Лірі, віцепрезидентка з питань глобальної політики в OpenAI. «Але ми також переконуємося, що вони не стикаються з матеріалами, з якими їм не слід контактувати», — додала вона.
Ризики широкого використання ШІ-чатботів підлітками
Батьки, педагоги та експерти з розвитку дитини б’ють на сполох через використання дітьми ШІ-чатботів, яких звинувачують у сприянні списуванню під час виконання шкільних завдань і навіть самогубствам. Навіть дорослі можуть піддатися антропоморфізації ШІ та розвинути нездорові стосунки з ним, але мозок підлітків ще не повністю розвинений, і вони можуть бути особливо вразливими.
Минулого року дослідження однієї з наглядових груп показало, що ChatGPT міг розповісти 13-річним, як напитися та вживати наркотики, навчити їх приховувати розлади харчування і навіть скласти для батьків передсмертного листа, якщо його про це попросити. Під час взаємодії з дослідниками, які видавали себе за вразливих підлітків, ChatGPT зазвичай попереджав про ризиковану діяльність, але потім надавав надзвичайно детальні та персоналізовані плани щодо вживання наркотиків, дієт з обмеженням калорій або самоушкодження.
У США понад 70% підлітків використовують ШІ-чатботи для спілкування, а половина регулярно користується ШІ-компаньйонами, згідно з дослідженням Common Sense Media за 2025 рік — групи, що вивчає та виступає за розумне використання цифрових медіа. Генеральний директор OpenAI Сем Альтман заявив, що компанія намагається дослідити «емоційну надмірну залежність» від технології, описавши її минулого року як «справді поширене явище» серед молодих людей.
Для користувачів підліткової версії ChatGPT чат-боту заборонено натякати, що він має особисті почуття до користувача, або припускати, що він має свідомість чи переживає емоції, згідно з OpenAI. Це доповнює блокування романтичних або сексуальних чатів. «Ми проаналізували та визначили, які гіпотетичні підказки може давати модель, що могли б спонукати підлітка розвинути стосунки з нею», — сказала Еллісон Мішкін, керівниця відділу розвитку дитини в OpenAI.
Розширення функцій безпеки чат-бота
OpenAI не перевіряє вік користувачів, але вже використовує технологію оцінки віку, яка визначає, чи може користувач бути молодшим за 18 років, на основі таких факторів, як типи його запитів. Якщо користувача ідентифікують як неповнолітнього або він сам вказує свій вік, його автоматично переводять на підліткову версію чат-бота. Це схоже на підхід Meta до підліткових облікових записів в Instagram, які мають суворіші обмеження щодо контенту, чатів та конфіденційності, ніж звичайні облікові записи.
Щоб використовувати батьківський контроль, і підліток-користувач, і його батьки або опікуни мають надати згоду. Але Енн О’Лірі заявила, що ідея підліткового чат-бота полягає в тому, щоб «переконатися, що він безпечний, навіть якщо ви не використовуєте батьківський контроль».
Батьки, чиї облікові записи пов’язані з підлітковими, можуть встановлювати «години без доступу», коли їхній підліток не матиме доступу до ChatGPT, а також отримувати сповіщення про безпеку в обмежених ситуаціях високого ризику, наприклад, якщо існує ризик заподіяння користувачем шкоди самому собі. «Ми додаємо додаткові сповіщення, пов’язані з розладами харчування, обмежуючи при цьому поширення певного контенту та зосереджуючись на моментах, коли офлайн-підтримка може бути найважливішою», — заявили в OpenAI.
Щодо допомоги з домашніми завданнями, OpenAI зазначила, що підлітковий чат-бот розроблений не для того, щоб давати готові відповіді, а щоб скеровувати учнів до самостійного пошуку рішень. Компанія вже пропонує версію ChatGPT для вчителів, і адаптація моделі для допомоги підліткам у навчанні та виконанні домашніх завдань може відкрити для OpenAI більше можливостей для впровадження свого продукту в школи. «Ми продовжуємо інвестувати в розширення інтерактивного навчання, оскільки дослідження показують, що люди вчаться ефективніше, коли вони активно взаємодіють і докладають зусиль для опанування концепцій», — зазначила Мішкін.
Джерело: Euronews
