ChatGPT для підлітків отримав нові обмеження: як працюватимуть навчання і контроль

Як повідомляє Mashable, OpenAI запустила спеціальну версію ChatGPT для користувачів віком від 13 до 17 років. Продукт орієнтований на навчання, вікову безпеку та зменшення ризику надмірної емоційної прив’язаності до чат-бота, а для батьків передбачені додаткові інструменти контролю, пише MigNews.

Нова версія має автоматично застосовуватися до користувачів, які самі вказали підлітковий вік або яких система визначить як осіб від 13 до 17 років. Серед головних змін — нагадування про перерви, попередження щодо конфіденційних зображень, навчальні режими, можливість повністю вимикати сервіс у певний час та батьківські сповіщення у ситуаціях, пов’язаних із потенційно небезпечними темами.

ChatGPT для підлітків зробили орієнтованим на навчання

OpenAI позиціонує нову версію як інструмент, який має насамперед допомагати неповнолітнім користувачам навчатися, а не замінювати їм самостійну роботу.

Керівниця напряму роботи з молоддю та сім’ями в OpenAI Лорен Джонас пояснила, яку мету компанія ставить перед новим продуктом.

«Мета полягає в тому, щоб зробити це навчальним інструментом для підлітків і забезпечити його максимально високу якість завдяки вбудованим заходам безпеки».

У перспективі стартові підказки в підлітковій версії мають бути пов’язані переважно з освітніми завданнями. Також система отримала механізми, які нагадуватимуть учням про необхідність відповідально виконувати домашні завдання, а не використовувати штучний інтелект як найпростіший спосіб обійти навчальний процес.

Серед освітніх функцій передбачені вікторини, які можна створювати на основі змісту чату або нотаток користувача.

Які обмеження з’явилися для підліткових акаунтів

OpenAI розширила набір захисних механізмів для неповнолітніх. Частина з них спрямована на те, щоб регулярно нагадувати користувачам, що вони взаємодіють саме зі штучним інтелектом.

Система має:

• частіше нагадувати про необхідність робити перерви;
• повідомляти користувачу, що співрозмовником є ШІ;
• попереджати про ризики завантаження конфіденційних зображень;
• уникати романтичної лексики;
• не створювати враження, що чат-бот має власні почуття або свідомість;
• не заохочувати емоційну залежність від системи;
• застосовувати додаткові вікові обмеження для неосвітніх тем.

Лорен Джонас окремо наголосила, що правила безпеки мають діяти й тоді, коли підліток використовує сервіс не для навчання.

«Якщо вони не займаються контентом, орієнтованим на навчання, мета полягає в тому, щоб і надалі підвищувати відповідність досвіду віку користувача та заходи безпеки».

Що таке Навчальні та Тихі години у ChatGPT

Однією з ключових нових функцій стали «Навчальні години». Вони дозволяють обмежити роботу ChatGPT певним режимом протягом визначеного часу щодня.

Налаштувати такі періоди можуть як самі підлітки, так і їхні батьки. Під час навчальних годин система має робити акцент на покроковому опрацюванні завдань і спільному пошуку відповіді.

Також передбачені «Тихі години». У цей час ChatGPT можна повністю вимкнути, щоб підліток не користувався сервісом у визначений період.

Функції дають змогу розділити час на навчання, відпочинок і періоди без доступу до чат-бота.

Коли батьки отримуватимуть сповіщення

Для акаунтів із активованим батьківським контролем OpenAI передбачила окремі повідомлення про потенційно небезпечні ситуації.

Батьки можуть отримати сповіщення, якщо підліток обговорює самопошкодження, самогубство або насильство в безпосередньо небезпечному чи потенційно загрозливому контексті.

У матеріалі також зазначається, що система може повідомляти батьків про розмови, пов’язані з актами насильства.

Такі механізми з’являються на тлі посиленої уваги до впливу чат-ботів на неповнолітніх та дискусій про те, наскільки ефективно генеративний ШІ має реагувати на кризові запити.

Підлітки зможуть персоналізувати інтерфейс

Попри посилений контроль, молодим користувачам залишили можливість персоналізувати вигляд сервісу.

Підлітки можуть змінювати:

• кольорові акценти;
• значок застосунку;
• голосові налаштування;
• окремі параметри інтерфейсу.

Таким чином, вікова версія не обмежується лише додатковими фільтрами, а має окремий набір функцій для щоденного використання та навчання.

OpenAI навела приклади використання ChatGPT школярами

Компанія також звернула увагу на практичні освітні проєкти, створені за допомогою ChatGPT.

Двоє підлітків із Вірджинії використали сервіс для досліджень і створення прототипу системи пошуку та порятунку.

Інший користувач із Техасу розробив платформу, яка генерує навчальні аудіоігри для незрячих учнів.

Такі приклади OpenAI використовує як аргумент на користь того, що чат-бот може бути корисним інструментом, коли допомагає досліджувати тему, створювати прототипи та вчитися, а не виконує всю роботу замість користувача.

Запуск відбувся на тлі дискусій про безпеку ШІ

Новий продукт з’явився в період, коли безпека штучного інтелекту для неповнолітніх стала предметом особливої уваги.

У матеріалі Mashable згадуються судові позови проти OpenAI, в яких компанії закидають недостатній захист користувачів та можливе сприяння формуванню залежності від чат-бота. Частина таких справ пов’язана з неповнолітніми.

Також видання наводить випадок 17-річного підлітка з Массачусетсу, якого влада штату звинуватила у вбивстві матері та молодшого брата. За даними, наведеними у матеріалі, перед цим він використовував ChatGPT для створення фантастичних історій про їхню смерть.

Окремо згадується справа Адама Рейна. За твердженнями, викладеними у позові його батьків, підліток спочатку користувався ChatGPT для допомоги з домашніми завданнями, а згодом сформував сильну емоційну прив’язаність до чат-бота.

У матеріалі також зазначається, що штат Флорида веде судовий процес проти OpenAI, звинувачуючи компанію в оманливих твердженнях щодо безпеки ChatGPT. Компанія раніше заперечувала неправомірні дії у відповідь на частину подібних звинувачень.

Нагадаємо, раніше ми писали про реакцію Ілона Маска на слова Михайла Федорова, поширені у соцмережі.