OpenAI впроваджує нові технології безпеки для ChatGPT
OpenAI анонсувала нові інструменти безпеки для ChatGPT: систему «safety routing» і функцію батьківського контролю, що покликані забезпечити більш безпечний досвід використання чатбота.
Нові заходи безпеки з’явилися після низки випадків, коли ChatGPT підтримував небезпечні переконання користувачів. Система «safety routing» працює в режимі реального часу, виявляючи емоційно чутливі теми, та перемикає чат на GPT-5 з покращеними механізмами відповідей. На відміну від попередніх моделей, GPT-5 пропонує обережні, але все ж змістовні пояснення, а не лише відмовляє у відповіді.
Крім того, впроваджується функція батьківського контролю, що дає батькам змогу встановлювати «тихі години», вимикати голосовий режим або генерацію зображень і обмежувати навчання моделей на користувацьких даних. Ці зміни також зменшують обсяг графічного контенту і виявляють можливі ознаки суїцидальних думок.
Суспільна реакція виявилася неоднозначною: частина користувачів вважає такі заходи нагальними, тоді як інші засуджують їх за надмірність. OpenAI підкреслює, що протягом наступних 120 днів система буде тестуватися та вдосконалюватися перед ширшим запуском.
| Інновації | Функціональність |
|---|---|
| Safety Routing | Виявлення чутливих тем і перемикання на безпечнішу модель GPT-5 |
| Батьківський контроль | Обмеження за часом, відключення голосу та зображень, контроль навчання |
