OpenAI внедряет новые технологии безопасности для ChatGPT
OpenAI анонсировала новые инструменты безопасности для ChatGPT: систему «safety routing» и функцию родительского контроля, которые призваны обеспечить более безопасный опыт использования чатбота.
Новые меры безопасности появились после ряда случаев, когда ChatGPT поддерживал опасные убеждения пользователей. Система «safety routing» работает в режиме реального времени, выявляя эмоционально чувствительные темы, и переключает чат на GPT-5 с улучшенными механизмами ответов. В отличие от предыдущих моделей, GPT-5 предлагает осторожные, но все же содержательные объяснения, а не только отказывает в ответе.
Кроме того, внедряется функция родительского контроля, которая дает родителям возможность устанавливать «тихие часы», выключать голосовой режим или генерацию изображений и ограничивать обучение моделей на пользовательских данных. Эти изменения также уменьшают объем графического контента и выявляют возможные признаки суицидальных мыслей.
Общественная реакция оказалась неоднозначной: часть пользователей считает такие меры необходимыми, тогда как другие осуждают их за чрезмерность. OpenAI подчеркивает, что в течение следующих 120 дней система будет тестироваться и усовершенствоваться перед более широким запуском.
