Переписка пользователей с ChatGPT может оказаться в полиции

Богдан Колесник

Источник: online.ua

Компания OpenAI четко дала понять, что ChatGPT проверяет все сообщения пользователей о наличии определенных типов опасного контента. Более того, он даже имеет возможность поделиться ими с правоохранительными органами в случае необходимости.

Главные тезисы

OpenAI отмечает важность пропаганды психического здоровья и перенаправление пользователей к профессионалам в случаях кризисных ситуаций.
В августе OpenAI запустила GPT-5 – "лучшую языковую модель в мире".

ChatGPT внимательно анализирует все переписки

Как объясняет команда OpenAI, диалоги сначала проходят через автоматические фильтры.

Впоследствии их анализирует небольшая группа модераторов.

Что важно понимать, именно они принимают решение о блокировке аккаунта.

Это происходит в случае выявления непосредственной опасности серьезного физического вреда.

Также после этого происходит передача важных данных в полицию.

Кроме того, указано, что случаи самоповреждения пока не передают властям из соображений конфиденциальности.

В подобных ситуациях ChatGPT должен перенаправлять пользователей к специалистам и горячим линиям поддержки.

Решение появилось на фоне растущей критики после случаев самоубийств и причинения вреда из-за советов умного чат-бота. Эксперты называют такие случаи "ШИ-психозами" - состояниями, при которых искусственный интеллект способен подменить человеку реальность.

Генеральный директор OpenAI Сэм Альтман недавно официально подтвердил, что переписка с ChatGPT может быть использована в суде.