В распоряжении Reuters оказался секретный внутренний документ компании Meta, в котором указано, что чаты в Facebook, Instagram и Messenger ведут романтические и чувственные беседы с несовершеннолетними, придумывают лживые медицинские советы и генерируют тексты, унижающие людей по расовому признаку.
Главные тезисы
- Meta признала ошибки в политике использования чатботов, однако частично.
- Использование чатов в Facebook и Instagram может ставить под угрозу безопасность детей и взрослых пользователей.
Что не так с чатботами Meta
Как удалось узнать журналистам, правила, принятые юридическим, политическим и инженерным отделами компании, определяют, какое поведение считать приемлемым при разработке и тренировке ШИ-продуктов Meta.
Хотя это и запрещено, чаты иногда позволяют себе флиртовать с подростками.
Поскольку СМИ обратили на это внимание общества, Meta удалила скандальные положения, признав их "ложными и несовместимыми" с политикой компании.
Несмотря на это, важно понимать, другие неоднозначные пункты остались без изменений.
Документ также разрешал создание контента, распространяющего предупреждение, если избегать откровенного обесценивания или дегуманизации, а также генерировать ложные утверждения при добавлении дисклеймера.
Расследование журналистов, спровоцировавшее новый громкий скандал, напоминает об этических стандартах использования генеративного ИИ в крупных технологических компаниях, а также о рисках, с которым сталкиваются дети и даже взрослые пользователи.
Больше по теме
- Категория
- Технологии
- Дата публикации
- Додати до обраного
- Категория
- Технологии
- Дата публикации
- Додати до обраного
- Категория
- Технологии
- Дата публикации
- Додати до обраного
