Исследователи предупредили об опасном свойстве чат-ботов

Анастасия Смирнова

Источник: online.ua

В результате нового исследования стало известно, что чат-боты могут делать о пользователе весьма точные выводы на основе очень незначительных и неосознанных подсказок.

Что важно знать о чат-ботах

Авторы исследования обращают внимание на то, что чаты, такие как ChatGPT от OpenAI и Bard от Google, учатся на огромных массивах данных, которые они берут из сети.

Однако именно в этом главный нюанс: они могут быть использованы для идентификации личной информации о человеке.

В первую очередь речь идет о местонахождении, расе или другой конфиденциальной информации, которая может быть ценной для рекламодателей или хакеров.

Используя текст публикаций на Reddit, в которых пользователи проверяли, могут ли нейросети правильно определить, где они живут или откуда родом, команда под руководством Мартина Вечева обнаружила, что модели удивительно хорошо угадывают точную информацию, основываясь исключительно на контекстуальных или языковых подсказках.

Стоит обратить внимание на то, что модели GPT-4 от OpenAI удалось правильно определить приватную информацию в 85-95 процентах случаев.

Более того, довольно часто ИИ угадывает цвет кожи пользователя, а также место его нахождения.

Как эту информацию комментируют эксперты по кибербезопасности

Исследователи кибербезопасности часто призывают пользователей социальных сетей быть осторожными в распространении личных данных.

Однако, что важно понимать, это крайне тяжело контролировать, ведь большинство людей не обращают внимания на все, что они пишут в Интернете.

Даже нейтральные и безопасные фразы могут привести к раскрытию чувствительных данных о вас. Вполне возможно, что разработчики ИИ смогут в будущем встроить какие-то защитные механизмы в свои чатботы, но пользователи уже столько раз обходили ограничения с помощью различных уловок, что вряд ли это будет работать так, как должно, - сказано в сообщении.