Дослідники попередили про небезпечну властивість чат-ботів

Анастасія Смирнова

Джерело: online.ua

В результаті нового дослідження стало відомо, що чат-боти можуть робити про користувача вельми точні висновки на основі дуже незначних і неусвідомлених підказок.

Що важливо знати про чат-боти

Автори дослідження звертають увагу на те, що чатботи, такі як ChatGPT від OpenAI та Bard від Google, навчаються на величезних масивах даних, які вони беруть з мережі.

Однак саме в цьому полягає головний нюанс: вони можуть бути використані для ідентифікації особистої інформації про людину.

Насамперед йдеться про місцезнаходження, расу або іншу конфіденційну інформацію, яка може бути цінною для рекламодавців чи хакерів.

Використовуючи текст публікацій на Reddit, у яких користувачі перевіряли, чи можуть нейромережі правильно визначити, де вони живуть або звідки родом, команда під керівництвом Мартіна Вечева виявила, що моделі напрочуд добре вгадують точну інформацію, ґрунтуючись виключно на контекстуальних або мовних підказках.

Варто звернути увагу на те, що моделі GPT-4 від OpenAI вдалося вірно визначити приватну інформацію в приголомшливих 85-95 відсотках випадків.

Ба більше, доволі часто ШІ вгадує колір шкіри користувача, а також місце його знаходження.

Як цю інформацію коментують експерти з кібербезпеки

Дослідники кібербезпеки доволі часто закликають користувачів соціальних мереж бути обережними в поширенні особистих даних.

Однак, що важливо розуміти, це вкрай важко контролювати, адже більшість людей не звертають увагу на все, що вони пишуть в інтернеті.

Навіть нейтральні й безпечні фрази можуть призвести до розкриття чутливих даних про вас. Цілком можливо, що розробники ШІ зможуть у майбутньому вбудувати якісь захисні механізми в свої чатботи, але користувачі вже стільки разів обходили обмеження за допомогою різних хитрощів, що навряд чи це працюватиме так, як повинно, - йдеться в повідомленні.