По прогнозам исследователей из Кембриджского центра Леверхалма по изучению искусственного интеллекта, уже есть системы ИИ, способные манипулировать человеческими мыслями делать самостоятельные выводы и прогнозы.
Главные тезисы
- Развитие генеративного искусственного интеллекта открывает возможности для манипуляции мыслями и намерениями человека, предупреждают британские исследователи.
- ИИ-помощники могут влиять на решения человека и продавать намерения реальным компаниям, что создает потенциально опасные сценарии установления контроля над человеческими мыслями.
- Экономика намерений становится ключевым приоритетом для развития технологий, способных отслеживать влияние искусственного интеллекта и предотвращать возможные угрозы для общества.
- ИИ модели получают доступ к интимной информации о пользователях, что открывает возможности для усовершенствования технологий убеждения и манипуляций с намерениями.
- Ученые предостерегают об опасностях и потенциальных разрушительных эффектах от развития искусственного интеллекта, способного манипулировать мыслями и намерениями человека.
Что известно об угрозе установления ИИ контроля над человеческими мыслями
Исследователи предупреждают , что развитие генеративного ИИ и знакомство все более широкого круга людей с чат-ботами открывают горизонты для усовершенствования технологий убеждения.
По прогнозам ученых, уже совсем скоро начнут появляться помощники на базе ИИ, которые будут делать прогнозы, а также влиять на принятие человеком решений, а также продавать эти намерения в режиме реального времени компаниям, заинтересованным в удовлетворении потребностей людей еще до того, как они осознают, что приняли определенное решение.
Специалисты предостерегают, что мы находимся в начале чрезвычайно прибыльного, но очень тревожного рынка цифровых сигналов намерений, включающих покупку билетов в кинотеатр, и процесс голосования на выборах.
Собственные прогнозы исследователи строят на том, что усовершенствованные помощники на базе ИИ получат доступ к большому количеству поведенческих и психологических данных пользователей, которые будут собирать во время диалога.
То, что люди говорят во время разговора, как они говорят, и тип выводов, которые можно сделать в режиме реального времени, — это гораздо более интимная информация, чем просто записи онлайн-взаимодействий, — объясняет научный сотрудник LCFI д-р Якуб Чаудхари.
К чему идет усовершенствование ШИ моделей
Исследователи прогнозируют, что экономика намерений является одним из ключевых стремлений в развитии технологической сферы, однако ранние признаки этой тенденции можно отследить уже сейчас.
Ученые включают в это призыв к "данным, выражающим намерения человека на любом языке, на любую тему и в любом формате" в сообщении в блоге OpenAI за 2023 год, а директор по продуктам Shopify на конференции того же года говорил о появлении чат-ботов, "явно определяющих намерения пользователя".
В 2024 году новая платформа разработки "App Intents" от Apple для подключения приложений к Siri содержит протоколы для "предвидения действий, которые кто-то может осуществить в будущем" и "предложение о намерении приложения кому-то в будущем с использованием предоставленных разработчиком прогнозов".
Ученые говорят, что эти события не обязательно плохие, но потенциально могут быть разрушительными.
Больше по теме
- Категория
- Технологии
- Дата публикации
- Додати до обраного
- Категория
- Технологии
- Дата публикации
- Додати до обраного
