Технология генеративного искусственного интеллекта (ИИ) использовала YouTube-видео украинки Ольги Лоик для создания десятков фейковых аккаунтов и пророссийской пропаганды.
ИИ сделал украинскую YouTube-блогера российской пропагандисткой
21-летняя студентка Ольга Лоик начала вести YouTube-канал по теме психологии в 2023 году.
Через несколько месяцев подписчики канала сообщили девушке, что видели ее видео в китайских социальных сетях.
Ольга нашла десятки фейковых аккаунтов в китайских соцсетях Xiaohongshu и Bilibili, где использовалось ее изображение.
Я видела [свое] лицо и слышала свой голос. Это было очень жутко, потому что я видела, как говорю то, чего никогда не говорила», — рассказала ВВС Ольга, которая учится в Пенсильванском университете.
На фейковом видео украинка рассказывала о дружбе России и Китая
Фейковые аккаунты, использовавшие контент из YouTube-канала Ольги, имели разные женские имена.
На видео Ольга разговаривала на мандаринском языке, который никогда не изучала.
Девушка перевела фейковые видео со своим изображением с помощью онлайн-сервисов.
Оказалось, что на этих видео, созданных с помощью генеративного искусственного интеллекта, она рассказывала о дружбе России и Китая.
Я видела, что 90% видео рассказывают о дружбе между Китаем и Россией. О том, что они должны быть сильными союзниками. Я не хочу, чтобы кто-то думал, что я когда-нибудь в своей жизни говорила эти ужасные вещи. Использовать украинскую девушку как лицо, продвигающее Россию. Это безумие», —сказала Ольга.
4900 видео было создано с использованием изображения Ольги
Жених Ольги провел расследование и обнаружил, что 4900 видео было создано с использованием ее изображения.
Пара обратилась в фирму HeyGen, разработавшую технологию генеративного ИИ.
Представители компании заверили, что заблокировали изображение Ольги от дальнейшего использования.
Китайские государственные СМИ повторяют российские нарративы, оправдывая ее вторжение в Украину, а социальные сети цензурируют обсуждение войны, пишет BBC.
Генеративный ИИ — это новая технология, появившаяся относительно недавно. Это искусственный интеллект, который может самостоятельно находить и обрабатывать информацию, а также использовать данные для создания ранее не существовавшего контента.