"Яд" для ИИ. Инструмент Nightshade поможет художникам защитить авторское право

Ольга Покотило

Nightshade действует на ИИ как своеобразный яд. Инструмент искажает изображение, добавляя в него лишние пиксели. Они невидимы для глаз человека.

Художники смогут защититься от ИИ

В Чикагском университете был создан инструмент под названием Nightshade, с помощью которого художники смогут защищать свое авторское право от ИИ.

Об этом сообщает Gizmodo со ссылкой на профессора компьютерных наук Бена Чжао.

Nightshade действует на ИИ как своеобразный яд. Инструмент искажает изображение, добавляя в него лишние пиксели. Они невидимы для человеческого глаза, однако, когда искусственный интеллект пытается обработать достаточное количество измененных изображений, вся модель разрушается.

Специалисты опробовали технологию на модели Stable Diffusion XL от Stability AI. Когда искусственный интеллект получил достаточно видоизмененных изображений, он не смог правильно интерпретировать подсказки. Поэтому "автомобиль" он воспринимал как "корову", "собаку" видел "кошкой", а "шляпу" - "тортом". Подсказки к слову "мультфильм" предлагали искусство, напоминавшее импрессионистов XIX века.

В зависимости от модели ИИ для ее уничтожения могут понадобиться сотни или даже тысячи "отравленных" изображений. Однако это может побудить разработчиков генераторов изображений дважды подумать, прежде чем учить ИИ на краденых из интернета произведениях.

Nightshade – не единственная разработка профессора Бена Чжао. Его команда помогла создать Glaze. Это инструмент, способный создавать своеобразный плащ для авторского стиля художников, чтобы искусственный интеллект не смог его имитировать.

Почему художники боятся ИИ?

С тех пор как ИИ для синтеза изображений (Midjourney, Stable Diffusion и другие) вышли на качественно новый уровень, среди художников ведутся дискуссии относительно этичности этих инструментов.

Тема приобрела особые масштабы после того, как картина, созданная ИИ, победила на выставке Colorado State Fair в августе 2022 года.

С одной стороны – считающие произведения ИИ своеобразными воровством. С другой – художники, с энтузиазмом принимающие новые инструменты для творчества.