реклама
Новости Software

Исследователи придумали «отравленные картинки», которыми художники смогут бороться с нейросетями

Команда исследователей из Чикагского университета создала инструмент под названием Nightshade, с помощью которого художники смогут защитить свои работы от генеративных нейросетей, использующих для обучения изображения в интернете. Он позволяет добавить к изображениям невидимые глазу человека пиксели, которые эффективно искажают данные для обучения ИИ-алгоритмов.

 Источник изображения: petapixel.com

Источник изображения: petapixel.com

Стремительный рост популярности генеративных нейросетей, способных создавать изображения по текстовому описанию, также привёл к многочисленным судебным искам со стороны современных художников в адрес компаний, занимающихся разработкой ИИ-алгоритмов. Дело в том, что для обучения генеративных нейросетей обычно используются изображения, опубликованные на разных веб-ресурсах. За счёт этого генеративные нейросети способны рисовать изображения не хуже человека и даже копировать стили известных художников.

Алгоритм Nightshade призван помочь художникам защитить свои работы от сканирования нейросетями. Он особым образом обрабатывает изображения, и, если в дальнейшем они используются для обучения нейросетей, то последние теряют способность должным образом обрабатывать пользовательский запрос и выдают неверный результат. Фактически такая доработка картинок заставляет нейросети неправильно распознавать изображённые на них предметы. Например, там, где нарисованы шляпы, алгоритм распознаёт торты, а сумки — распознаются как тостеры. Повреждённые таким образом данные очень сложно удалить, поскольку разработчикам генеративных алгоритмов придётся кропотливо находить каждый такой фрагмент вручную.

Художники, которые хотят поделиться своими работами в интернете, но при этом также намерены защитить их, могут задействовать Nightshade в сочетании с другим инструментом под названием Glaze (разработан той же группой исследователей и предназначен для модификации изображений таким образом, что нейросеть не сможет эффективно обучаться с их помощью). Согласно имеющимся данным, Nightshade и Glaze будут доступны для бесплатного использования, а первый из них будет иметь открытый исходный код, благодаря чему другие разработчики смогут улучшать его.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Alone in the Dark станет последней игрой Pieces Interactive — студию разработчиков Magicka 2 закрыла Embracer 38 мин.
На YouTube выложили полтора часа официального геймплея Elden Ring: Shadow of the Erdtree, а Bandai Namco предупредила игроков о спойлерах 2 ч.
Team Spirit стала чемпионом турнира Blast Premier: Spring Final 2024 по Counter-Strike 2, обыграв в финале NAVI 3 ч.
InXile посмеялась над утечкой сроков выхода Clockwork Revolution — стимпанковой RPG про путешествия во времени 3 ч.
Тодд Говард раскрыл масштаб дополнения Shattered Space к Starfield и подтвердил планы на будущие аддоны 4 ч.
Британский хакер, специалист по подмене сим-карт, арестован за взломы криптокошельков 9 ч.
В iOS 18 можно заменить «Привет, Siri» на любую другую фразу 10 ч.
Меню «Пуск» и панель задач Windows 11 получат больше возможностей настройки 19 ч.
«Замечательный ранний доступ»: комикс-шутер про гангстеров Fallen Aces стартовал в Steam с рейтингом 98 % 23 ч.
Функция Recall в Windows 11 научилась анализировать содержимое рабочего стола по запросу пользователя 16-06 11:52
Электролёт AeroHT X2 дочерней компании XPeng совершил первый полёт в небе над Пекином 58 мин.
Анонсированы смартфоны Oukitel C50, WP50 и WP39 с чипами MediaTek Dimensity 5G 2 ч.
Rambus представила набор решений PCIe 7.0, включая высокопроизводительный контроллер 2 ч.
Минпромторг РФ приостановил выделение субсидий на радиоэлектронику и проверит использование уже выделенных средств 3 ч.
Беспроводные колонки Tronsmart Halo 200 и T7, а также наушники Sounfii R4 для летнего отдыха 3 ч.
400G/800G для ИИ: спрос на оптическое сетевое оборудование для ЦОД растёт 3 ч.
Kioxia впервые за 20 месяцев перестала сокращать объёмы выпуска флеш-памяти 4 ч.
Планшет AGM PAD P2 ACTIVE с 10,95-дюймовым экраном и защитным чехлом поступил в продажу 5 ч.
TSMC поднимет цены на 3-нм чипы на 5 %, а передовая упаковка чипов CoWoS подорожает на 20 % в следующем году 6 ч.
Cerebras и Dell предложат заказчикам современные ИИ-платформы 6 ч.