Команда исследователей из Чикагского университета создала инструмент под названием Nightshade, с помощью которого художники смогут защитить свои работы от генеративных нейросетей, использующих для обучения изображения в интернете. Он позволяет добавить к изображениям невидимые глазу человека пиксели, которые эффективно искажают данные для обучения ИИ-алгоритмов.

Источник изображения: petapixel.com

Стремительный рост популярности генеративных нейросетей, способных создавать изображения по текстовому описанию, также привёл к многочисленным судебным искам со стороны современных художников в адрес компаний, занимающихся разработкой ИИ-алгоритмов. Дело в том, что для обучения генеративных нейросетей обычно используются изображения, опубликованные на разных веб-ресурсах. За счёт этого генеративные нейросети способны рисовать изображения не хуже человека и даже копировать стили известных художников.

Алгоритм Nightshade призван помочь художникам защитить свои работы от сканирования нейросетями. Он особым образом обрабатывает изображения, и, если в дальнейшем они используются для обучения нейросетей, то последние теряют способность должным образом обрабатывать пользовательский запрос и выдают неверный результат. Фактически такая доработка картинок заставляет нейросети неправильно распознавать изображённые на них предметы. Например, там, где нарисованы шляпы, алгоритм распознаёт торты, а сумки — распознаются как тостеры. Повреждённые таким образом данные очень сложно удалить, поскольку разработчикам генеративных алгоритмов придётся кропотливо находить каждый такой фрагмент вручную.

Художники, которые хотят поделиться своими работами в интернете, но при этом также намерены защитить их, могут задействовать Nightshade в сочетании с другим инструментом под названием Glaze (разработан той же группой исследователей и предназначен для модификации изображений таким образом, что нейросеть не сможет эффективно обучаться с их помощью). Согласно имеющимся данным, Nightshade и Glaze будут доступны для бесплатного использования, а первый из них будет иметь открытый исходный код, благодаря чему другие разработчики смогут улучшать его.

В Китае наблюдается бурное развитие генеративного ИИ, что привело к массовому появлению новых инновационных продуктов, созданных местными стартапами. Однако эксперты и инвесторы предсказывают скорое сокращение участников рынка из-за возрастающих экономических и конкурентных проблем.

Источник изображения: geralt / Pixabay

После того как OpenAI представила свою модель ChatGPT, Китай принял эстафету, активно развивая сектор генеративного ИИ. Как отметил старший представитель Tencent, текущая ситуация может быть описана как «противостояние ста моделей». Гиганты рынка, такие как Baidu, Alibaba и Huawei, не остались в стороне, представив свои продукты на основе ИИ. Сейчас в Китае функционирует более 130 крупных языковых ИИ-моделей, что составляет 40 % мирового объёма, уступая лишь США с долей 50 %. Компании также активно разрабатывают отраслевые языковые модели, дополняющие основные.

Однако не всё так радужно. Многие из этих моделей ещё не нашли своего применения в бизнесе, в большинстве случаев они схожи между собой, а разработчики сталкиваются с растущими затратами. Политическое и экономическое напряжение между Пекином и Вашингтоном усугубляет ситуацию, сокращая инвестиции и усложняя доступ к необходимым технологиям, таким как ИИ-чипы NVIDIA.

Эсми Пау (Esme Pau) из австралийского инвестиционного банка Macquarie Group утверждает, что только наиболее сильные и гибкие компании смогут выстоять в этой борьбе. Она предвидит консолидацию рынка и возможную ценовую войну, поскольку игроки будут соревноваться за внимание пользователей.

Ян Хунвэй (Yuan Hongwei), представитель венчурного фонда Z&Y Capital, считает, что лишь несколько универсальных языковых ИИ-моделей займут доминирующее положение на рынке. Её фирма, инвестировавшая в такие компании, как DJI и Pony.ai, решила поддержать Baichuan Intelligence. Эта компания, основанная Ван Сяочуанем (Wang Xiaochuan), создателем второго по популярности поисковика в Китае — Sogou, стремится разработать конкурентоспособную ИИ-модель.

Сектор генеративного ИИ в Китае находится на перепутье. Несмотря на активное развитие и внушительные инвестиции, многие компании сталкиваются с проблемами, которые могут поставить под угрозу их дальнейшее существование. В ближайшие месяцы рынок, вероятно, переживёт ряд изменений, и лишь наиболее устойчивые и инновационные игроки смогут удержаться на плаву, предлагая уникальные решения и адаптируясь к меняющимся условиям.