реклама
Новости Software

В популярных материалах для обучения нейросетей нашли изображения сексуального насилия над детьми

Исследователи из Стэнфорда обнаружили, что популярный набор данных LAION-5B, используемый для обучения моделей генеративного искусственного интеллекта, и применявшийся для Stable Diffusion и Google Imagen, включает в себя сотни ссылок на материалы сексуального насилия над детьми (Child Sexual Abuse Material — CSAM). Установлено, что LAION-5B включал по меньшей мере 1679 нелегальных изображений, взятых из постов в социальных сетях и популярных сайтов для взрослых.

 Источник изображения: LAION

Источник изображения: LAION

Исследователи начали изучение набора данных LAION в сентябре 2023 года, стремясь выяснить, используются ли там материалы с сексуальным насилием над детьми. С этой целью хеши или идентификаторы изображений отправлялись на платформы обнаружения CSAM, такие как PhotoDNA, и в Канадский центр защиты детей.

Исследователи из Стэнфорда отметили, что наличие CSAM в наборе данных для обучения ИИ не обязательно негативно повлияет на результаты обученных моделей. Тем не менее, всегда есть вероятность, что модель использует что-то из незаконных материалов при генерации изображений. «Наличие повторяющихся идентичных случаев CSAM также является проблематичным, особенно из-за увеличения вероятности получения изображений конкретных жертв», — говорится в отчёте.

LAION, некоммерческая организация, которая управляет набором данных, сообщила, что придерживается политики «нулевой терпимости» к вредоносному контенту и временно удалит наборы данных из Сети. Согласно сайту LAION, набор данных не является непосредственно репозиторием изображений. Он представляет собой результат индексирования ресурсов интернета и содержит ссылки на изображения и замещающий текст.

Stability AI сообщила, что внутренние правила компании запрещают неправомерное использование её платформ. Компания утверждает, что при обучении своих моделей на наборе данных LAION-5B, она использовала лишь часть материалов, которые отбирались в том числе и с учётом безопасности.

Эксперты полагают, что будет сложно полностью удалить проблемный контент из моделей ИИ, обученных на нём. Они рекомендуют подождать, чтобы модели, обученные на LAION-5B, такие как Stable Diffusion 1.5, «устарели, а распространение прекратилось там, где это возможно». Google выпустила новую версию Imagen, но не раскрыла, на каком наборе данных она обучалась.

Генеральные прокуроры США призвали Конгресс создать комитет для расследования влияния ИИ на эксплуатацию детей и запретить создание CSAM, генерируемого ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Microsoft выпустила Windows 11 24H2, но сейчас она почти никому недоступна 2 мин.
Еженедельный чарт Steam: PUBG: Battlegrounds вырвалась в лидеры впервые с 2023 года — помогло большое обновление 30.1 58 мин.
Энтузиаст воссоздал Baldur's Gate 3 на ноутбуке 40-летней давности 2 ч.
«Ростелеком» добавит в мобильную ОС «Аврора» функции на базе ИИ 4 ч.
Пользователи YouTube смогут добавлять примечания к видео 4 ч.
«Хотим всё сделать правильно»: успех сериала «Фоллаут» не поможет Fallout 5 выйти быстрее 4 ч.
Runway представила ИИ-генератор реалистичных видео Gen-3 Alpha 5 ч.
«Базис» в два раза сократил сроки проведения испытаний собственных решений для ФСТЭК 5 ч.
По мотивам фильма ужасов «Тихое место» выйдет хоррор от первого лица A Quiet Place: The Road Ahead — трейлер и подробности 5 ч.
Одним конкурентом The Sims меньше: после трёх переносов раннего доступа симулятор жизни Life by You от Paradox отменили 6 ч.
Электромобильный стартап Fisker объявил о банкротстве — поставки машин он начал всего год назад 8 мин.
Представлена плёночная полуформатная камера Pentax 17 в стиле «ретро» за $500 15 мин.
NASA сфотографировало китайский посадочный модуль «Чанъэ-6» на обратной стороне Луны 51 мин.
Motorola подтвердила скорый анонс раскладушек нового поколения — Razr 50 выйдут 25 июня 57 мин.
Спутник-инспектор космического мусора Astroscale нашёл отработанную ступень ракеты 2 ч.
Анонсирован аксессуар SwitchLens, который превратит любой смартфон в камеру Micro 4/3 3 ч.
Canon создала покрытие, которое вдвое повысит долговечность солнечных панелей 4 ч.
Xiaomi предлагает смарт-браслет Smart Band 8 Pro, ТВ-приставку Mi TV Box S 2nd Gen и беспроводные наушники Redmi Buds 5 Pro 4 ч.
В подмосковной Дубне начали строительство 8-МВт ЦОД 4 ч.
Квантовые вычисления в массы: D-Wave представила гибридную систему, которую смогут использовать даже неспециалисты 4 ч.