реклама
Теги → регулирование

Власти США снова попытаются противостоять дискриминационным алгоритмам онлайн-платформ

Американские политики хотят заставить онлайн-платформы раскрыть подробности о работе их алгоритмов и обязать компании разрешить правительству вмешиваться в их работу в случае обнаружения фактов дискриминации пользователей по таким критериям, как раса или пол. Соответствующий законопроект на этой неделе был представлен в правительстве США.

 Источник изображения: Headway/unsplash.com

Источник изображения: Headway/unsplash.com

Сенатор от штата Массачусетс Эдвард Марки (Edward Markey) и член палаты представителей Дорис Мацуи (Doris Matsui) представили проект «Закона об алгоритмическом правосудии и прозрачности онлайн-платформ», который предусматривает введение запрета на использование дискриминационного или «пагубного» принятия решений, используемыми на онлайн-платформах алгоритмами. Законопроект также установит стандарты безопасности, потребует от платформ предоставления простого объяснения принципов работы алгоритмов, используемых на веб-сайтах, а также публикации ежегодных отчётов о методах модерации контента и создания специальной правительственной группы для расследования случаев дискриминационного поведения алгоритмов.

Представленный законопроект, в случае принятия, распространит действие на онлайн-платформы или любые коммерческие общедоступные сайты и приложения, которые «обеспечивают предоставление площадки для размещения пользовательского контента». Это могут быть сайты социальных сетей, службы агрегации контента или сайты для обмена медиаконтентом и файлами. Первую версию законопроекта Марки и Мацуи представили в 2021 году, он был передан в Подкомитет по защите прав потребителей, но дальнейшего хода не получил.

Китай первым разработал правила, регулирующие работу генеративных ИИ

Управление киберпространством Китая (CAC) совместно с другими регулирующими органами страны завершило разработку первых в своём роде правил, регулирующих работу генеративного ИИ. Правила вступят в силу 15 августа, что свидетельствует о стремлении государства усилить контроль за развитием этой быстрорастущей отрасли.

 Источник изображения: Chickenonline / Pixabay

Источник изображения: Chickenonline / Pixabay

Генеративный ИИ представляет собой быстро развивающуюся область технологий, в которой ИИ способен генерировать контент, например, текст или изображения. Наиболее известным примером является ChatGPT, разработанный американской компанией OpenAI, который позволяет пользователям задавать чат-боту вопросы и получать на них ответы. Успех ChatGPT вызвал появление конкурирующих сервисов по всему миру. Китайские технологические гиганты не намерены отдавать первенство конкурентам в этой сфере и уже запустили собственные сервисы генеративного ИИ.

Эти сервисы обучаются на огромных массивах данных, что вызвало обеспокоенность мировых регулирующих органов по поводу потенциальных рисков, связанных с технологией. «Мы не можем позволить себе играть в догонялки в отношении искусственного интеллекта, разрешая его использование с ограничениями или без них и иметь практически неизбежные последствия для прав человека постфактум», — считает Мишель Бачелет (Michelle Bachelet), верховный комиссар ООН по правам человека. Китай, жёстко контролирующий внутренний интернет, внимательно следит за развитием ИИ. Китайские регуляторы обеспокоены тем, что упомянутые сервисы могут генерировать контент, противоречащий взглядам или идеологии Пекина.

Отчасти именно поэтому китайские технологические компании проявляют осторожность при запуске своих сервисов, подобных ChatGPT. Вместо того чтобы создавать полноценные общедоступные сервисы, китайские компании ориентируют свои технологии на корпоративное и узкоспециализированное применение. Например, компания Alibaba в этом месяце запустила ИИ-инструмент Tongyi Wanxiang, способный генерировать изображения по подсказкам, но он доступен только корпоративным клиентам для бета-тестирования.

Тем не менее, правила CAC дают технологическим гигантам основу для работы с этой технологией. Они будут распространяться только на те сервисы генеративного ИИ, которые доступны широкой публике, а не на те, которые разрабатываются, например, в исследовательских институтах.

По словам представителей CAC, сервисы генеративного ИИ должны будут получать соответствующую лицензию. Если разработчик такого продукта обнаружит незаконный контент, он должен принять меры по прекращению его генерации, улучшить алгоритм и затем сообщить об этом инциденте регулятору.

Новые регулятивные меры, принятые Китаем, говорят об усилении контроля над развивающимися технологиями, такими как генеративный ИИ. В марте этого года Илон Маск (Elon Musk), Стив Возняк (Steve Wozniak), а также более 1000 экспертов в области ИИ предупредили в открытом письме о потенциальных рисках ИИ для общества. Всё это ставит вопросы не только об этичности использования ИИ, но и о необходимости обеспечения прозрачности в его работе и обучении.

window-new
Soft
Hard
Тренды 🔥
«Жизнь в Найт-Сити продолжается»: CD Projekt Red и студия Trigger официально анонсировали Cyberpunk: Edgerunners 2 40 мин.
Еврокомиссия подтвердила: правила по ИИ вступят в силу без отсрочки 8 ч.
Microsoft закрыла офис в Пакистане после 25 лет работы 8 ч.
ChatGPT стал инструментом для фишеров — пользователи получают неправильные ссылки 8 ч.
Новая статья: Two Falls (Nishu Takuatshina) — в поисках взаимопонимания. Рецензия 12 ч.
Продюсер Xbox посоветовал уволенным сотрудникам обратиться к ИИ, чтобы «снять эмоциональную нагрузку» 13 ч.
Загадочный хоррор OD от Кодзимы не попал в число жертв Microsoft — «по крайней мере, пока» 13 ч.
Создатели Helldivers 2 ответили, выйдет ли игра в Game Pass — «однозначно» нет 13 ч.
Google изменит поиск под давлением ЕС: в топе выдачи теперь будут сайты конкурентов 14 ч.
Наследие 3dfx Interactive живёт: энтузиасты открыли дорогу к браузерной эмуляции культовых игр конца 90-х 14 ч.