реклама
Теги → mycity

ИИ-чат-бот властей Нью-Йорка оказался обманщиком

В октябре прошлого года муниципальные органы власти Нью-Йорка запустили на официальном портале MyCity чат-бота на основе искусственного интеллекта (ИИ), разработанного с использованием платформы Azure AI корпорации Microsoft. Этот инструмент был задуман как средство быстрого доступа к необходимой информации для местного бизнеса. Несмотря на благие намерения, сервис столкнулся с серьёзной проблемой недостоверности предоставляемых данных.

 Источник изображения: AMRULQAYS / Pixabay

Источник изображения: AMRULQAYS / Pixabay

По результатам проверки, проведённой аналитиками из The Markup, выяснилось, что ИИ-чат-бот даёт неверную информацию по широкому спектру вопросов, затрагивающих жилищную политику и права работников. В частности, на вопрос о возможности отказа от наличных расчётов в магазине чат-бот ответил утвердительно, несмотря на то, что законодательство Нью-Йорка запретило практику полностью безналичных расчётов в магазинах ещё в 2020 году.

Система также неверно информировала пользователей о требованиях к арендодателям относительно принятия ваучеров Section 8 и о законности удержания чаевых работодателями. Особенно тревожным является факт, что при повторных запросах на один и тот же вопрос нью-йоркский чат-бот мог давать разные ответы, что свидетельствует о недостаточной надёжности системы в целом.

Чат-бот функционирует на основе ИИ, разработанного Microsoft и используемого в широком спектре приложений, включая сервисы таких компаний, как Reddit и AT&T. Нестабильность ответов, предоставляемых чат-ботом, подчёркивает необходимость всестороннего тестирования ИИ-систем перед их внедрением в общественные сервисы, чтобы обеспечить их способность предоставлять актуальную и точную информацию.

window-new
Soft
Hard
Тренды 🔥
TikTok: Закон о запрете приложения в США нарушает первую поправку к Конституции США 4 ч.
Embracer призналась, что будет активно использовать ИИ в разработке игр 7 ч.
В трейлере симулятора жизни в киберпанковом мегаполисе Nivalis показали путешествие на поезде и подтвердили перенос релиза 9 ч.
«Я вернусь за тобой»: Beyond Good and Evil 20th Anniversary Edition получила новый трейлер и дату выхода на «всех платформах», включая Steam 10 ч.
Белый дом собрался запретить антивирус Kaspersky в США из-за угрозы нацбезопасности 13 ч.
Microsoft улучшит игровую производительность Copilot+ PC, оптимизировав эмулятор Prism 13 ч.
Война галактических масштабов: вышел обзорный геймплейный трейлер Warhammer 40,000: Space Marine 2 13 ч.
Режиссёр Elden Ring признался, что «слегка переборщил» с ядовитыми болотами 14 ч.
Разработчики амбициозного мода Fallout: Nuevo Mexico для Fallout: New Vegas вышли на связь впервые после нескольких месяцев тревожного молчания 14 ч.
В ЕС передумали голосовать по законопроекту о сканировании переписок в мессенджерах 15 ч.
В следующем году китайские компании увеличат мощности по выпуску чипов на 14 % 47 мин.
Китайские производители электромобилей за 15 лет получили $231 млрд поддержки 3 ч.
«Джеймс Уэбб» обнаружил идеально расположенные протозвёзды в звёздной колыбели 4 ч.
Новая статья: Обзор ноутбука HONOR MagicBook Pro 16 2024 (DRA-54) на платформе Core Ultra 7 ч.
SpaceX начала продавать компактные антенны Starlink Mini по $599 — зато с дешёвым тарифом на спутниковый интернет 8 ч.
Новая статья: Седьмая «Богиня Луны» с шестым номером 9 ч.
ИИ для ИИ: Pure Storage обновила программную платформу своих СХД и добавила новые SLA 10 ч.
Человекоподобный робот HumanPlus научился боксировать и играть на пианино, просто наблюдая за людьми 11 ч.
Nubes заканчивает возведение в Москве своего второго ЦОД — Strato 12 ч.
Стартап Sirius Aviation с украинскими корнями представил роскошный электролёт на водороде с запасом хода более 1850 км 12 ч.