реклама
Новости Software

Google обвинила в странных ответах поискового ИИ самих пользователей и недостаток обучающих данных

На минувшей неделе Google добавила в поисковую систему блок сводок, которые готовит генеративный ИИ. Компания стремилась повысить качество работы поисковой системы, но ИИ начал давать пользователям странные ответы, например, советовал есть камни и клеить сыр к пицце. Компания быстро удалила наиболее скандальные результаты, но они уже успели уйти в мемы. Теперь с комментариями выступила глава поискового подразделения компании.

 Источник изображения: Kai Wenzel / unsplash.com

Источник изображения: Kai Wenzel / unsplash.com

Глава отдела поиска Google Лиз Рид (Liz Reid) обвинила в неточных результатах ответов поискового генеративного ИИ «пустоты данных» и самих пользователей, которые придумывали странные вопросы. По её мнению, блоки с обзорами, которые создаёт генеративный ИИ, дают пользователям «большее удовлетворение» работой поисковой службы. Генерируемые ИИ ответы, как правило, не являются галлюцинациями — просто система иногда неверно интерпретирует то, что есть в Сети.

«Нет лучшего аргумента, чем миллионы людей, использующих эту функцию со множеством новых запросов. Мы также отметили новые бессмысленные запросы, по-видимому, направленные на получение ошибочных результатов», — сообщила Рид. Компания, однако, продолжает работать над функцией, ограничивая появление ИИ-обзоров в выдаче по «бессмысленным» запросам и при работе с сатирическими материалами. Это важно, потому что первоначально система могла процитировать сатирический ресурс или сослаться на пользователя соцсети с неприличным ником.

Рид также сравнила ИИ-обзоры с поисковой функцией «Выделенные описания» — это блоки с фрагментами текста релевантных веб-страниц, которые приводятся без участия генеративного ИИ. По словам топ-менеджера, «уровни точности» двух функций примерно совпадают.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Xiaomi представила внешний аккумулятор Power Bank 25000 с выходной мощностью до 212 Вт 2 ч.
В Швейцарии придумали роборуку, которая может отсоединяться от манипулятора и самостоятельно ползать 2 ч.
Мировой облачный рынок стремительно растёт: затраты в сегменте ЦОД за полгода подскочили почти на треть 4 ч.
В Ирландии построят первое в Европе хранилище энергии на батареях с обратимой коррозией металла 4 ч.
В Китае впервые представили лунный скафандр — мощный и элегантный 7 ч.
Apple не будет инвестировать в OpenAI 11 ч.
Регуляторы рекомендуют китайским разработчикам отказываться от ускорителей Nvidia в пользу китайских аналогов 11 ч.
В России протестировали технологию мысленного управления «Газелью» — через нейроинтерфейс и акселерометр 17 ч.
Периферия от гения: Higround выпустила спецсерию клавиатур Basecamp 65, к которым приложил руку Хидео Кодзима 19 ч.
Учёные поняли, почему котики бьются током — раскрыта тайна статического электричества 19 ч.