реклама
Теги → диагностика

У медицинского ИИ обнаружилась склонность к дискриминации женщин и расизму

Первые попытки поставить искусственный интеллект на службу медицине много лет назад предпринимались ещё компанией IBM с её системой Watson, но по мере развития отрасли эта область применения компьютерных технологий стала всё более обширной. Учёные утверждают, что существующий подход к обучению больших языковых моделей в медицине делает диагностику менее качественной для представителей женского пола и определённых рас.

 Источник изображения: Nvidia

Источник изображения: Nvidia

Издание Financial Times обобщило высказывания экспертов в смежных областях, пытаясь объяснить, почему существующие языковые модели склонны давать более качественные рекомендации в области здравоохранения представителям мужского пола белой расы. По сути, исторически именно на нужды этой категории пациентов работала вся сфера медицинских исследований, поэтому именно для этой выборки сформировано максимальное количество медицинских данных, на которых и обучались современные большие языковые модели. Более того, та же OpenAI призналась, что в ряде медицинских инициатив использовала менее совершенные языковые модели, чем существующие сейчас — просто по той причине, что на момент реализации проектов других не было. Сейчас специалистам стартапа во взаимодействии с медиками приходится вносить соответствующие коррективы в работу профильных систем.

В ряде случаев большие языковые модели дают не самые чёткие и правильные медицинские рекомендации по причине использования слишком широкого спектра источников данных для своего обучения. В принципе, если в эту выборку попадали даже советы непрофессионалов на страницах Reddit, то качество подобных рекомендаций с точки зрения профессиональных медиков уже можно поставить под сомнение. Специалисты предлагают формировать материал для обучения медицинских систем более ответственно, а также использовать более локализованные данные в пределах одной страны или даже местности. Это позволит лучше учитывать локальную специфику с точки зрения здравоохранения.

Отдельной проблемой для клиентов больших языковых моделей, пытающихся с их помощью получить советы в области здравоохранения, является низкий приоритет при обработке неграмотно или сумбурно составленных запросов. Если в них содержатся грамматические или орфографические ошибки, система с меньшей вероятностью выдаст корректные рекомендации по сравнению с тем запросом, который с этой точки зрения был составлен безупречно. Нередко системы настроены так, что просто рекомендуют обратиться автору запроса к врачу, если качество самого запроса не соответствует определённым критериям.

Защита персональных данных и врачебной тайны также является серьёзной проблемой при обучении больших языковых моделей, и в этой сфере уже возникают прецеденты судебных претензий. Склонность языковых моделей к так называемым «галлюцинациям» в случае с обработкой медицинской информации представляет реальную опасность для здоровья и жизни людей. В любом случае, эксперты сходятся во мнении, что применение ИИ в сфере здравоохранения несёт больше пользы, чем вреда, просто здесь нужно правильно расставить приоритеты в развитии. Например, нужно направлять ресурсы ИИ на решение проблем в медицине, которым традиционно уделялось меньше внимания, а не пытаться просто ускорить определение диагноза по сравнению с живыми медиками на какие-то минуты или секунды, поскольку в этом нет особого смысла.

Смартфоны Google Pixel научились скрывать пользовательские фото и данные от работников сервисных центров

Google представила так называемый «режим ремонта» для смартфонов Pixel, который обеспечивает конфиденциальность личных данных владельца устройства в то время, как устройство будет находиться на ремонте в мастерской. Для использования этого режима необходима ОС Android 14 и минимум 2 Гбайт свободного места.

 Источник изображения: Google

Источник изображения: Google

Согласно информации на странице поддержки Google Pixel, режим ремонта создаёт чистую версию ОС Android в отдельном разделе, что гарантирует, что личные данные владельца устройства останутся в безопасности. В режиме ремонта отключается доступ к приложениям Google «Play Маркет», «Сообщения», «Текст в речь», «Поиск» и другим Android-приложениям, однако становятся доступны специализированные приложения для технического обслуживания.

Кайл Винс (Kyle Wiens), глава iFixit, высоко оценил эту инициативу, подчеркнув, что большинство техников заслуживают доверия, но передача своего смартфона в руки незнакомого человека всегда вызывает беспокойство. Новый режим ремонта Google Pixel устраняет эти опасения и может быть использован как при личном посещении сервисного центра, так и при отправке устройства по почте. Все изменения, сделанные на смартфоне в режиме ремонта, за исключением системных обновлений, отменяются после его отключения.

Google предупреждает, что режим ремонта не гарантирует сохранность всех данных на устройстве в случае необходимости полного сброса устройства техником. Владельцам Pixel рекомендуется создать полную резервную копию данных перед отправкой устройства в ремонт. Доступ к режиму ремонта можно найти в разделе «Система» в настройках совместимых моделей Pixel. Для использования этой функции необходимо обновление до Android 14, выпущенное в декабре 2023 года или позже, а также наличие как минимум 2 Гбайтов свободного места на устройстве.

Помимо режима ремонта, Google также анонсировала нововведения для самостоятельного ремонта смартфона. Одно из них — запуск диагностического приложения Pixel с помощью телефонной клавиатуры. Для этого нужно открыть приложение «Телефон» и набрать специальную комбинацию ##7287##, после чего следовать инструкциям на экране. Кроме этого, Google обновила свои руководства по ремонту, сделав их более доступными для сторонних профессиональных техников и любителей самостоятельного ремонта (Do it yourself или DIY).

Google не первая технологическая компания, предложившая режим ремонта в своих смартфонах. Ранее Samsung ввёл похожий режим обслуживания в устройствах Galaxy с выходом One UI 5 в октябре 2022 года. Тем не менее, для Google это значительный шаг в защите конфиденциальности пользователей смартфонов Pixel. Такие инновации уменьшают риск несанкционированного доступа к личным данным в процессе ремонта, предоставляя владельцам больше контроля над своими устройствами.

Google выпустила простой инструмент самодиагностики смартфонов Pixel

Google представила новый инструмент для диагностики проблем своих смартфонов Pixel. Это нововведение позволяет пользователям самостоятельно диагностировать состояние своих устройств, используя специальную комбинацию ##7287## на клавиатуре звонка. Таким образом, они могут провести всестороннюю проверку функциональности своих смартфонов как до, так и после ремонта.

 Источник изображений: Google

Источник изображений: Google

Данный инструмент включает в себя широкий спектр диагностических средств. Он позволяет выполнить как полную диагностику всего устройства, так и провести отдельные тесты для выявления физических повреждений или проблем, связанных с экраном, датчиками и подключением смартфона. Эта функция доступна на всех моделях Pixel, однако поддерживает только английский язык.

В дополнение к диагностическому приложению Google обновила руководства по ремонту, разработанные таким образом, чтобы их было легче использовать как профессиональным техникам, так и любителям самостоятельного ремонта (Do it yourself или DIY). Эти руководства, пока доступные только на английском и французском языках, можно скачать с официального сайта Google. Однако на текущий момент они предоставлены только для моделей Google Pixel Fold, Google Pixel 8 и Google Pixel 8 Pro. Компания планирует расширить перечень руководств по ремонту для предыдущих и будущих моделей смартфонов Pixel уже в ближайшие месяцы.

В начале этого месяца Google также представила «Режим ремонта» для смартфонов Pixel. Эта функция предназначена для защиты личной информации пользователей, когда их устройство находится у техника. Она похожа на функцию «Режим ремонта», которую Samsung внедрила в свои устройства ещё в 2021 году. Это нововведение позволяет пользователям сохранять конфиденциальность своих данных в процессе технического обслуживания смартфона.

В рамках текущего тренда на самостоятельный ремонт и устранение неполадок Google, наряду с другими крупными технологическими компаниями, демонстрирует более открытый подход к DIY-ремонту и независимым сервисным центрам. Подобно Samsung, Google предлагает запчасти для ремонта различных устройств через iFixit, в то время как Apple продолжает расширять свою программу самостоятельного ремонта, начатую в прошлом году. Apple также недавно представила свой собственный инструмент для онлайн-диагностики.

Эти шаги со стороны крупных технологических компаний не только открывают новые возможности для пользователей, но и укрепляют доверие и лояльность потребителей, а также стимулируют более ответственное и осознанное отношение к использованию и обслуживанию современных технологических устройств.

window-new
Soft
Hard
Тренды 🔥
Warhammer 40,000: Dark Heresy готовится к «альфе», а Rogue Trader скоро выйдет на Nintendo Switch 2 31 мин.
Дом с призраками, зубодробительные головоломки и могущественный маятник в геймплейном трейлере хоррора The Occultist 58 мин.
Межпространственный шутер на выживание Voidtrain готов вырваться из измерения раннего доступа — дата выхода и новый трейлер 2 ч.
«Наконец-то кто-то не просто скопировал Tarkov»: поклонники жанра с воодушевлением встретили анонс эвакуационного хоррор-шутера Rules of Engagement: The Grey State 3 ч.
«Вы балуете нас, милорд»: ремастер Stronghold Crusader получил крупное контентное обновление и первое дополнение 3 ч.
Warface вернулась в российский Steam спустя два года, но есть нюанс 4 ч.
Microsoft показала иконки, которые могли бы получить Word, Excel и PowerPoint — но не получили 5 ч.
Google предложила изменить поисковую выдачу, чтобы отвертеться от огромного штрафа в Европе 5 ч.
Witchbrook нужно «ещё немного времени повариться в котле» — амбициозный симулятор школы магии не выйдет в 2025 году 5 ч.
«Огромное влияние в огромных масштабах»: Илон Маск рассказал о Macrohard — будущем конкуренте Microsoft 7 ч.
Honor представила самый мощный Android-планшет — 13,3-дюймовый MagicPad 3 Pro на Snapdragon 8 Elite Gen 5 52 мин.
Honor показала концепт Robot Phone — смартфон с «живой» камерой на механической руке 2 ч.
Дроны вдохнули водород и удвоили время полёта — в США испытали беспилотник на топливных ячейках 3 ч.
Apple перестала комплектовать MacBook Pro зарядными устройствами — пока обделили только Европу 3 ч.
BenQ представила 27-дюймовые 4K-мониторы для пользователей Mac и творческих профессионалов 3 ч.
iPhone получил недоделанный Wi-Fi 7 — под новым шильдиком Apple спрятала старый Wi-Fi 6E 3 ч.
Honor представила Magic8 и Magic8 Pro: флагманы с акцентом на ИИ и мощными камерами 4 ч.
SteelSeries выпустила беспроводную гарнитуру Arctis Nova 7 Wireless Gen 2 для геймеров за $200 4 ч.
Домашний смарт-дисплей Apple выйдет в 2026 году и будет стоить от $350, но это не точно 5 ч.
Apple представила обновлённый iPad Pro: процессор M5, фирменные чипы связи и ускоренная зарядка по цене от $999 5 ч.