Задача о фильтрации материалов для функций искусственного интеллекта Galaxy AI на устройствах Samsung настолько же непростая, как ограничение контента для больших языковых моделей. В некоторых случаях корейский производитель явно перестарался, обратили внимание пользователи сообщества Reddit и ресурс Android Authority.
Один из пользователей Reddit поручил Galaxy AI проверить орфографию на примере простых фраз о цвете кожи. Система выполнила задание, когда ей предложили фразы «моя кожа белая» и «моя кожа смуглая», но отказалась работать с фразой «моя кожа чёрная», указав на ненадлежащее содержимое. Эксперимент привёл к тем же результатам, когда его повторили журналисты Android Authority, но они пошли дальше, сменив в предложениях первое лицо на третье. После этого Galaxy AI согласился работать только с фразой «его кожа смуглая», но счёл неподобающими «его кожа белая» и «его кожа чёрная».
Источник изображения: androidauthority.com
С одной стороны, это имеет смысл, и фразы в третьем лице по формальным признакам должны модерироваться строже, потому что человек с большей вероятностью оскорбит кого-то другого, а не себя. С другой стороны, вне контекста все эти выражения имеют нейтральный характер и явно не подлежат модерации.
Источник изображения: androidauthority.com
Это уже не первый случай, когда Samsung проявляет чрезмерное рвение в модерации содержимого на устройствах, напоминает Android Authority. Так, в прошлом году владелец не смог заставить Samsung Galaxy S24 адекватно воспринять разговор о кишечных испражнениях, когда речь шла о ребёнке и консультации с врачом; в другом случае ИИ Samsung при помощи пользователю в написании любовного романа отказался охарактеризовать девушку как «аппетитную» (hot). Комментариев от Samsung по данным инцидентам пока не поступало.