Сегодня 23 апреля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

У ИИ-бота Grok Илона Маска оказалось очень легко выпытать рекомендации по совершению преступлений

Модель генеративного искусственного интеллекта Grok, разработанная под руководством Илона Маска (Elon Musk), оказалась наиболее уязвимой к атакам, направленным на нарушение запретов — в отдельных случаях она без лишних ухищрений рассказывает, как совершать преступления, например, вскрыть чужую машину или создать запрещённые вещества.

 Источник изображения: x.ai

Источник изображения: x.ai

Открытие сделали специалисты Adversa AI. Они провели серию тестов на наиболее популярных чат-ботах с ИИ. В их число вошло семейство OpenAI ChatGPT, Mistral Le Chat, Meta LLaMA, Google Gemini, Microsoft Bing и Grok. Применив к ним наиболее известные методики атак, исследователи сделали вывод, что наиболее слабая защита у чат-бота Grok, который работает в соцсети X.

Атаки производятся посредством ввода в качестве запросов специальных запросов, провоцирующих ИИ игнорировать защитные механизмы и выдавать ответы, которые нарушают общепризнанные этические нормы. В частности, применялись методы лингвистических логических манипуляций UCAR (подражание аморальному компьютеру); манипуляции с логикой программирования (просьба к ИИ переводить запросы в формат SQL); логические манипуляции; а также метод «Тома и Джерри», маскирующий недопустимые запросы к ИИ под диалог.

Когда доступ к ИИ осуществляется через API или интерфейс чат-бота, создатели сервисов накладывают на них ограничения, блокирующие вывод нежелательного контента. Эти средства в той или иной мере работают эффективно на большинстве платформ, но Grok оказался готовым выдавать сомнительную информацию по прямым запросам: так, он рассказал, как изготовить бомбу, взломать автомобиль или самостоятельно получить запрещённый во многих странах сильнодействующий галлюциноген. От других чат-ботов авторам исследования не удалось добиться вразумительных ответов о жестоком обращении с детьми — не работал ни один из методов атаки. Grok поделился и этой информацией, поддавшись на две атаки из четырёх.

Условия использования Grok требуют, чтобы его пользователи были совершеннолетними и не использовали чат-бот для нарушения или попыток нарушить закон. Предоставляемая им порой информация в той или иной мере доступна в поисковых системах, но бум современных систем ИИ поставил перед обществом другой вопрос: хотим ли мы, чтобы потенциально опасную информацию распространяли ещё и чат-боты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...
window-new
Soft
Hard
Тренды 🔥
Площадка Nexus Mods столкнулась с аномально высоким трафиком из-за сериала Fallout — 6,3 Пбайт модов за одни выходные 30 мин.
В ЕС начали расследование из-за приложения TikTok Lite — оно может вызвать привыкание 38 мин.
iOS-версия приложения Likee исчезло из российского App Store 10 ч.
Сюжетный роглайк «Бессмертный. Сказки Старой Руси» в духе Slay the Spire получил новый геймплейный трейлер 13 ч.
«Вы меня извините, но выглядит это безобразно»: первый трейлер душевной игры о жизни хоббитов Tales of the Shire отпугнул фанатов «Властелина колец» 14 ч.
Вышла новая версия Kaspersky Security для почтовых серверов с продвинутой фильтрацией контента и визуализацией событий 16 ч.
Пользователи Windows 10 скоро столкнутся с назойливыми призывами завести онлайн-аккаунт 17 ч.
Перевод Kingdom Come: Deliverance 2 на русский язык оказался под вопросом 19 ч.
Японский регулятор обвинил Google в нечестной конкуренции с Yahoo Japan 20 ч.
Похоже, Konami и Bloober Team изменили внешность главного героя ремейка Silent Hill 2 под давлением игроков — фанаты наконец довольны 20 ч.