реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
OpenAI не выполнила обещание по созданию инструмента для защиты авторских прав к 2025 году 3 ч.
Epic Games Store начал 2025 год с раздачи Kingdom Come: Deliverance — она продлится всего сутки 12 ч.
Black Myth: Wukong стала лучшей игрой года по версии пользователей Steam — итоги The 2024 Steam Awards 31-12 21:58
Ставки как никогда высоки: создатель BioShock объяснил, почему Judas создаётся так долго 31-12 19:16
Забастовка Гильдии актёров США помешала разработке новых игр Кодзимы — хоррора OD и шпионского боевика Physint 31-12 17:52
Хакеры открыли охоту на пользователей Path of Exile 2 — взламывают аккаунты и похищают ценные предметы 31-12 14:47
Регулятор Великобритании проверит сделку IBM по покупке HashiCorp за $6,4 млрд 31-12 14:20
Национальный координационный центр по компьютерным инцидентам ФСБ и Positive Technologies перезаключили соглашение о сотрудничестве 31-12 14:05
NVIDIA закрыла сделку по покупке Run:ai: исходный код ПО стартапа будет открыт 31-12 14:02
Журналисты назвали игры 2024 года с худшей оптимизацией на ПК — в список попала S.T.A.L.K.E.R. 2: Heart of Chornobyl 31-12 13:18
Новая статья: Итоги 2024 года: программное обеспечение и веб-индустрия 7 ч.
Канада сможет заменить Китай в поставках редкоземельных элементов, если избавится от бюрократии 9 ч.
В Австралии изобрели 3D-перфокарту — она позволяет хранить в четыре раза больше данных 9 ч.
В прошлом году Xiaomi выпустила 135 000 электромобилей, а в этом надеется выпустить 300 000 14 ч.
Авиаперевозчик ANA объявил дату запуска маршрутов летающих такси в Японии — цены не будут заоблачными 15 ч.
Китайская ByteDance в этом году рассчитывает купить ускорителей Nvidia на сумму $7 млрд 20 ч.
Наступивший год таит много вызовов для Samsung, а чёткой стратегии их преодоления у компании нет 21 ч.
По слухам, в 2025 году цены TSMC на передовые техпроцессы вырастут на 5–10 % 22 ч.
Nvidia выпустит платформу для человекоподобных роботов Jetson Thor в первой половине 2025 года 22 ч.
Фото бюджетных процессоров Core Ultra 200 c уменьшенным IHS замечены на Taobao 23 ч.
Включить темный режим