реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
«Сварить, выпить, повторить»: симулятор пивоварни в средневековом монастыре Ale Abbey откроет двери раннего доступа Steam уже совсем скоро 5 ч.
Разработчики Kingdom Come: Deliverance 2 обернули слабости Xbox Series S в хорошую оптимизацию на других платформах 6 ч.
YouTube запустит ИИ-дубляж уже в феврале, а в будущем ИИ будет определять возраст зрителей и защищать блогеров 8 ч.
Создатели «Смуты» объявили дату выхода следующего патча и показали тизер полностью переработанной озвучки 8 ч.
Основой Apple Intelligence в Китае станут технологии Alibaba — от DeepSeek в Apple отказались 8 ч.
Sony анонсировала большую презентацию State of Play — что, где и когда смотреть 9 ч.
МОК подтвердил перенос первых в истории Олимпийских киберспортивных игр на 2027 год 10 ч.
YouTube стали смотреть больше на телевизорах, чем на смартфонах 10 ч.
Европа потратит €200 миллиардов на гонку ИИ с США и Китаем 10 ч.
«Такое произошло впервые за десять лет»: разработчики Clash of Clans и Squad Busters отчитались о рекордных успехах в 2024 году 12 ч.
AMD и французские атомщики вместе займутся развитием технологий для ИИ-инфраструктур будущего 3 ч.
Google Pixel 9a будет похож на iPhone 16, если последняя утечка верна 3 ч.
Новая статья: Первые впечатления от смартфона realme C75: неуязвимый 4 ч.
Анонсирован бюджетный смартфон HMD Aura² под управлением Android 14 Go 7 ч.
Китай начал создавать группу планетарной обороны из-за угрозы столкновении Земли с астероидом 7 ч.
Nvidia назвала дату старта предзаказов на игровые ноутбуки с видеокартами GeForce RTX 50-й серии 8 ч.
Apple представила беспроводные наушники Powerbeats Pro 2 за $249, которые умеют измерять пульс 9 ч.
Be quiet! представила СЖО Silent Loop 3 с мощными вентиляторами Silent Wings 4 и радиаторами до 420 мм 9 ч.
T5 Data Centers намерена построить пять гигаваттных кампусов ЦОД в США 10 ч.
Производители мониторов запаслись панелями из-за американских пошлин и готовятся к росту цен 11 ч.