Компания OpenAI заплатит пользователям ИИ-чат-бота ChatGPT до $20 000 за обнаружение багов и уязвимостей в системе. В своём блоге компания сообщила, что запускает программу поиска уязвимостей в её ИИ-продуктах. Для более эффективного взаимодействия по вопросам обнаружения уязвимостей OpenAI заключила соглашение с платформой Bugcrowd Inc, которая будет собирать обращения участников программы.
Источник изображения: Tumisu / pixabay.com
OpenAI готова заплатить от $200 за обнаружение уязвимостей «с низким уровнем серьёзности» и до $20 тыс. «за исключительные находки». По словам компании, она решила запустить указанную программу, потому что считает, что «прозрачность и сотрудничество [с пользователями]» являются ключом к обнаружению проблем, которые могут иметься у данной технологии.
«Эта инициатива является естественной частью нашей общей идеи разработки безопасного и продвинутого ИИ. Мы хотим создавать безопасные и надёжные технологии и сервисы, поэтому хотели бы обратиться к вам за помощью», — сообщается в блоге компании.
На платформе Bugcrowd в теме программы по поиску уязвимостей OpenAI указывается ряд проблем безопасности, за которые не будет начисляться вознаграждение. В частности, к таковым относятся запросы для ChatGPT, связанные с выманиванием у бота запрещённой информации путём обмана, написанием вредоносного кода или запросы, при которых пользователь заставляет чат-бота писать оскорбления.