реклама
Новости Software

Microsoft, OpenAI и другие обязались защитить человечество от мощных ИИ-систем

Крупнейшие технологические компании, включая Microsoft, Amazon и OpenAI, во вторник в ходе саммита AI Seoul Summit 2024 заключили международное соглашение о безопасности искусственного интеллекта, взяв на себя добровольное обязательство по обеспечению безопасной разработки своих самых передовых моделей ИИ.

 Источник изображения: GDJ/Pixabay

Источник изображения: GDJ/Pixabay

В рамках соглашения компании опубликуют концепции безопасности для своих передовых моделей, предусматривающие, в том числе, предотвращение использования технологии злоумышленниками.

Эти концепции будут включать «красные линии» для технологических компаний, определяющие риски, связанные с использованием систем ИИ, которые будут считаться «недопустимыми». В их числе автоматизированные кибератаки и угроза создания биологического оружия. Для реагирования на возникновение таких рисков компании планируют внедрить «аварийный выключатель», с помощью которого будет прекращена разработка ИИ-моделей, если нельзя будет гарантировать снижение этих рисков.

Согласованный на саммите пакт расширяет перечень обязательств разработчиков ИИ, принятый в ноябре прошлого года, и применяется только к так называемым пограничным моделям. Этот термин относится к технологии, используемой в системах генеративного ИИ, таких как семейство больших языковых моделей OpenAI GPT, лежащих в основе чат-бота ChatGPT.

С тех пор как OpenAI представила ChatGPT в ноябре 2022 года, регулирующие органы разных стран и технологические лидеры всё больше выражают беспокойство по поводу рисков, связанных с использованием инновационных систем ИИ. В связи с этим в марте 2024 года Европарламент одобрил первый в мире закон, которым регулируются использование и разработка ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...
window-new
Soft
Hard
Тренды 🔥
Дата-центры для ИИ обещают принести немало выгоды: лидером роста в глобальном REIT-индексе Bloomberg стала австралийская Goodman Group 2 ч.
Asetek растеряла клиентов на СЖО и предупреждает о грядущем падении выручки 5 ч.
Холодный приём: новый национальный суперкомпьютер Норвегии разместят в руднике и охладят водой из фьорда 7 ч.
В Катманду запущен новый Tier III ЦОД 8 ч.
QNAP готовит NAS TS-432X и TS-632X с процессором Arm и поддержкой 10GbE 9 ч.
Cooler Master выпустила 850-ваттный БП с пассивным охлаждением — в нагрузку к нему дают 27" монитор 10 ч.
Asus представила пару доступных оверклокерских плат серии Z790-AYW WIFI 10 ч.
Импортозамещение в Китае подстегнуло спрос на память производства YMTC 16 ч.
Власти Шанхая разрешили Tesla тестировать на улицах города полный автопилот 16 ч.
В ЦЕРНе научились имитировать джеты сверхмассивных чёрных дыр — получились как настоящие 15-06 21:29