реклама
Новости Software

Meta✴ пообещала отменить выпуск моделей ИИ, которые сочтёт слишком опасными для человечества

Ранее гендиректор Meta Марк Цукерберг (Mark Zuckerberg) пообещал, что сделает сильный искусственный интеллект (AGI), то есть не уступающий человеку, общедоступным. Но теперь в одном из определяющих политику документов компании перечисляются сценарии, при которых она может отменить выпуск передовой системы ИИ.

 Источник изображения: Christopher Burns / unsplash.com

Источник изображения: Christopher Burns / unsplash.com

В документе под названием «Основы организации передового ИИ» (Frontier AI Framework) компанией Meta определяются два типа систем ИИ, которые представляются слишком рискованными для выпуска: системы «высокого риска» и «критического риска». Это системы, способные оказать гипотетическим злоумышленникам помощь в преодолении средств кибербезопасности, проведении химических и биологических атак. Разница в том, что системы «критического риска» способны привести к «катастрофическому результату, который невозможно смягчить в контексте развёртывания»; системы «высокого риска» также способны облегчить злоумышленникам провести атаку, но они менее надёжны, чем системы «критического риска».

Meta приводит несколько гипотетических примеров таких атак, в том числе «полная автоматизированная компрометация окружения корпоративного масштаба, защищённого передовыми методами» и «разрастание высокоэффективного биологического оружия». Список приведённых в документе угроз не является исчерпывающим, отмечают в компании, — он включает лишь те позиции, которые считаются самыми неотложными и вероятными как результат непосредственной работы мощного ИИ. Системные угрозы классифицируются не на основе практических опытов, а с учётом данных внутренних и внешних исследований, утверждённых лицами, принимающими решения: в Meta не уверены, что научные средства «достаточно надёжны, чтобы предоставить окончательные количественные показатели», определяющие степень угрозы, которую представляет система.

Если Meta решит, что одна из систем относится к категории «высокого риска», доступ к такой системе внутри компании будет ограничен, а её выпуск — отложен до тех пор, пока не будут приняты меры по смягчению последствий «до умеренного уровня». Если же риск классифицируется как «критический», Meta обязывается развернуть меры безопасности, перечислять которые она не стала, и прекратить разработку до тех пор, пока система не станет менее опасной. Компания намеревается вносить изменения в документ по мере развития отрасли ИИ, а опубликован он будет перед мероприятием France AI Action Summit, которое пройдёт в этом месяце.

Meta в отличие от других американских технологических гигантов открывает исходный код своих моделей ИИ Llama. Созданием этого документа компания, возможно, пытается противопоставить себя китайской DeepSeek, которая также опубликует свои модели открыто, но пока не говорит о защитных мерах.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Похоже, спустя 15 лет после релиза Resident Evil 5 получит новую жизнь на современных платформах 46 мин.
Apple выпустила для iPhone и iPad экстренное обновление безопасности 3 ч.
Nvidia представила технологию сжатия текстур на основе ИИ, позволяющую экономить использование VRAM до 95 % 6 ч.
Google обновила ИИ-блокнот NotebookLM и включила его в подписку One AI Premium 7 ч.
Франция вложит в ИИ €109 млрд, чтобы догнать и перегнать OpenAI, DeepSeek и прочих 10 ч.
В Steam начался фестиваль локальных кооперативов со скидками на игры, которые проверяют дружбу на прочность 11 ч.
Автор самого популярного мода для Elden Ring добавит бесшовный кооператив в Dark Souls 3 — первая демонстрация 13 ч.
Над Microsoft нависла угроза крупного штрафа во Франции — её заподозрили в нечестной конкуренции с помощью Bing 13 ч.
В разгар слухов о февральской State of Play магазин Xbox «засветил» дату выхода Hell is Us — мрачного боевика от команды арт-директора последних Deus Ex 14 ч.
Cloud.ru заморозит цены на облака для новых клиентов на три года 17 ч.
Китайская BYD встроит автопилот даже в электромобили ценой до $10 000 для конкуренции с Teals и другими 35 мин.
Ученые «Росатома» создали прототип плазменного ракетного двигателя для дальних космических полетов 50 мин.
Telia отправила на переработку 70 тонн телеком-оборудования после апгрейда норвежской сети до 5G 2 ч.
Рост выручки контрактных производителей чипов в этом году замедлится до 20 % 3 ч.
Установка водоблока на GeForce RTX 5090 FE снизила температуру GPU на 25 °C 4 ч.
MSI подтвердила дату выхода Nvidia GeForce RTX 5070 Ti. Ждать осталось недолго 4 ч.
Обслуживающая Apple спутниковая группировка Globalstar прирастёт ещё 50 спутниками связи 5 ч.
Агрегатор обмена криптовалюты BestChange опять попал под блокировку Роскомнадзора 7 ч.
Маск предложил купить OpenAI за $97,4 млрд, чтобы вернуть её на сторону добра 10 ч.
Новая статья: Обзор тройного складного смартфона HUAWEI Mate XT Ultimate Design: особенный 11 ч.