реклама
Новости Software

Руководители OpenAI обещают развивать ИИ ответственно, хотя специалисты в этой сфере уволились

После недавней и неожиданной отставки двух ключевых фигур из отдела ИИ-безопасности OpenAI, руководители компании вынуждены были занять оборонительную позицию, так как к ним появилось много вопросов со стороны общественности в отношении стратегии рисков при разработке искусственного интеллекта.

 Источник изображения: Copilot

Источник изображения: Copilot

Ушедшие руководители — главный научный сотрудник Илья Суцкевер (Ilya Sutskever) и его коллега Ян Лейке (Jan Leike) — были частью суперкоманды OpenAI, отвечающей за разработку ИИ, совместимого с интересами человечества. Их уход, предположительно, был вызван разногласиями с руководством компании по поводу обеспечения глобального приоритета безопасности, чтобы «ИИ не разрушил мир».

Лейке прямо заявил, что давно не согласен с руководством в этих вопросах и что ситуация достигла критической точки. А Суцкевер даже пытался сместить гендиректора Сэма Альтмана (Sam Altman) с поста в прошлом году, хотя позднее выразил сожаление в своих действиях.

После их ухода общественность забила тревогу по поводу приоритетов OpenAI в плане безопасности. В ответ Альтман и президент Грег Брокман (Greg Brockman) опубликовали подробные заявления, объясняющие подход компании.

Они подчеркнули, что OpenAI уже внесла большой вклад в обеспечение безопасного развития ИИ, в частности, призывали к международному регулированию еще до того, как это стало мейнстримом. Альтман также предлагал создать международное агентство для обеспечения разумного тестирования систем ИИ.

Брокман заверил, что OpenAI тщательно анализирует риски на каждом этапе разработки и не планирует публиковать новые системы, пока компания не будет уверена в их безопасности, даже если это задержит выпуск.

Однако ушедшие руководители отдела ИИ-безопасности, похоже, обеспокоены тем, что текущий подход не обеспечивает достаточной защиты. По словам Лейке, эти проблемы очень сложно решать, и он обеспокоен, что компания не движется в правильном направлении в этом вопросе.

Несмотря на заверения руководства, уход ключевых специалистов ставит под сомнение заявления OpenAI о глобальной безопасности ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Минюст США обвинил TikTok в незаконном сборе информации о взглядах американцев и цензуре контента по указаниям из Пекина 2 ч.
Анонсы от авторов Mortal Kombat 1: сюжетное дополнение Khaos Reigns, подвох с Kombat Pack 2 и возвращение анималити 4 ч.
Криптовалюты вернулись к росту, но Ethereum всё равно подешевел по итогам недели 4 ч.
Теперь в TikTok можно находить песни, просто напевая их 4 ч.
Смартфоны Google Pixel 9 смогут добавлять пользователя на фото, где его изначально не было 5 ч.
Дешёвые сканеры штрихкодов помогли в кратчайшие сроки восстановить пострадавшие от CrowdStrike компьютеры 15 ч.
Новая статья: Flintlock: The Siege of Dawn — хорошие идеи в неудачной обёртке. Рецензия 16 ч.
Анонсирован китайский ролевой детектив Kill the Shadow, напоминающий смесь Disco Elysium и The Last Night 17 ч.
Соцсеть X начала без уведомления использовать данные пользователей для обучения Grok 18 ч.
Mirthwood получила новый трейлер и дату выхода — это ролевой симулятор жизни в фэнтезийном мире, вдохновлённый Fable, Stardew Valley и The Sims 19 ч.
Учёные впервые увидели подноготную гамма-всплеска — распознали его спектральные линии 2 мин.
Возвращение застрявших на МКС астронавтов с Boeing Starliner могут поручить SpaceX 59 мин.
Синий свет от экрана смартфона пагубно влияет на кожу, выяснили учёные 2 ч.
Infinix GT 20 Pro стал официальным смартфоном крупнейшего мирового чемпионата – PUBG Mobile World Cup 2 ч.
Определение планеты скоро снова могут поменять, но Плутон этот статус всё равно не вернёт 3 ч.
Colorful представила оперативную память iGame Jiachen Zhilong DDR5 в стиле китайского года дракона 4 ч.
«Уэбб» нашёл недалеко от Земли ещё один мир с потенциальным подповерхностным океаном — Ариэль, спутник Урана 4 ч.
Аргоннская национальная лаборатория намерена создать СХД ёмкостью 400 Пбайт за $20 млн 5 ч.
InfoWatch представила межсетевые экраны «ARMA Стена» с производительностью до 10 Гбит/с 5 ч.
Первый в истории частный выход в открытый космос отложили на конец августа 5 ч.