реклама
Новости Software

Руководители OpenAI обещают развивать ИИ ответственно, хотя специалисты в этой сфере уволились

После недавней и неожиданной отставки двух ключевых фигур из отдела ИИ-безопасности OpenAI, руководители компании вынуждены были занять оборонительную позицию, так как к ним появилось много вопросов со стороны общественности в отношении стратегии рисков при разработке искусственного интеллекта.

 Источник изображения: Copilot

Источник изображения: Copilot

Ушедшие руководители — главный научный сотрудник Илья Суцкевер (Ilya Sutskever) и его коллега Ян Лейке (Jan Leike) — были частью суперкоманды OpenAI, отвечающей за разработку ИИ, совместимого с интересами человечества. Их уход, предположительно, был вызван разногласиями с руководством компании по поводу обеспечения глобального приоритета безопасности, чтобы «ИИ не разрушил мир».

Лейке прямо заявил, что давно не согласен с руководством в этих вопросах и что ситуация достигла критической точки. А Суцкевер даже пытался сместить гендиректора Сэма Альтмана (Sam Altman) с поста в прошлом году, хотя позднее выразил сожаление в своих действиях.

После их ухода общественность забила тревогу по поводу приоритетов OpenAI в плане безопасности. В ответ Альтман и президент Грег Брокман (Greg Brockman) опубликовали подробные заявления, объясняющие подход компании.

Они подчеркнули, что OpenAI уже внесла большой вклад в обеспечение безопасного развития ИИ, в частности, призывали к международному регулированию еще до того, как это стало мейнстримом. Альтман также предлагал создать международное агентство для обеспечения разумного тестирования систем ИИ.

Брокман заверил, что OpenAI тщательно анализирует риски на каждом этапе разработки и не планирует публиковать новые системы, пока компания не будет уверена в их безопасности, даже если это задержит выпуск.

Однако ушедшие руководители отдела ИИ-безопасности, похоже, обеспокоены тем, что текущий подход не обеспечивает достаточной защиты. По словам Лейке, эти проблемы очень сложно решать, и он обеспокоен, что компания не движется в правильном направлении в этом вопросе.

Несмотря на заверения руководства, уход ключевых специалистов ставит под сомнение заявления OpenAI о глобальной безопасности ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...
window-new
Soft
Hard
Тренды 🔥
В пятницу Иран запустит национальную криптовалюту — цифровой риал 5 ч.
EA Sports FC 24 к главным матчам Евро-2024 и Still Wakes the Deep с подвохом: Microsoft раскрыла вторую волну июньских новинок в Game Pass 7 ч.
«Switch наконец может умереть»: спустя семь лет после анонса Metroid Prime 4 получила первый геймплейный трейлер 8 ч.
«Сенсация размером с сиквел»: критики остались в восторге от аддона Shadow of the Erdtree для Elden Ring 10 ч.
Microsoft уверена, что будущее Японии — за ИИ 10 ч.
У Apple «очень серьёзные» проблемы из-за закона DMA, подтвердила еврокомиссар по вопросам конкуренции 12 ч.
Meta анонсировала запуск API для соцсети Threads — для «уникальных интеграций» 12 ч.
Квартальные убытки ИБ-стартапа Rubrik выросли в восемь раз 14 ч.
Microsoft получает в Китае лишь 1,5 % всей выручки, но считает важным сохранить бизнес в этой стране 14 ч.
Microsoft выпустила Windows 11 24H2, но сейчас она почти никому недоступна 15 ч.
Новая статья: Обзор смартфона Google Pixel 8a: самый умный в классе 5 ч.
Обещанного три года ждут: разработка и внедрение новых стандартов PCI Express не ускорятся, но PCI-SIG не видит в этом проблемы 6 ч.
Fujifilm анонсировала широкоформатную камеру мгновенной печати Instax Wide 400 7 ч.
Сегодня начались продажи ноутбуков Copilot Plus PC на Windows и Qualcomm Snapdragon X 7 ч.
CMF by Nothing представит первый смартфон 8 июля — вместе со смарт-часами Watch Pro 2 и беспроводные наушники Buds Pro 2 9 ч.
Microsoft инвестирует ещё €6,69 млрд в свои испанские дата-центры 10 ч.
Sinonus готовит структурные аккумуляторы из углеволокна — электрический транспорт станет легче, но не скоро 11 ч.
OneOdio выпустила беспроводные наушники SuperEQ V16, SuperEQ S10 и Fusion A70 с высоким качеством звука 11 ч.
Microsoft свернула проект подводного дата-центра Natick, хотя он доказал свою надёжность 11 ч.
Проект Martoc разработает глубоководный подводный дрон для инспекции интернет-кабелей 11 ч.