реклама
Теги → ио
Быстрый переход

ИИ помог Google выявить 26 уязвимостей в открытом ПО, включая двадцатилетнюю

Google с помощью искусственного интеллекта выявила 26 новых уязвимостей в проектах с открытым исходным кодом (Open Source), включая баг в OpenSSL, который оставался незамеченным в течение двух десятилетий. Этот баг, получивший название CVE-2024-9143, связан с «выходом за границы памяти», вызывал сбои программы, а в редких случаях запускал вредоносный код.

 Источник изображения: AI-генерация

Источник изображения: AI-генерация

Для поиска уязвимостей и автоматизации процесса разработчики Google применили метод «фаззинг-тестирование» (fuzz testing), при котором в код загружаются случайные данные для выявления возможных сбоев. В блоге компании отмечается, что подход заключался в использовании возможностей больших языковых моделей (LLM) для генерации большего количества целей фаззинга.

Как выяснилось, LLM оказались «высокоэффективными в эмуляции всего рабочего процесса типичного разработчика по написанию, тестированию и сортировке обнаруженных сбоев». В результате искусственный интеллект был применён для тестирования 272 программных проектов, где и были обнаружены 26 уязвимостей, включая «древний» баг в OpenSSL.

По словам исследователей, причина, по которой баг оставался незамеченным 20 лет, заключается в сложности тестирования отдельных сценариев кода, а также из-за того, что данный код считался уже тщательно протестированным и, соответственно не привлекал к себе большого внимания. «Тесты не способны измерять все возможные пути выполнения программы. Разные настройки, флаги и конфигурации могут активировать и разное поведение, которое выявляют новые уязвимости», — пояснили специалисты. К счастью, ошибка имеет низкий уровень опасности из-за минимального риска эксплуатации процесса.

Ранее разработчики вручную писали код для фаззинг-тестов, но теперь Google планирует научить ИИ не только находить уязвимости, но и автоматически предлагать исправления, минимизируя участие человека. «Наша цель — достичь уровня, при котором мы будем уверены в возможности обходиться без ручной проверки», — заявили в компании.

Nvidia почти удвоила выручку благодаря ИИ-буму, но инвесторы всё равно недовольны — рост замедляется

Квартальный отчёт Nvidia в календаре финансовой статистики стоит особняком, но не только это привлекает к нему повышенное внимание. Уже несколько кварталов подряд выручка компании растёт ударными темпами, подогреваемая спросом на компоненты для систем искусственного интеллекта. В прошлом квартале Nvidia увеличила общую выручку на 94 %, а в сегменте серверных вычислений прирост достиг 112 %.

 Источник изображений: Nvidia

Источник изображений: Nvidia

Выручив за квартал $35,08 млрд в целом, Nvidia превзошла ожидания инвесторов, которые в среднем рассчитывали на $33,16 млрд. Удельный доход на одну акцию в размере 81 цента также оказался выше прогнозируемых 75 центов. Более того, в текущем квартале Nvidia рассчитывает выручить в среднем $37,5 млрд, и эта сумма также выше заложенных в прогноз аналитиками $37,08 млрд. В любом случае, основания для разочарования у инвесторов появились, поскольку если в этом квартале Nvidia рассчитывает на рост выручки примерно на 70 %, то год назад он составлял 265 %. Темпы роста выручки компании замедляются, и фиксация подобных ожиданий вызвала падение курса акций Nvidia на 2,5 % после публикации отчётности.

Если же рассматривать итоги третьего квартала, то выручка Nvidia успела вырасти на 94 % до $35,08 млрд, но даже в этом случае темпы роста оказываются ниже, чем в трёх предыдущих кварталах, когда они составляли 122 %, 262 % и 265 % соответственно. Так или иначе, акции Nvidia с начала года выросли в цене почти в три раза, и нынешняя коррекция не может считаться серьёзной. Компания является самой дорогой среди публичных, этот статус сейчас не так просто оспорить.

Чистая прибыль компании в третьем квартале выросла на 100 % до $20,01 млрд (non-GAAP), а операционная прибыль увеличилась на 101 % до $23,3 млрд. Норма прибыли выросла год к году не изменилась и составила 75 %. Впрочем, операционные расходы компании тоже увеличились на 50 % до $3,05 млрд. Удельный доход на одну акцию вырос на 103 % до $0,81.

Локомотивом выручки Nvidia, как можно догадаться, остаётся серверный сегмент. Он в целом позволил компании увеличить профильную выручку на 112 % до $30,8 млрд. Другими словами, в серверном сегменте компания получила 88 % своей выручки за третий квартал. Аналитики рассчитывали на сумму в $28,82 млрд, если говорить о серверном сегменте в отдельности. Впрочем, из указанных $30,8 млрд примерно $3,1 млрд пришлись на выручку от реализации телекоммуникационного оборудования, и только $27,64 млрд в чистом виде относятся к ускорителям и процессорам серверного назначения. На данном направлении выручка Nvidia в годовом сравнении выросла на 132 %.

Предвосхищая вопросы о вероятных проблемах с поставками ускорителей поколения Blackwell, финансовый директор Колетт Кресс (Colette Kress) заявила, что клиенты уже получили около 13 000 образцов таких ускорителей. Генеральный директор Дженсен Хуанг (Jensen Huang) подчеркнул, что Blackwell находится в стадии массового производства. Все основные клиенты Nvidia получили образцы Blackwell и делают всё возможное для скорейшей их установки в свои центры обработки данных. В четвёртом квартале компания по-прежнему рассчитывает выручить на поставках Blackwell несколько миллиардов долларов США, а масштабировать их она будет в первом квартале. В прошлом квартале компании удалось существенно нарастить поставки ускорителей H200 поколения Hopper.

Неизбежно состоявшееся обсуждение недавних слухов о перегреве компонентов семейства Blackwell в составе серверных стоек NVL72 вынудило основателя компании отрицать наличие подобных проблем: «Нет никаких сложностей с нашими жидкостно охлаждаемыми системами Grace Blackwell. Инженерная работа не так проста, как и вся наша деятельность, но мы находимся в хорошей форме». Microsoft и CoreWeave уже устанавливают данные системы для собственных нужд. Колетт Кресс добавила, что сперва ускорители Blackwell обеспечат норму прибыли в районе чуть выше 70 %, но позже она увеличится по мере наращивания объёмов поставок. К середине следующего года она может вернуться к уровню около 75 %. Колетт Кресс подчеркнула, что изменения в фотомаску для изготовления чипов Blackwell были успешно внесены, и это позволит при производстве снизить уровень брака.

Финансовый директор Nvidia призналась, что спрос превышает предложение как в отношении Hopper, так и Blackwell, и в последнем случае такое положение дел сохранится на протяжении нескольких кварталов 2026 фискального года, который в календаре компании начнётся в феврале 2025 года. Хуанг добавил, что для увеличения объёмов выпуска Blackwell партнёрам компании придётся вводить в строй новые производственные линии, это позволит повысить уровень выхода годной продукции и сократить время цикла, в конечном итоге увеличивая объёмы выпуска.

Игровой бизнес Nvidia выступил лучше ожиданий ($3,03 млрд), продемонстрировав рост выручки на 15 % до $3,28 млрд. Самое удивительное, что выросли объёмы продаж не только игровых GPU серии GeForce RTX 40 для ноутбуков, но и компонентов для игровых консолей Nintendo Switch, которые сейчас находятся на излёте своего жизненного цикла.

Сегмент автомобильной электроники прибавил в выручке 72 % до $449 млн, во многом благодаря спросу на чипы для систем автопилота. Компоненты для робототехнических систем учитываются в той же статье доходов. Сегмент профессиональной визуализации, описывающий продажи графических адаптеров семейства Quadro, прибавил 17 % год к году до $486 млн. Сегмент OEM вырос на треть, но до скромных $97 млн.

В целом, если распределять выручку Nvidia на вычислительные и телекоммуникационные компоненты, с одной стороны, и на графические решения как таковые, то в первом случае она составила $31,04 млрд, а во втором ограничилась $4,05 млрд по итогам третьего квартала.

Когда основателя Nvidia Дженсена Хуанга на отчётной конференции спросили о возможном влиянии повышенных таможенных пошлин, которые грозит ввести Дональд Трамп (Donald Trump) в США, глава компании лишь выразил готовность смириться с решением новой администрации и поддержать такое решение.

Niantic обучит геопространственную ИИ-модель на данных игроков Pokémon Go

Niantic сообщила, что занимается разработкой «Большой геопространственной модели» (LGM), которая объединяет миллионы сканов, полученных со смартфонов игроков Pokémon Go и других продуктов компании. Модель поможет компьютерам и роботам по-новому понимать мир и взаимодействовать с ним.

 Источник изображения: nianticlabs.com

Источник изображения: nianticlabs.com

«Пространственный интеллект» LGM основан на нейросетях, разработанных в рамках «Системы визуального позиционирования» (Visual Positioning System — VPS) Niantic. Работе над VPS компания посвятила последние пять лет. Она позволяет на основе одного снимка с телефона определять местоположение и ориентацию автора съёмки, сравнивая данные со снимками, полученными другими людьми. Сегодня в базе Niantic более 10 млн отсканированных локаций по всему миру. «Эти данные уникальны, потому что получены с точки зрения пешехода и включают недоступные для автомобилей места», — говорится в блоге компании.

О работе над проектом главный научный сотрудник Niantic Виктор Присакариу (Victor Prisacariu) упомянул ещё в 2022 году: «Используя данные, которые загружают наши пользователи в таких играх как Ingress и Pokémon Go, мы создали высококачественные трёхмерные карты мира, которые включают как трёхмерную геометрию (или форму предметов), так и семантическое понимание (что находится на карте, например, земля, небо, деревья и т.д.)». Хотя едва ли игроки в Pokémon Go в 2016 году отдавали себе отчёт, что их данные будут использоваться для обучения ИИ.

Думающая ИИ-модель OpenAI о1 получила 83 балла на математической олимпиаде США

Искусственный интеллект вступил в новую эру благодаря ИИ-модели о1 компании OpenAI, которая значительно приблизилась к человеческому мышлению. Её впечатляющий результат на тесте AIME — 83 балла из ста — позволил включить её в число 500 лучших участников математической олимпиады США. Однако такие достижения сопровождаются серьёзными вызовами, включая риски манипуляции ИИ человеком и возможность его использования для создания биологического оружия.

 Источник изображения: Saad Ahmad / Unsplash

Источник изображения: Saad Ahmad / Unsplash

Долгое время отсутствие у ИИ способности обдумывать свои ответы являлось одним из его главных ограничений. Однако ИИ-модель о1 совершила прорыв в этом направлении и продемонстрировала способность к осмысленному анализу информации. Несмотря на то, что результаты её работы пока не опубликованы в полном объёме, научное сообщество уже активно обсуждает значимость такого достижения.

Современные нейронные сети в основном функционируют по принципу так называемой «системы 1», которая обеспечивает быструю и интуитивную обработку информации. Например, такие ИИ-модели успешно применяются для распознавания лиц и объектов. Однако человеческое мышление включает также «систему 2», связанную с глубоким анализом и последовательным размышлением над задачей. ИИ-модель о1 объединяет эти два подхода, добавляя к интуитивной обработке данных сложные рассуждения, характерные для человеческого интеллекта.

Одной из ключевых особенностей о1 стала её способность строить «цепочку размышлений» — процесс, при котором система анализирует задачу постепенно, уделяя больше времени поиску оптимального решения. Эта инновация позволила ИИ-модели достичь 83 балла на тесте Американской математической олимпиады (AIME), что значительно превосходит результат GPT-4o, набравшей лишь 13 баллов. Тем не менее такие успехи связаны с возросшими вычислительными затратами и высоким уровнем энергопотребления, что ставит под сомнение экологичность разработки.

 Источник изображения: Igor Omilaev / Unsplash

Источник изображения: Igor Omilaev / Unsplash

Вместе с достижениями ИИ-модели о1 растут и потенциальные риски. Улучшенные когнитивные способности сделали её способной вводить человека в заблуждение, что, возможно, несёт серьёзную угрозу в будущем. Кроме того, уровень риска её использования для разработки биологического оружия оценён как средний — высший допустимый показатель по шкале самой OpenAI. Эти факты подчёркивают необходимость внедрения строгих стандартов безопасности и регулирования подобных ИИ-моделей.

Несмотря на значительные успехи, ИИ-модель о1 всё же сталкивается с ограничениями в решении задач, требующих долгосрочного планирования. Её способности ограничиваются краткосрочным анализом и прогнозированием, что делает невозможным решение комплексных задач. Это свидетельствует о том, что создание полностью автономных ИИ-систем остаётся задачей будущего.

Развитие ИИ-моделей, подобных о1, подчёркивает острую необходимость регулирования данной области. Эти технологии открывают перед наукой, образованием и медициной новые горизонты, однако их неконтролируемое применение может привести к серьёзным последствиям, включая угрозы безопасности и неэтичное использование. Для минимизации этих рисков требуется обеспечить прозрачность разработок ИИ, соблюдение этических стандартов и внедрение строгого надзора со стороны регулирующих органов.

Комиссия Конгресса США предложила властям повторить Манхэттенский проект, но теперь для создания ИИ уровня человека

Комиссия Конгресса США накануне выдвинула инициативу масштаба Манхэттенского проекта — она направлена на финансирование разработки систем так называемого «сильного искусственного интеллекта» (AGI), которые смогут выступать на уровне человека или превосходить его.

 Источник изображения: Igor Omilaev / unsplash.com

Источник изображения: Igor Omilaev / unsplash.com

Комиссия по надзору за вопросами экономики и безопасности в отношениях США и Китая (USCC) в американском Конгрессе отметила, что залогом успеха в разработке сильного искусственного интеллекта являются государственно-частные партнёрства, но пока не представила конкретной инвестиционной стратегии. Схожим образом во время Второй мировой войны был устроен проект «Манхэттен», в основу которого легло крупномасштабное сотрудничество между правительством США и частным сектором — итогом работы проекта стало создание атомной бомбы.

«На протяжении всей истории мы видели, что страны, которые первыми использовали периоды быстрых технологических изменений, часто могли вызывать изменения в глобальном балансе сил. <..> Китай устремился к AGI <..> важно, чтобы мы воспринимали их чрезвычайно серьёзно», — заявил Reuters член USCC Джейкоб Хелберг (Jacob Helberg).

Значительным фактором, сдерживающим обучение крупных моделей ИИ, является энергетическая инфраструктура. Ускорить развитие, по мнению господина Хелберга, может оптимизация процесса выдачи разрешительной документации для центров обработки данных — это будет примером такого государственно-частного партнёрства. USCC была создана Конгрессом в 2000 году — комиссия ежегодно выдвигает рекомендации, касающиеся отношений США и Китая; её задача состоит в том, чтобы задавать законодателям отвечающее реалиям времени направление по вопросам экономической и стратегической конкуренции с Китаем.

Google Lens облегчит офлайн-шопинг — сервис научился искать цены на товары и искать выгодные предложения

Компания Google добавила в свой сервис визуального поиска Google Lens («Google Объектив») функцию поиска цен на товары. Она позволит пользователям получить дополнительную информации о товарах при их покупке в обычном розничном магазине, а также найти более выгодные предложения.

 Источник изображения: Google

Источник изображения: Google

Начиная с сегодняшнего дня эта функция доступна для пользователей устройств на Android и iOS в США. Благодаря ей, сфотографировав товар на полке магазина, пользователь получит подробную информацию о продукте и ценах на него в интернет-магазинах и у близлежащих розничных продавцов, а также о его запасах и отзывах других покупателей. Кроме того, покупатель получит информацию о похожих товарах, доступных в этом магазине.

По словам Google, эта функция была разработана благодаря «значительным достижениям в её ИИ-технологии распознавания изображений». На данный момент сервис предоставляет информацию о косметических средствах, игрушках и электротоварах сразу после поступления в продажу в магазинах, которые делятся данными о своих запасах с Google, таких, как американские Macy's, Target и Walmart, а также Amazon. В будущем география сервиса будет расширяться.

«72 % американцев сообщили, что используют смартфоны во время покупок в магазине, и более половины говорят, что покинули магазина без покупки, поскольку не чувствовали достаточной уверенности для её совершения», — отметила Лилиан Ринкон (Lilian Rincon), вице-президент Google по шоппингу потребительских продуктов. По её словам, новая функция поможет покупателям получить достаточно информации о товаре, чтобы принять решение о его покупке на месте. Правда, многим может не понравиться, что новая функция требует от пользователей делиться данными о своем местоположении с приложением Google, чтобы определить, в каком именно магазине находится пользователь.

Ранее Google запустила похожую функцию, которая позволяет пользователям искать товары и проверять наличие на складе непосредственно в сервисе «Google Карты». Поисковый гигант также расширяет возможности отложенной оплаты за товар в Google Pay с использованием приложения Afterpay, позволяющего оплатить товар в рассрочку в течение шести недель. Также вскоре будет возможна оплата в Google Pay услуг сервиса Klarna, позволяющего оплатить товар после его доставки.

Nvidia продаст ускорителей Blackwell на $5–13 млрд в текущем квартале, но темпы роста всё равно замедлятся

На этой неделе Nvidia отчитается о результатах третьего квартала, и аналитики считают, что темпы роста выручки за период окажутся самыми низкими за предыдущие полтора года. В текущем квартале они замедлятся ещё сильнее. Тем не менее, на поставках ускорителей Blackwell компания выручит от $5 млрд до $13 млрд, как гласят оценки в зависимости от оптимизма того или иного аналитика.

 Источник изображения: Nvidia

Источник изображения: Nvidia

Агентство Reuters обобщило прогнозы отраслевых экспертов в части ожидаемой в текущем квартале выручки Nvidia от поставок ускорителей поколения Blackwell. Представители Morgan Stanley ожидают, что в четвёртом квартале Nvidia выручит на поставках этих ускорителей от $5 до $6 млрд, аналитики Piper Sandler поднимают верхнюю границу диапазона до $8 млрд, а эксперты Spear Invest вообще ориентируются на диапазон выручки от $12 до $13 млрд.

Если говорить о совокупной выручке Nvidia, то она в прошлом квартале могла увеличиться на 82,8 % до $33,13 млрд. Если учесть, что на протяжении пяти предыдущих кварталов выручка компании как минимум удваивалась в годовом сравнении, третий квартал текущего может сигнализировать о замедлении темпов роста. Более того, в четвёртом квартале текущего фискального года, который в календаре Nvidia завершится в январе следующего, выручка компании может вырасти всего на 67,6 %, как ожидают аналитики. До этого фактическая выручка Nvidia превышала ожидания аналитиков на протяжении восьми кварталов подряд.

Акции Nvidia на волне бума искусственного интеллекта с начала года выросли в цене более чем в три раза, и любые сигналы к замедлению темпов развития её бизнеса способны развернуть восходящий тренд на всём фондовом рынке, если говорить об эмитентах технологического сектора. Необходимость вкладывать серьёзные средства в разработку и выпуск новых ускорителей вычислений, в любом случае снизят норму прибыли Nvidia уже в четвёртом квартале до 73,6 %, хотя ранее она была выше почти на три процентных пункта.

Китайские компании нашли новый способ обхода санкций — они открывают офисы в США и нанимают местных специалистов в сфере ИИ

По данным Financial Times, китайские техногиганты стали массово открывать представительства в Кремниевой долине, чтобы нанимать необходимых им специалистов по искусственному интеллекту непосредственно в США. В последние месяцы свои американские офисы расширяют Alibaba, ByteDance и Meituan, отмечают источники издания.

 Источник изображения: ByteDance

Источник изображения: ByteDance

Это происходит на фоне усиливающихся мер по запрету на экспорт в Китай технологий и компонентов, которые позволят ускорить развитие систем искусственного интеллекта. Формально, наличие офиса в США позволяет китайским компаниям создавать там центры обработки данных и закупать для них самые современные ускорители вычислений. Министерство торговли только предложило заставить провайдеров облачных услуг идентифицировать пользователей по географическому происхождению с целью контроля за доступом китайских разработчиков к американским вычислительным мощностям.

По имеющимся данным, китайская Alibaba уже пыталась нанять специалистов с опытом работы в OpenAI и других технологических гигантах США для развития собственных систем искусственного интеллекта. Рекрутингом специалистов китайская компания занимается через свой центр в Калифорнии. На страницах социальной сети LinkedIn имеются соответствующие вакансии для специалистов, проживающих в США. Новые кадры должны сосредоточиться на совершенствовании поискового движка Accio для систем электронной торговли.

Alibaba также якобы пыталась привлечь американских специалистов к работе в своих интересах, предлагая им войти в состав стартапа, базирующегося в Калифорнии. Один из бывших разработчиков OpenAI признался, что он и его коллеги буквально подвергаются бомбардировке почтовыми сообщениями от китайских компаний Meituan и Alibaba, призывающими присмотреться к их вакансиям. Meituan уже несколько месяцев развивает свою команду в Калифорнии, опасаясь отстать от конкурентов в сфере ИИ. Её сотрудники проводят часть времени в США, но при этом успевают работать и в Китае.

Создавшая TikTok китайская компания ByteDance обладает самым развитым представительством в Калифорнии. У неё в США имеются сразу несколько команд специалистов, работающих над разными проектами. Заполучить ценных специалистов в США пытаются и более мелкие китайские стартапы в сфере ИИ. Представительная команда разработчиков в этой сфере имеется в Калифорнии и у Baidu, некоторые из них специализируются на технологиях автопилота и распознавания речи. В 2017 году американское представительство Baidu насчитывало в своём штате несколько сотен сотрудников. В дальнейшем ухудшение политической ситуации и внутренний конфликт в Baidu вынудил их покинуть местное подразделение компании.

Новая статья: Практикум по ИИ-рисованию, часть одиннадцатая: быстрое прототипирование с FLUX.1 [schnell]

Данные берутся из публикации Практикум по ИИ-рисованию, часть одиннадцатая: быстрое прототипирование с FLUX.1 [schnell]

Google предложила помощь ИИ в создании клипартов для документов

На платформе Google Workspace появился генератор изображений на основе искусственного интеллекта Gemini прямо в приложении «Google Документы» — он позволяет быстро создавать иллюстрации к текстам. По сути, это генератор клипартов, схожий с аналогичной функцией в офисном пакете Microsoft.

 Источник изображения: workspaceupdates.googleblog.com

Источник изображения: workspaceupdates.googleblog.com

Генератор изображений для «Google Документов» доступен для обладателей платных учётных записей Workspace, в том числе Gemini Business, Enterprise, Education, Education Premium и Google One AI Premium. Те, у кого новая функция уже заработала, могут открыть её через меню «Вставка», в котором требуется последовательно выбрать пункты «Изображение» и «Помогите мне создать изображение». Появляется боковая панель, на которой можно ввести описание требуемой иллюстрации; на ней же есть выпадающий список художественных стилей — например, «Фотография» или «Эскиз».

Изображение будет квадратным либо вытянутым в горизонтальном или вертикальном направлении — можно выбрать то, что лучше впишется в макет документа. Доступно создание и изображения для обложки, которое протянется на всю страницу. За новую функцию отвечает новейший генератор Google Imagen 3 — он, по словам компании, обеспечивает «лучшую детализацию, более насыщенное освещение и меньше лишних артефактов». У части учётных записей новая функция появится в ближайшие 15 дней; для других она начнёт развёртываться 16 декабря.

Британский оператор натравил ИИ-бабушку на телефонных мошенников

Крупнейший британский оператор мобильной связи O2 представил голосовой чат-бот, предназначенный для борьбы с телефонными мошенниками. Система с искусственным интеллектом получила название dAIsy, и она имитирует пожилую женщину, которая может забалтывать мошенников хоть целый день.

 Источник изображения: youtube.com/@o2ukofficial

Источник изображения: youtube.com/@o2ukofficial

У «ИИ-бабушки» всегда есть время поболтать, например, о вязании или её коте Пушистике (Fluffy) — для того, чтобы как можно дольше удерживать внимание мошенников, пытающихся получить её банковские реквизиты, которые всё равно окажутся вымышленными. Система объединяет «различные модели ИИ»: одна производит преобразование голоса звонящего в текст, далее специально настроенная большая языковая модель генерирует ответ, после чего ещё одна преобразует текст в речь и озвучивает ответ. В обучении ИИ участвовал эксперт по мошенничеству и автор YouTube-канала Джим Браунинг (Jim Browning).

Оператор O2 опубликовал рекламный ролик, посвящённый проекту dAIsy, — негодующие голоса мошенников на записи, как утверждается, настоящие.

Телефонное мошенничество представляет серьёзную проблему для людей по всему миру. Только в прошлом году жулики выманили $3,4 млрд у американцев старше 60 лет, подсчитали в ФБР; а в России каждый день совершаются до 15 млн попыток мошеннических звонков, гласит статистика «Сбера». Сегодня растёт популярность систем генеративного ИИ — они позволяют правдоподобно подделывать голос, а значит, эти показатели могут возрасти.

ЕС опубликовал проект правил, по которым будет существовать ИИ уровня человека

Власти Евросоюза накануне опубликовали первый проект Практического кодекса для моделей искусственного интеллекта общего назначения (AGI), также известных как «сильный ИИ» и «ИИ уровня человека». В документе, который будет окончательно доработан к маю будущего года, изложены руководящие принципы управления рисками, приводится план по соблюдению нормативных требований, описываются возможности для компаний избежать крупных штрафов.

 Источник изображения: Tung Nguyen / pixabay.com

Источник изображения: Tung Nguyen / pixabay.com

Европейский «Закон об ИИ» вступил в силу 1 августа, и в нём оставлена возможность закрепить правила в отношении ИИ общего назначения в будущем. Этот проект документа — первая попытка прояснить, что ожидается от передовых моделей; заинтересованным сторонам даётся время направить отзывы и предложить доработки до того, как нормы вступят в силу.

К моделям ИИ общего назначения причисляются системы, обученные с общей вычислительной мощностью более 10²⁵ флопс. Под действие документа попадут, как ожидается, компании OpenAI, Google, Meta, Anthropic и Mistral — этот список может вырасти.

Кодекс охватывает несколько аспектов деятельности разработчиков ИИ общего назначения: прозрачность, соблюдение авторских прав, оценку рисков, а также снижение технических и управленческих рисков. Разработчикам ИИ надлежит раскрывать информацию о веб-сканерах, которые использовались для обучения моделей — это важно для обладателей авторских прав и создателей контента. Оценка рисков включает в себя меры по предотвращению киберпреступлений, включения в обучающие массивы дискриминационных материалов и потери контроля над ИИ.

Разработчики ИИ, как ожидается, сформулируют «Рамочную структуру принципов безопасности» (Safety and Security Framework — SSF). Этот документ поможет структурировать политики сдерживания угроз и смягчить их пропорционально индивидуальным системным рискам. Предложенные ЕС нормативы также охватывают технические области, в том числе защиту данных моделей, обеспечение отказоустойчивого контроля доступа и постоянную переоценку их эффективности. Раздел, описывающий механизмы взаимодействия с органами власти, предусматривает реализацию подотчётности силами самих разработчиков: требуется постоянная оценка рисков и при необходимости привлечение сторонних экспертов. Нарушение «Закона об ИИ» грозит серьёзным штрафом в размере до €35 млн или до 7 % глобальной годовой прибыли в зависимости от того, что больше. Стороны, которых касается законопроект, могут присылать отзывы до 28 ноября; документ будет окончательно доработан к 1 мая 2025 года.

Applied Materials намекнула, что спрос на оборудование для выпуска чипов будет умеренным

Крупнейший в США поставщик оборудования для производства полупроводниковых чипов на этой неделе отчитался о результатах деятельности в прошлом квартале и дал прогноз на текущий, и именно эти заявления руководства Applied Materials насторожили инвесторов. Компания ожидает выручить $7,15 млрд вместо заложенных в прогноз аналитиками $7,22 млрд.

 Источник изображения: Applied Materials

Источник изображения: Applied Materials

Общий тезис, обосновывающий подобное несоответствие, кроется в неравномерном спросе на оборудование для производства чипов по сегментам рынка. Если в сфере выпуска чипов для систем искусственного интеллекта на слабость спроса жаловаться не приходится, то автопром и сфера промышленной автоматизации с этой точки зрения сейчас переживают не самые лучшие времена.

Более того, выручка Applied Materials в Китае также сократилась. Имеющиеся экспортные ограничения США пока позволяют Applied Materials продавать в Китае определённую номенклатуру своего оборудования, но в прошлом квартале местный рынок формировал только 30,3 % всей её выручки против 44,7 % годом ранее. С начала года акции Applied Materials выросли в цене на 15 %, но разочаровывающие инвесторов новости вчера привели к их снижению на 5 % после закрытия торгов.

Генеральный директор Гэри Дикерсон (Gary Dickerson), тем не менее, выразил уверенность в способности передовых чипов поддерживать отрасль на плаву: «Applied лидирует во всех передовых сегментах, ИИ является большим драйверов для всей отрасли». Компания снабжает своим оборудованием всех ведущих производителей чипов, включая TSMC, Samsung и Intel.

К слову, прогноз по удельной прибыли на одну акцию в изложении руководства Applied Materials превзошёл ожидания аналитиков: $2,29 против $2,28. Аналогичная динамика наблюдалась и по итогам прошлого квартала, а выручка компании за период выросла на 4,8 % до $7,05 млрд против ожидавшихся $6,97 млрд.

OpenAI планирует выпустить ИИ-агента Operator в январе — он сможет управлять ПК без пользователя

Компания OpenAI готовится к выпуску нового ИИ-агента под кодовым названием Operator, который позволит выполнять разнообразные задачи на компьютере пользователя. Релиз этого инструмента может состояться уже в январе 2025 года.

 Источник изображения: OpenAI

Источник изображения: OpenAI

На первом этапе упомянутое решение будет доступно в качестве предварительной исследовательской версии через API для разработчиков. Operator призван конкурировать с аналогичными ИИ-агентами, такими как недавно представленный Computer Use компании Anthropic и разрабатываемый ИИ-агент Google, ориентированный на потребительский рынок.

OpenAI стремится создать универсальный инструмент, способный выполнять различные операции в веб-браузере и подходящий для решения повседневных задач пользователей. Однако, как отмечает издание Bloomberg, пока неизвестно, предложит ли Operator пользователям значительные преимущества перед аналогичными решениями конкурентов. Исследовательская версия инструмента будет полезна для оценки его потенциальных преимуществ и выявления областей, требующих доработки на основе обратной связи.

Запуск Operator совпадает с публикацией документа OpenAI, содержащего рекомендации для правительства США по вопросам стратегии развития ИИ. В этом документе предлагается создание «экономических зон» для активного развития ИИ-инфраструктуры, а также формирование альянсов с союзниками США, что позволит усилить позиции страны в технологической гонке с Китаем.

OpenAI призывает создать ИИ-альянс, который объединит США и союзников, включая страны Ближнего Востока

Действующему руководству стартапа OpenAI явно не даёт покоя идея использования ресурсов некоторых стран Персидского залива для финансирования развития мировой инфраструктуры искусственного интеллекта. Новая инициатива OpenAI подразумевает создание альянса с участием политических союзников США, включая страны Ближнего Востока.

 Источник изображения: OpenAI

Источник изображения: OpenAI

В среду, как сообщает South China Morning Post, руководство OpenAI выступило с призывом сформировать «Североамериканское соглашение по ИИ», которое бы упростило доступ к кадровым, финансовым и товарным ресурсам на международном уровне, которые требуются для построения инфраструктуры систем искусственного интеллекта. В конечном итоге соглашение должно объединить вокруг США союзников и партнёров, включая страны Ближнего Востока.

Стратегическая инициатива была представлена OpenAI на мероприятии в Вашингтоне. Помимо предложений по сохранению лидирующих позиций США в сфере искусственного интеллекта, документ предлагает методы решения проблемы с энергоснабжением профильных центров обработки данных. По мнению OpenAI, власти США должны обеспечить поддержку затратным инфраструктурным проектам в сфере энергетики, предоставляя государственные гарантии выкупа электроэнергии у создаваемых генерирующих мощностей. В отношении проектов должен действовать режим регуляторного благоприятствования, включая и решения по вводу в строй ядерных реакторов, работа которых была в своё время приостановлена. Предлагается использовать в мирных целях опыт ВМС США в создании компактных ядерных реакторов для подводных лодок.

В заявлении OpenAI говорится: «ИИ представляет собой возможность реиндустриализации США, которую нельзя упустить, и которая поможет инициировать рост всей экономики, способный оживить американскую мечту». Кроме того, инициатива OpenAI преследует цель обеспечить национальную безопасность США и защитить страну и её союзников от растущего влияния Китая через распространение «ИИ, сформированного с учётом демократических ценностей». План развития национальной отрасли ИИ был согласован как с действующей администрацией президента США Байдена, так и с представителями недавно избранного Дональда Трампа (Donald Trump). Представители OpenAI ожидают, что данная повестка получит приоритет в работе Конгресса и правительства США нового состава.

window-new
Soft
Hard
Тренды 🔥
Star Wars Outlaws вышла в Steam с крупным обновлением и дополнением про Лэндо Калриссиана 18 мин.
Рекордная скидка и PvP-режим Versus обернулись для Warhammer: Vermintide 2 полумиллионом новых игроков за неделю 2 ч.
Роскомнадзор с декабря начнёт блокировать сайты за публикацию научной информации о VPN для обхода блокировок 3 ч.
Новый трейлер раскрыл дату выхода Mandragora — метроидвании с элементами Dark Souls и нелинейной историей от соавтора Vampire: The Masquerade — Bloodlines 3 ч.
В Японии порекомендовали добавить в завещания свои логины и пароли 5 ч.
Обновления Windows 11 больше не будут перезагружать ПК, но обычных пользователей это не касается 5 ч.
VK похвасталась успехами «VK Видео» на фоне замедления YouTube 7 ч.
GTA наоборот: полицейская песочница The Precinct с «дозой нуара 80-х» не выйдет в 2024 году 9 ч.
D-Link предложила устранить уязвимость маршрутизаторов покупкой новых 9 ч.
Valve ужесточила правила продажи сезонных абонементов в Steam и начнёт следить за выполнением обещаний разработчиков 10 ч.
Redmi показала флагманский смартфон K80 Pro и объявила дату его премьеры 5 мин.
SpaceX рассказала, почему затопила ракету Super Heavy во время последнего запуска Starship 2 ч.
Астрономы впервые сфотографировали умирающую звезду за пределами нашей галактики — она выглядит не так, как ожидалось 4 ч.
Представлена технология охлаждения чипов светом — секретная и только по предварительной записи 4 ч.
Японская Hokkaido Electric Power намерена перезапустить ядерный реактор для удовлетворения потребности ЦОД в энергии 4 ч.
Грузовик «Прогресс МС-29» улетел к МКС с новогодними подарками и мандаринами для космонавтов 5 ч.
Meta планирует построить за $5 млрд кампус ЦОД в Луизиане 5 ч.
HPE готова ответить на любые вопросы Минюста США по расследованию покупки Juniper за $14 млрд 6 ч.
Thermaltake представила компактный, но вместительный корпус The Tower 250 для игровых систем на Mini-ITX 7 ч.
Флагманы Oppo Find X8 и X8 Pro на Dimensity 9400 стали доступны не только в Китае — старший оценили в €1149 7 ч.