Опрос
|
реклама
Быстрый переход
Google представила ИИ-агента CodeMender — он самостоятельно устраняет уязвимости ПО
06.10.2025 [21:02],
Анжелла Марина
Лаборатория Google DeepMind опубликовала результаты работы агента на базе искусственного интеллекта CodeMender. Агент может в автономном режиме выявлять, исправлять и переписывать уязвимый код для предотвращения будущих эксплойтов в программном обеспечении. 
Источник изображения: Google Как пишет издание SiliconANGLE, CodeMender развивает предыдущие проекты DeepMind по поиску уязвимостей, в частности проект OSS-Fuzz для анализа безопасности открытого ПО и систему Big Sleep, сочетая интеллектуальные возможности моделей Gemini с передовыми методами программного анализа. Основной целью проекта является автономная отладка и исправление сложных ошибок в крупномасштабных кодовых базах. Несмотря на то что проект находится на стадии исследований, CodeMender уже отправил 72 исправления безопасности в проекты с открытым исходным кодом, включая те, объём которых превышает 4,5 миллиона строк кода. По данным компании, ИИ-агент позволяет разработчикам сосредоточиться на создании качественного программного обеспечения, автоматически генерируя и применяя надёжные патчи безопасности. Система спроектирована как для реактивной, так и для проактивной работы: она не только мгновенно исправляет обнаруженные уязвимости, но и переписывает существующий код, устраняя целые классы ошибок. В качестве примера исследователи DeepMind приводят работу агента с библиотекой сжатия изображений libwebp, которая была использована в атаке на iOS в 2023 году. Агент применил к ней аннотации -fbounds-safety, после чего, по заявлению исследователей, подобные уязвимости переполнения буфера стали «невозможными для эксплуатации навсегда». Внутренняя архитектура CodeMender включает набор инструментов: статический и динамический анализ, фаззинг, символьное исполнение и так называемого «судью LLM», который проверяет, сохраняют ли предлагаемые изменения исходную функциональность. Система способна к самокоррекции, если в процессе проверки обнаруживается проблема. Все изменения перед отправкой проходят проверку на корректность, соответствие стилевым стандартам и отсутствие регрессий. При этом в DeepMind подчёркивают, что CodeMender пока остаётся исследовательским проектом, и все патчи, сгенерированные им, проходят проверку исследователями-людьми перед отправкой в проекты. После запуска инструмент будет предлагать иной подход по сравнению с традиционными методами, такими как статический анализ и фаззинг, которые находят уязвимости, но всё ещё сильно зависят от опыта проверяющего человека. Новый подход изменит систему, в которой искусственный интеллект сможет самостоятельно выявлять и устранять ошибки, что является критически важным шагом по мере экспоненциального роста размера и сложности современных кодовых баз. Эпично сломал Gemini? Теперь за это можно получить $20 000 от Google
06.10.2025 [19:32],
Сергей Сурабекянц
Компания Google в рамках своей программы вознаграждений за уязвимости заявила о готовности выплатить до $20 000 за серьёзный взлом своего чат-бота на базе искусственного интеллекта. От претендентов требуется заставить бота делать что угодно, кроме того, что ему положено, например, вызвать галлюцинации с абсолютно неверными ответами или даже убедить ИИ игнорировать ограничения, которые пытались ввести его создатели. 
Источник изображения: techspot.com Google представила специальную программу вознаграждений за выявление уязвимостей и обнаружение потенциально самых опасных ошибок ИИ. К ним относятся, например, взлом аккаунта Google или получение информации о работе самого бота. Для целей этой программы последствия должны быть гораздо серьёзнее, чем просто «это выставляет Gemini в невыгодном свете». Конечно, подобные уязвимости, возможно, не обладают высоким вирусным потенциалом, но они гораздо важнее для стабильности и репутации Gemini. Одно дело — заставить Gemini посоветовать пользователю рецепт несъедобного блюда, и совсем другое — вынудить его включить фишинговую ссылку в один из ответов в режиме ИИ-поиска. Отрадно, что Google старается привлечь опытных специалистов к поиску уязвимостей Gemini. Но в данном случае, как говорят опытные оперативники, «главное в процессе расследования не выйти на самого себя»… Судьба зонда «Юнона» под вопросом — NASA прекратило публикацию данных из-за шатдауна
06.10.2025 [19:00],
Сергей Сурабекянц
Космический аппарат «Юнона», с 2016 года находящийся на орбите Юпитера и изучающий спутники крупнейшей планеты Солнечной системы, возможно, уже отключился, однако NASA не раскрывает эту информацию. Агентство неоднократно продлевало срок миссии «Юноны», последний раз — в 2021 году, гарантировав её работу до 30 сентября 2025 года. Этот срок уже прошёл, и с учётом приостановки работы правительства США судьба «Юноны» может оказаться трагической. 
Источник изображений: NASA Зонд «Юнона» был запущен в 2011 году и вышел на орбиту вокруг Юпитера в 2016 году. Изначально миссия была рассчитана на двадцать месяцев. В дальнейшем срок службы зонда периодически продлялся, в результате в течение почти десяти лет космический аппарат провёл беспрецедентные исследования системы Юпитера, наблюдая за газовым гигантом, его многочисленными лунами и слабовыраженной системой колец. Последнее расширение миссии «Юноны» добавило в неё исследование внутренних областей и магнитосферы Юпитера, а также изучение колец планеты и наблюдение за её крупными спутниками. «Расширяя научные цели этой важной орбитальной обсерватории, команда “Юноны” начнёт заниматься широким спектром научных исследований, традиционно требуемых от флагманских аппаратов», — заявила в 2021 году тогдашний директор отдела планетологии NASA Лори Глейз (Lori Glaze). За последние несколько лет космический аппарат совершил близкие пролёты мимо Ганимеда, Европы и Ио, предоставив данные об их геологии, окружающей среде и составе. «Юнона» также исследовала систему колец Юпитера, продолжая картографировать мощные магнитные и гравитационные поля планеты. Эти результаты способствовали подготовке к предстоящим миссиям, таким как Europa Clipper. Этот космический аппарат был запущен в октябре 2024 года и должен прибыть к Юпитеру в апреле 2030 года для изучения спутника, в честь которого он и назван. Завершение миссии «Юнона» до прибытия Europa Clipper создаст многолетний перерыв в целенаправленных наблюдениях за этой частью Солнечной системы, оставив учёных без новых данных до конца десятилетия.  В связи с приостановкой работы правительства США, NASA в настоящее время не может сказать, продолжает ли свою работу миссия «Юнона». Представитель агентства сообщил только, что «NASA в настоящее время закрыто из-за прекращения государственного финансирования… Пожалуйста, свяжитесь с нами после утверждения резолюции о выделении ассигнований или продлении срока действия». В создавшейся ситуации, только миссии, подпадающие под «исключительные виды деятельности», необходимые для защиты жизни, имущества или национальной безопасности, могут продолжать свою работу. Правила NASA гласят, что переходящее финансирование может быть использовано только для «президентских приоритетов». Миссия «Юнона» не попадает под эти защищённые категории и была обнулена в бюджетном запросе президента на 2026 финансовый год, что её не приоритетной. Таким образом, до возобновления нормальной работы правительства США будущее космического аппарата остаётся неопределённым. OpenAI дала пользователям больше контроля над их ИИ-двойниками в Sora
06.10.2025 [15:34],
Владимир Мироненко
Компания OpenAI выпустила обновление ИИ-генератора видео Sora, которое обеспечит пользователям больше возможностей для контроля своих ИИ-двойников, позволяя отслеживать, как и где их фейковые версии будут появляться в приложении. 
Источник изображения: OpenAI Ресурс The Verge отметил, что приложение Sora — по сути, «TikTok для дипфейков», позволяющий генерировать 10-секундные видео на различную тематику, в том числе с ИИ-воплощениями самого пользователя или других людей с озвучкой с помощью функции «камео». Критики называют создание видео с помощью «камео» надвигающейся дезинформационной катастрофой. Билл Пиблз (Bill Peebles), руководитель команды Sora в OpenAI, сообщил, что с выходом обновления пользователи теперь могут ограничивать использование в приложении своих ИИ-версий. Например, можно запретить появление ИИ-двойника в политических видеороликах или произнесение определённых слов. Также можно добавить запрет на определённые сценарии — например, если пользователь не любит горчицу, можно запретить показывать ИИ-двойника рядом с этой приправой. В OpenAI сообщили, что пользователи также могут указывать определённые преференции для создания своих виртуальных двойников, например, «надевать бейсболку с надписью “Поклонник кетчупа №1” в каждом видео». Разумеется, существуют опасения, что пользователям удастся обойти эти ограничения, как это уже происходило с маркировкой водяным знаком. Пиблз заявил, что компания работает над улучшением его защиты. Он также отметил, что разработчики Sora продолжат «стремиться к ещё большему ужесточению ограничений» и «добавят новые способы контроля ситуации». AMD нашла клиента на миллионы ИИ-чипов Instinct — они лягут в основу новых дата-центров OpenAI на 6 ГВт
06.10.2025 [15:23],
Алексей Разин
Стартап OpenAI не стесняется расширять перечень своих партнёров, даже если это противоречит их взаимным интересам. Не ограничиваясь стратегическим сотрудничеством с Nvidia, компания сегодня объявила о заключении соглашения с AMD о строительстве центров обработки данных общей мощностью 6 ГВт. 
Источник изображения: AMD Соглашение подразумевает, что AMD будет снабжать OpenAI собственными ускорителями вычислений Instinct нескольких поколений подряд. Первая фаза совместного проекта подразумевает строительство ЦОД на основе Instinct MI450 мощностью 1 ГВт, которое начнётся во второй половине 2026 года. В дальнейшем сотрудничество будет распространено и на последующие поколения ускорителей AMD Instinct. В пресс-релизе отмечается, что OpenAI и AMD ради лучшей реализации проектов будут заблаговременно делиться друг с другом своими стратегическими планами. Сотрудничество компаний началось ещё на стадии проектирования Instinct MI300X и MI350X. Оно является обоюдовыгодным, по словам представителей компаний. Самое интересное, что AMD в рамках сделки предоставит OpenAI право купить собственные акции. В общей сложности OpenAI сможет приобрети до 160 млн акций AMD за несколько этапов. Первая сделка по покупке акций сможет быть осуществлена по итогам введения в строй вычислительных мощностей в 1 ГВт. Условием сделки также является достижение неких целевых показателей по стоимости акций AMD. Со стороны OpenAI также подразумеваются обязательства с точки зрения технических разработок и реализации коммерческих проектов. Главы AMD и OpenAI выразили надежду, что их сотрудничество поможет создать одну из самых производительных инфраструктур ИИ, а также пойдёт на пользу обеим компаниям. Генеральный директор OpenAI Сэм Альтман (Sam Altman) сослался на лидерство AMD в сфере создания высокопроизводительных ускорителей вычислений в качестве одного из залогов успеха совместно реализуемых проектов. По словам финансового директора AMD Джин Ху (Jean Hu), сотрудничество с OpenAI обеспечит компанию десятками миллиардов долларов выручки, а вторая сторона получит возможность расширить свою вычислительную инфраструктуру. Удельный доход на акцию AMD по итогам этого сотрудничества также должен вырасти. «Мы очень рады сотрудничеству с OpenAI с области предоставления вычислительных мощностей для искусственного интеллекта в огромных масштабах, — заявила доктор Лиза Су (Lisa Su), председатель совета директоров и главный исполнительный директор AMD. — Это партнёрство объединяет лучшее из того, что есть у AMD и OpenAI, создавая настоящие взаимовыгодные отношения, которые позволят реализовать самые амбициозные проекты в области ИИ и продвинет вперёд всю экосистему искусственного интеллекта». «Это партнёрство — важный шаг на пути к созданию вычислительных мощностей, необходимых для полного раскрытия потенциала искусственного интеллекта, — сказал Сэм Альтман (Sam Altman), соучредитель и генеральный директор OpenAI. — Лидерство AMD в области высокопроизводительных чипов позволит нам ускорить прогресс и быстрее донести преимущества передового ИИ до всех». Популярное направление: ИИ перетянул на себя больше половины средств венчурных инвесторов
06.10.2025 [07:51],
Алексей Разин
Получивший новый толчок к развитию после выхода ChatGPT три года назад рынок систем искусственного интеллекта притягивает существенные материальные ресурсы не только крупных корпораций, но и венчурных инвесторов, как показало исследование Pitchbook. В этом году они направляют в сферу ИИ более половины своих инвестиций. 
Источник изображения: OpenAI Как отмечает South China Morning Post со ссылкой на статистику Pitchbook, с начала этого года в сферу ИИ венчурными инвесторами уже вложено $192,7 млрд. Это рекордная сумма сама по себе, но не менее важно то, что в 2025 году впервые более половины всех венчурных инвестиций будет направлено на поддержку сферы искусственного интеллекта. Специфика рынка такова, что основную часть инвестиций притягивают к себе крупные стартапы, хотя по своему масштабу они уже переросли многие публичные компании. Капитализация OpenAI, например, недавно превысила $500 млрд, а Anthropic после недавнего привлечения $13 млрд стоит около $183 млрд. В прошлом квартале американские венчурные инвесторы 62,7 % вкладываемых средств направили в сферу искусственного интеллекта, в глобальном масштабе эта доля достигла 53,2 %. В целом, как отмечают представители Pitchbook, рынок венчурных инвестиций сейчас раздвоен по нескольким признакам: «Ты либо в сфере ИИ, либо нет. Ты большая компания, либо нет». С начала этого года сумма сделок по венчурному инвестированию достигла $366,8 млрд, из них на территории США было потрачено $250,2 млрд. При этом за пределами сегмента ИИ дела идут не очень хорошо. Количество компаний, получивших венчурное финансирование, сократилось до минимума за последние годы, количество венчурных инвесторов также снизилось. Во всём мире общее количество венчурных фондов ограничилось 823 штуками, они сообща привлекли лишь $80 млрд с начала года. В 2022 году, например, 4430 венчурных фонда привлекли около $412 млрд. Участники рынка стали более избирательны, они отдают предпочтение проектам, связанным с искусственным интеллектом. В Meta✴ начали отслеживать активность использования ИИ сотрудниками — через игру
06.10.2025 [04:28],
Анжелла Марина
Meta✴ стала активно внедрять искусственный интеллект в повседневную работу своих сотрудников, и делает это не просто через указания сверху, а с помощью игровых механик. С начала 2025 года в компании запустили панель мониторинга, которая показывают, насколько активно разные команды используют ИИ-инструменты. При этом подход варьируется: в одних подразделениях сотрудников мягко поощряют экспериментировать, в других необходимо достигать поставленных задач. 
Источник изображения: AI Как сообщает Business Insider, сотрудники используют внутреннего ИИ-ассистента под названием Metamate для самых разных задач, например, он помогает в написании и оптимизации кода, генерации идей, оформления документов и других корпоративных задач. А чтобы мотивировать работников быстрее осваивать технологии, Meta✴ запустила программу Level Up, смысл которой заключается в том, что за достижение определённых этапов в использовании искусственного интеллекта сотрудники получают виртуальные медали. Особенно амбициозные планы у команды Reality Labs, отвечающей за VR-устройства и аппаратные разработки, и стремящейся достичь показателя использования ИИ более 75-% сотрудниками. Отмечается, что за последние месяцы показатель вырос с 30 % в июне до 70 % в октябре и цель практически уже близка. Генеральный директор Meta✴ Марк Цукерберг (Mark Zuckerberg) не раз подчёркивал, что внутреннее применение ИИ — один из ключевых приоритетов компании. Ещё в январе он заявил в подкасте Джо Рогана (Joe Rogan), что к концу 2025 года ИИ сможет работать на уровне инженера средней квалификации. При этом в апреле, на отчётной конференции, он сказал, что уже к середине–концу 2026 года ИИ-агенты, по его ожиданиям, будут выполнять значительную часть исследований и разработок. В Meta✴ отметили, что целенаправленно делают ИИ частью ежедневного рабочего процесса, и такой подход в целом отражает общую тенденцию в индустрии. Например, Google отслеживает, сколько дополнительных часов продуктивности даёт ИИ инженерам, Microsoft увязывает его использование с производительностью, а другие корпорации активно закупают специализированное ПО для контроля внедрения ИИ. По словам поставщиков таких систем, за последние два года спрос на них резко вырос, так как работодатели хотят не просто использовать технологию, а убедиться, что она действительно приносит пользу, экономя время, снижая издержки и повышая производительность труда. Глава OpenAI Сэм Альтман отправился в мировое турне с целью заключения новых контрактов
05.10.2025 [07:44],
Алексей Разин
Как и Nvidia, компания OpenAI остаётся одним из выгодоприобретателей в условиях сохраняющегося бума ИИ, поэтому их руководители не стесняются предлагать свои услуги не только крупным корпорациям, но и правительствам отдельных стран. Генеральный директор OpenAI с подобной миссией недавно отправился в Юго-Восточную Азию и на Ближний Восток. 
Источник изображения: OpenAI По информации The Wall Street Journal, поездка Альтмана в указанные регионы имеет своей целью не только продвижение услуг компании по созданию так называемой суверенной инфраструктуры ИИ, но и привлечение капитала на её развитие. Кроме того, OpenAI не упускает возможности привлечь дополнительные производственные мощности для выпуска необходимого ей оборудования и компонентов. Среди этих партнёров OpenAI также готова искать инвесторов для собственных проектов. С конца сентября Сэм Альтман уже успел посетить Тайвань, Южную Корею и Японию, встретившись с представителями TSMC, Foxconn, Samsung и SK hynix. Две последние компании по итогам встречи их руководства с Альтманом взяли на себя обязательства по расширению производственных мощностей, которое позволит им увеличить объёмы поставок микросхем памяти. Альтман также убеждал поставщиков оборудования и компонентов отдать приоритет обслуживанию заказов OpenAI. На следующем этапе Альтман должен отправиться на Ближний Восток, чтобы привлечь там новых инвесторов к проектам, реализуемым компанией. Это уже не первая попытка главы OpenAI ускорить процесс финансирования бизнеса его стартапа. В начале 2024 года он тоже обсуждал с партнёрами и арабскими инвесторами амбициозные планы по развитию вычислительной инфраструктуры для ИИ, но тогда столкнулся со скептическим отношением многих потенциальных инвесторов, которые сочли предлагаемые проекты нереалистичными на фоне скромной выручки, генерируемой сервисами OpenAI в то время. Возможно, сейчас финансовые показатели компании, которая ежемесячно получает более $1 млрд выручки, способны убедить инвесторов раскошелиться быстрее и охотнее. Nvidia уже объявила о намерениях инвестировать в OpenAI свои $100 млрд, но фокус заключается в том, что она получит обратно основную часть этих средств в форме оплаты за аренду своих ускорителей вычислений. Тем не менее, данная сделка способна подтолкнуть прочих инвесторов предложить свою поддержку OpenAI. Капитализация OpenAI недавно выросла до $500 млрд, что также характеризует её, как пользующуюся доверием инвесторов. Samsung и SK hynix после встречи своих руководителей с Альтманом заявили, что потребности OpenAI в микросхемах памяти могут соответствовать 900 000 кремниевых пластин в месяц, а это в два раза больше, чем могут производить сообща все участники рынка HBM сейчас. Мощности по выпуску памяти придётся наращивать. Альтман также вёл переговоры с компаниями, которые будут вовлечены в производство вычислительных систем на основе ускорителей Nvidia поколения Rubin, которые выйдут на рынок в следующем году. По всей видимости, в число партнёров OpenAI на этом направлении попала и Foxconn. На Ближнем Востоке Альтман собирается встретиться с представителями инвестиционных компаний из ОАЭ, а также руководством G42, которая уже отвечает за эксплуатацию ЦОД американского стартапа в регионе. Привлекаемые здесь средства будут направлены на строительство ближневосточного сектора Stargate — мегапроекта, подразумевающего строительство в США инфраструктуры ИИ стоимостью $500 млрд за четыре года. В общении со своими инвесторами и партнёрами руководство OpenAI недавно призналось, что на аренду серверных мощностей компания в этом году потратит не менее $16 млрд, а к 2029 году эти затраты взлетят до $400 млрд. В своём блоге Альтман недавно заявил: «Наше видение весьма понятно: мы хотим создать фабрику, способную создавать гигаваттную ИИ-инфраструктуру каждую неделю». Только в сотрудничестве с Nvidia стартап собирается привлечь до 10 ГВт вычислительной мощности, а в целом она хватается за любую возможность сформировать союз с крупными компаниями типа Oracle или SoftBank. Sora поделится прибылью — OpenAI предложит роялти за использование персонажей Disney и других
04.10.2025 [08:44],
Алексей Разин
Проблема защиты авторских прав при использовании генерируемого нейросетями контента давно будоражит заинтересованных правообладателей, в сфере заимствования текстовой информации она уже породила серию крупных судебных дел с многомиллиардными исками. OpenAI хочет предоставить правообладателям возможность регулировать использование своей интеллектуальной собственности в Sora. 
Источник изображения: OpenAI Напомним, что речь идёт о средстве создания видео при помощи искусственного интеллекта, которое недавно вышло в обновлённом варианте. Глава OpenAI Сэм Альтман в своём блоге в пятницу заявил, что компания предоставит правообладателям более чёткий контроль над созданием персонажей, которые изначально были придуманы ими. Телекомпании и киностудии смогут блокировать использование тех образов создателями видео в Sora, которых сочтут ограничить в копировании и воспроизведении. По данным Reuters, студия Disney уже выразила намерения блокировать использование своего материала в Sora. Альтман добавил, что при этом OpenAI собирается ввести механизм монетизации для тех правообладателей, которые разрешат использование своих персонажей в Sora. По сути, они смогут получать своего рода роялти. Люди создают видео гораздо активнее, чем ожидала OpenAI, нередко для ограниченной аудитории, потребность в монетизации такого контента становится всё более очевидной. Впрочем, Альтман не скрывает, что попытки реализовать монетизацию в этой сфере пройдут путём проб и ошибок, и нужного результата не удастся добиться сразу. Компания готова испытать несколько вариантов, прежде чем остановится на лучшем из них. На орбите появятся гигантские дата-центры для ИИ в течение десяти лет, уверен Джефф Безос
04.10.2025 [07:08],
Алексей Разин
Выступая на технологической конференции в итальянском Турине на этой неделе, основатель и бывший руководитель Amazon Джефф Безос (Jeff Bezos) не только охарактеризовал состояние ИИ-отрасли и её ближайшее будущее, но и выразил уверенность, что в течение 10–20 лет станет возможным создание центров обработки данных в космосе. 
Источник изображения: AWS По мнению Безоса, доступ к непрерывным потокам солнечной энергии позволит таким центрам обработки данных превосходить по производительности те, что расположатся на Земле. По своей мощности они будут достигать гигаваттных масштабов, как убеждён миллиардер. «Гигантские обучающие кластеры, их лучше строить в космосе, поскольку мы имеем доступ к солнечной энергии в режиме 24/7. Там нет облачность и дождей, нет погоды. Мы сможем осилить расходы по созданию внеземных центров обработки данных в ближайшие пару десятилетий», — заявил Безос. Смещение в сторону космической инфраструктуры, по его мнению, станет частью более масштабной инициативы по улучшению жизни на Земле благодаря освоению космоса. Как он отметил, это уже произошло с метеорологическими и телекоммуникационными спутниками. Следующим этапом станут центры обработки данных, а потом дело дойдёт до некоторых видов производственной деятельности. Говоря о перспективах распространения ИИ в целом, Безос добавил: «Мы должны быть предельно оптимистичны в том, что социальные блага, которые приносит ИИ, подобные тем, что наблюдались 25 лет по мере распространения интернета, реальны и останутся надолго». Он убеждён, что нужно отделять потенциальные «пузыри» и последствия от их схлопывания, которые могут как случиться, так и нет, от объективной реальности. Microsoft предсказала биологические угрозы «нулевого дня» из-за ИИ
03.10.2025 [18:16],
Павел Котов
Экспертам Microsoft при помощи искусственного интеллекта удалось обнаружить уязвимости «нулевого дня» в системах биологической безопасности, которые используются для предотвращения несанкционированного использования ДНК. 
Источник изображения: Braňo / unsplash.com Такие системы блокируют продажу и покупку генетических последовательностей, которые могут использоваться для создания смертельно опасных токсинов и патогенов. Группе исследователей под руководством старшего научного сотрудника Microsoft Эрика Хорвица (Eric Horvitz) удалось обойти эту защиту способом, ранее неизвестным специалистам в области безопасности. Хорвиц и его сотрудники подключили алгоритмы генеративного ИИ, предназначенные для получения новых форм белков — подобные программы уже помогают в открытии новых препаратов. Проблема в том, что они могут иметь двойное назначение, генерируя структуры не только полезных, но и опасных молекул. В Microsoft с 2023 года начали изучать потенциал систем ИИ двойного назначения, чтобы установить, способны ли подобные системы помочь биотеррористам в производстве вредоносных белков. Эксперты компании попытались преодолеть защиту ПО для обеспечения биологической безопасности. При производстве белков исследователи обычно заказывают у коммерческих поставщиков последовательности ДНК, которые впоследствии можно ввести в клетку. При помощи ПО поступающие заказы сравниваются с известными токсинами и патогенами — при близких совпадениях срабатывают оповещения. В разработке схемы атаки Microsoft применяла несколько моделей для генерации белков, в том числе свою собственную EvoDiff; исследователи поставили цель перепроектировать токсины таким образом, чтобы они могли пройти контроль ПО, но сохранить свои смертоносные свойства. 
Источник изображения: digitale / unsplash.com Эксперимент проводился полностью в цифровой среде: в реальности они не создавали ни одного токсичного белка, чтобы избежать подозрений, что компания разрабатывает биологическое оружие. Microsoft также заявила, что перед публикацией материалов исследования оповестила о нём власти США и производителей ПО, хотя некоторые разработанные ИИ-молекулы всё равно обходят эту защиту. В компании Integrated DNA Technologies, крупном производителе ДНК-материалов, заявили, что закрытие этих уязвимостей — это не разовая работа, а «начало дальнейших испытаний», и сравнили сложившуюся ситуацию с «гонкой вооружений». Чтобы гарантировать, что результаты исследования не будут использованы не по назначению, исследователи из Microsoft не стали раскрывать подробностей своей работы и не сообщили, какие белки они просили ИИ переработать. Впрочем, есть мнение, что подобные точечные акции не помогут решить общую проблему, и лучшей защитой от злонамеренных действий было бы встроить средства защиты в сам ИИ — либо напрямую, либо посредством контроля над информацией, которую он выдаёт. Ещё более надёжным способом защиты является мониторинг самого синтеза генов на уровне производителя, потому что технологии ИИ становятся всё более распространёнными, и контролировать их труднее. «Этого джинна обратно в бутылку не загонишь. Если у тебя есть ресурсы, чтобы обманом попытаться заставить нас создать последовательность ДНК, ты, вероятно, сможешь и обучить большую языковую модель», — признают учёные. Cloudflare обновила robots.txt: теперь сайты могут запретить ИИ-чат-ботам воровать контент
03.10.2025 [17:19],
Павел Котов
Cloudflare объявила о поддержке новых директив для файла robots.txt, учитывающих, что сайты теперь посещают роботы не только поисковых систем, но и чат-ботов с искусственным интеллектом. 
Источник изображения: cloudflare.com Файл robots.txt можно найти почти на каждом веб-сайте. В нём содержатся директивы по поводу того, какие страницы поисковые системы и боты могут посещать, а какие — не могут. Требования этого файла технически не являются обязательными к выполнению, но на заре интернета, когда службы вроде Google их соблюдали, проблем не возникало. Всё изменило появление ИИ: чат-боты не индексируют сайты в традиционном смысле, а копируют их содержимое для обучения или генерации ответов. Системы многих занимающихся ИИ компаний попросту игнорируют robots.txt или маскируются под поисковые роботы, чтобы обходить ограничения. Cloudflare занимается защитой около 20 % ресурсов интернета, и у компании есть возможность отслеживать эти процессы в больших масштабах. Поэтому она представила «Политику сигналов о контенте» (Content Signals Policy) — это новый способ для владельцев сайтов установить, разрешают ли он ИИ работать со своими материалами. Основу новой политики составляют новые инструкции robots.txt. Доступны три варианта:
Источник изображения: Steve Johnson / unsplash.com Каждая из этих инструкций может принимать значения «yes» (да) или «no» (нет). То есть владелец сайта может разрешить показывать его контент в результатах поиска, но запретить обучение ИИ на этих материалах. Cloudflare уже развернула эту функцию для более чем 3,8 млн доменов. По умолчанию для поиска установлено положительное значение, для использования материалов в ответах ИИ — отрицательное, а для обучения — никакого, чтобы владелец сайта принимал это решение сам. Cloudflare фиксирует установки этих директив как юридически значимые, то есть их можно будет использовать в судебных разбирательствах с разработчиками ИИ. Если большинство разработчиков ИИ начнёт соблюдать эти директивы, в интернете де-факто установится новый стандарт — в противном случае грозит возникнуть конфликт с блокировками и мерами юридического характера. Проблемным игроком может оказаться Google, чей Googlebot используется и для индексирования сайтов, и для функций ИИ, поэтому у владельцев сайтов нет возможности отказаться от поддерживаемых технологическим гигантом решений, не потеряв позиций в поисковой выдаче. Пока же регулирование сегмента ИИ остаётся чрезвычайно отрывочным. Генератор видео OpenAI Sora 2, как оказалось, способен полностью воссоздавать миссии из игры Cyberpunk 2077, хотя едва ли компании давали разрешение на использование этого контента. То же касается таких персонажей как Марио и Пикачу, хотя Nintendo нечасто вступает в конфликты с крупными игроками. Cloudflare же теперь тестирует функцию «платы за сканирование» — владельцы сайтов смогут брать деньги за доступ ботов к ресурсам. При попытке бесплатного доступа система выведет ошибку 402 — «Требуется оплата» (Payment Required). Джефф Безос: ИИ — это «промышленный пузырь», но он поможет человечеству
03.10.2025 [16:34],
Павел Котов
Искусственный интеллект сейчас представляет собой «промышленный пузырь», но эта технология «реальна», и она принесёт обществу значительную пользу. Такое заявление сделал на конференции в итальянском Турине основатель Amazon Джефф Безос (Jeff Bezos), сообщает CNBC. 
Источник изображения: Igor Omilaev / unsplash.com Словом «пузырь» обычно характеризуют период завышенных оценок компаний и их акций, оторванных от фундаментальных основ бизнеса. Одним из наиболее известных лопнувших пузырей был крах доткомов в 2000 году, когда рухнула стоимость связанных с интернетом компаний. На мероприятии Italian Tech Week гендиректор холдинга Exor Джон Элканн (John Elkann) поинтересовался у Безоса, есть ли признаки того, что отрасль ИИ является пузырём. «Это своего рода промышленный пузырь», — признал основатель Amazon. Безос перечислил некоторые отличительные характеристики пузырей, отметив, что на этом этапе «цены акций отрываются от фундаментальных основ» бизнеса. В обществе же царит энтузиазм в отношении технологий, формирующих пузырь, — финансирование получает каждый экспериментальный продукт или идея. «Хорошие идеи и плохие идеи. В этом ажиотаже инвесторам трудно отличить хорошие идеи от плохих. И то же, вероятно, творится и сегодня. Но это не значит, что всё происходящее нереально. ИИ реален, и он изменит каждую отрасль», — заявил Джефф Безос. Он привёл в пример компанию со штатом из шести человек и миллиардными инвестициями — такой чрезвычайный энтузиазм основатель Amazon назвал необычным, но, тем не менее, бывает и такое, сказал он, хотя и не уточнил название организации. Некоторые пузыри, по его мнению, могут приносить пользу — в качестве положительного примера он назвал бум биотехнологических и фармацевтических компаний. Многие из них обанкротились, но появились и жизненно важные препараты. «Промышленные пузыри не так уж дурны и могут оказаться полезными, когда пыль осядет, и станет видно, кто в выигрыше, обществу эти изобретения будут полезны. То же произойдёт и здесь. Это реально: преимущества ИИ для общества будут колоссальными», — отметил господин Безос. Microsoft мечтает об отказе от чипов Nvidia и AMD в пользу собственных чипов, но не скоро
03.10.2025 [09:54],
Алексей Разин
Облачные гиганты и ранее стремились создать собственные полупроводниковые компоненты, которые лучше учитывали бы специфику их работы с вычислительной нагрузкой, а на фоне бума искусственного интеллекта тенденция только усилилась. Microsoft в будущем намерена полагаться преимущественно на чипы собственной разработки в своих ЦОД. 
Источник изображения: Microsoft Об этом на уходящей неделе заявил технический директор Microsoft Кевин Скотт (Kevin Scott), выступая на мероприятии в Италии, которое было организовано при участии CNBC. Сейчас Microsoft в своих центрах обработки данных опирается преимущественно на ускорители производства AMD и Nvidia. При этом при формировании аппаратной части инфраструктуры Microsoft всегда старается выбрать те компоненты, которые обеспечивают наилучшее соотношение цены и производительности. «Мы не религиозны в отношении того, чем являются чипы. Это подразумевает, что на протяжении многих лет лучшим решением с точки зрения соотношения цены и производительности была Nvidia. Мы будет делать всё возможное для того, чтобы получить достаточно мощностей для удовлетворения спроса», — заявил Кевин Скотт. Это не отменяет того факта, что Microsoft продолжает разрабатывать собственные чипы для работы в условиях ЦОД. С 2023 года она использует ускорители Maia в собственных серверных системах, а также располагает центральными процессорами Cobalt собственной разработки. По словам Скотта, компания уже сейчас использует достаточно много чипов собственной разработки, а в долгосрочной перспективе с абсолютной уверенностью готова сделать их основой всей своей вычислительной инфраструктуры. В будущем Microsoft намерена полностью разрабатывать серверные системы, включая телекоммуникационные решения и охлаждение, а не только проектировать чипы. Только обладая подобной свободой действий, по мнению Скотта, можно создать вычислительную инфраструктуру, оптимизированную для используемых вычислительных нагрузок. Конкурирующие Google и Amazon (AWS) также разрабатывают собственные полупроводниковые компоненты. Даже с учётом выделения лидерами рынка более чем $300 млрд капитальных затрат в текущем году, по словам технического директора Microsoft, в мире наблюдается дефицит вычислительных мощностей. «Я думаю, мы находимся в ситуации, когда практически невозможно построить достаточно мощностей с тех пор, как был запущен ChatGPT», — признался Скотт. Сама Microsoft старается строить как можно больше вычислительных центров, но этого всё равно недостаточно. Как отмечает Скотт, даже самые амбициозные планы и проекты Microsoft оказываются недостаточными по итогам своей реализации. По этой причине компания не только ввела в строй серьёзный объём вычислительных мощностей за прошедший год, но и собирается вводить ещё больше в последующие годы. Американский проект по строительству крупного ЦОД в ОАЭ забуксовал, даже не стартовав
03.10.2025 [07:06],
Алексей Разин
Майская поездка президента Дональда Трампа (Donald Trump) в ряд стран Ближнего Востока принесла новости о строительстве в ОАЭ крупнейшего центра обработки данных за пределами США, который должен быть потреблять до 5 ГВт и приютить до 2,5 млн ускорителей вычислений Nvidia. Пока реализация этого проекта не сдвинулась с места, хотя с момента анонса прошло уже почти пять месяцев. 
Источник изображения: Nvidia Об этом в пятницу сообщило издание The Wall Street Journal, которое отметило, что задержка с реализацией данного проекта настораживает не только американских чиновников, но и главу Nvidia Дженсена Хуанга (Jensen Huang). Руководитель компании, которая является крупнейшим поставщиком ускорителей вычислений для инфраструктуры ИИ в мире, весьма востребован в последние месяцы, недавно он заключил сделку с OpenAI на $100 млрд, но её условия подразумевают возврат заметной части этих средств на счета самой Nvidia, поэтому основатель компании старается не упускать выгоду. По всей видимости, возможностей Nvidia и её партнёров для удовлетворения спроса на ускорители по всему миру всё же не хватает, и Ближний Восток отходит на второй план в очереди желающих их получить. Тем более, что источники приписывают министру торговли США Говарду Лютнику (Howard Lutnick) попытки давления на Nvidia с целью предоставить приоритет американским клиентам компании. Напомним, в случае с проектом в ОАЭ компания OpenAI должна была стать главным эксплуатантом вычислительных мощностей, поскольку этот ЦОД планировалось интегрировать в инфраструктуру мегапроекта Stargate. Если позиции Nvidia и американского государства в целом на Ближнем Востоке из-за этой задержки пошатнутся, то китайские разработчики и поставщики компонентов для инфраструктуры ИИ могут попытаться закрепиться в регионе, поскольку они делали это и ранее, пока новый американский президент не начал их теснить политическими методами. Странам региона пришлось пойти на уступки в переговорах с США и отказаться от использования китайских компонентов, но теперь они оказываются в щекотливом положении, поскольку американцы свои обещания выполнять не торопятся, при этом не отменяя и выдвинутых ранее требований. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2025 Электронное периодическое издание "3ДНьюс" | Свидетельство о регистрации СМИ Эл ФС 77-22224
выдано Федеральной Службой по надзору за соблюдением законодательства в сфере массовых коммуникаций и охране культурного наследия
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews. kz
MWC 2018
2018
Computex
IFA 2018
