AMD сообщила о намерении открыть исходный код большего количества своих программных продуктов Radeon и предоставить больше сведений о своих графических процессорах — интерес к ним растёт.

Источник изображения: amd.com

Рост интереса к видеокартам AMD Radeon связан с популярностью генеративного искусственного интеллекта и стремлением отрасли нарастить присутствие мощного оборудования, отличного от Nvidia. Как показала практика, «зелёные» не в состоянии выпускать ИИ-ускорители в достаточно крупных объёмах, чтобы удовлетворить спрос. Уже один этот факт является мощным фактором роста для AMD.

AMD объявила, что планирует открыть исходный код большей части своего программного стека Radeon. Это, в частности, может значить, что открытым будет исходный код большей части ROCm (Radeon Open Compute Platform) — стека, который включает широкий набор моделей программирования, инструментов, компиляторов, библиотек и сред выполнения для разработки решений в области ИИ и высокопроизводительных вычислений на графических процессорах AMD. Но подробностей об этом компания пока не сообщила.

Источник изображения: twitter.com/amdradeon

Производитель также пообещал, что вскоре предоставит разработчикам дополнительную документацию по оборудованию. Это, в частности, поможет сторонним игрокам в реализации продукции AMD, а значит, будет способствовать и росту продаж компании. Рынок вычислений на графических процессорах также выиграет от появления более жизнеспособных вариантов на базе Radeon. AMD, наконец, сможет извлечь максимальную выгоду из бума ИИ.

Как стало известно агентству Reuters, ряд крупных технологических компаний, включая Intel, Google, Arm, Qualcomm, Samsung и т.д., сформировала группу под названием The Unified Acceleration Foundation (UXL). Компании объединились для создания ПО с открытым исходным кодом, которое позволило бы разработчикам решений на базе искусственного интеллекта (ИИ) не быть привязанными к проприетарным технологиям Nvidia.

Источник изображения: Nvidia

В настоящее время более 4 млн разработчиков по всему миру используют программную платформу Nvidia CUDA для создания ИИ-приложений и других программ. UXL являются частью растущего сообщества компаний, борющихся с доминированием Nvidia в области ИИ. «На самом деле мы демонстрируем разработчикам, как перейти с платформы Nvidia», — сообщил в интервью Reuters Винеш Сукумар (Vinesh Sukumar), руководитель отдела ИИ и машинного обучения Qualcomm.

В настоящее время проект включает открытый стандарт OneAPI, разработанный Intel, чтобы исключить необходимость использования определённых языков программирования, баз данных и другие инструментов, одним словам всех требований, которые вынуждают разработчиков использовать конкретную архитектуру, такую как платформа Nvidia CUDA. По словам руководителей группы, проект с открытым исходным кодом направлен на то, чтобы созданный компьютерный код работал на любой вычислительной машине, независимо от того, какой чип и оборудование в ней используются.

Google в качестве одного из основателей UXL помогает определять техническое направление проекта, сообщил директор и главный технолог по HPC Билл Хьюго (Bill Hugo). По его словам, в первом полугодии 2024-го будут утверждены технические спецификации, а к концу года технические детали проекта должны достичь «зрелого» состояния.

Помимо участников, UXL планирует привлекать провайдеров облачных вычислений, включая Amazon и Microsoft Azure, а также производителей чипов. По словам руководителей группы, с момента запуска в сентябре прошлого года UXL уже начала получать техническую информацию от её участников и сторонних компаний, заинтересованных в использовании технологии с открытым исходным кодом.

UXL планирует заняться решением наиболее насущных вычислительных проблем, связанных с доминированием нескольких производителей чипов в сфере ИИ и HPC, чтобы в перспективе привлечь критическую массу разработчиков на свою платформу. Планы UXL также включают поддержку в дальнейшем оборудования и кода Nvidia.

Конфликт миллиардера Илона Маска (Elon Musk) с основателями OpenAI вокруг гуманистических ценностей в сфере искусственного интеллекта привёл к достаточно неожиданным последствиям. Основанный Маском стартап xAI пообещал открыть исходный год своего чат-бота Grok на этой неделе. Примечательно, что частным пользователям X доступ к этому чат-боту предоставляется за $16 в месяц.

Источник изображения: xAI

Если xAI опубликует исходный год своего чат-бота Grok, то этот стартап присоединится к ряду компаний, которые это уже сделали, причём среди них оказалась запрещённая в РФ компания Meta✴ Platforms Марка Цукерберга (Mark Zuckerberg). Французский стартап Mistral также вошёл в число сторонников открытия свободного доступа к исходному коду своего чат-бота.

Илон Маск давно продвигает идею свободного доступа к разработкам принадлежащих ему компаний. Многие из патентов Tesla с 2014 года доступны для использования всем желающим, хотя на практике выясняется, что использовать их безвозмездно всё же не получится. Как тогда отмечалось, на такой шаг Tesla пошла из стремления ускорить переход на электромобили. В прошлом году принадлежащая Маску социальная сеть X раскрыла часть исходного кода своих программных алгоритмов. Теперь к ним присоединится и стартап xAI, который работает в сфере систем генеративного искусственного интеллекта.

Сегодня коалиция OpenTitan анонсировала первый коммерческий микропроцессор безопасности, построенный на одноимённой аппаратной платформе с открытым исходным кодом. По словам компании, это ещё одна веха в развитии открытого аппаратного обеспечения, которое набирает обороты благодаря открытой процессорной архитектуры RISC-V.

Источник изображения: OpenTitan

Чип под названием Earl Grey использует процессорное ядро на базе RISC-V и включает в себя ряд встроенных аппаратных модулей безопасности и криптографии. Проект был начат в 2019 году коалицией компаний, основанной Google и возглавляемой некоммерческой организацией lowRISC в Кембридже, Великобритания. По образцу программных проектов с открытым исходным кодом, он разрабатывается участниками со всего мира, как официальными партнерами проекта, так и независимыми инженерами.

«Этот чип очень, очень интересен, — говорит один из создателей OpenTitan, генеральный директор zeroRISC Доминик Риццо (Dominic Rizzo). — Но есть и нечто гораздо большее — это разработка совершенно нового типа методологии. Вместо традиционной... командно-административной структуры — распределенная». Открытый исходный код «просто берет верх, потому что он обладает определенными ценными свойствами... Я думаю, мы видим начало этого в кремнии», добавил Риццо.

Разработанная методология называется Silicon Commons. Разработка открытого аппаратного обеспечения сталкивается с проблемами, которых нет у программного обеспечения с открытым исходным кодом: более высокая стоимость, меньшее профессиональное сообщество и невозможность исправления ошибок в патчах после выпуска продукта, объясняет генеральный директор lowRISC Гэвин Феррис (Gavin Ferris). Фреймворк Silicon Commons предусматривает правила документирования, предопределенные интерфейсы и стандарты качества, а также структуру управления, определяющую, как различные партнеры принимают решения как единое целое.

Еще одним ключом к успеху проекта, по словам Ферриса, стал выбор проблемы, решение которой стимулировало бы всех партнеров продолжать участвовать в проекте. Аппаратные модули безопасности подошли для этой работы как нельзя лучше из-за их коммерческой важности, а также из-за того, что они особенно подходят для модели с открытым исходным кодом. В криптографии есть понятие, известное как принцип Керкхоффса, который гласит, что единственное, что должно быть секретным в криптосистеме, это сам секретный ключ. Открытый доступ ко всему протоколу гарантирует, что криптосистема соответствует этому правилу.

Источник изображения: lowRISC

В OpenTitan используется аппаратный протокол безопасности Root-of-trust (RoT). Идея заключается в том, чтобы обеспечить источник криптографических ключей на кристалле, недоступный удаленно. Поскольку в противном случае ключ недоступен, система может быть уверена, что он не был подделан, обеспечивая основу для построения безопасности. Обычные проприетарные чипы также могут использовать технологию RoT. По мнению сторонников, открытый доступ к ней обеспечивает дополнительный уровень доверия. Поскольку любой желающий может проверить и изучить дизайн, теоретически вероятность того, что ошибки будут замечены, выше, а их исправление может быть проверено.

Подобная защита на кристалле особенно актуальна для устройств, формирующих Интернет вещей (IoT), которые страдают от нерешенных проблем безопасности.

Риццо и Феррис считают, что их чип представляет собой шаблон для разработки аппаратного обеспечения с открытым исходным кодом, который будут копировать другие коллективы. Помимо обеспечения прозрачной безопасности, открытые технологии экономят деньги компаний, позволяя им использовать готовые аппаратные компоненты вместо того, чтобы самостоятельно разрабатывать запатентованные версии одного и того же устройства. Это также открывает возможности для участия в проекте большего числа партнеров, включая академические институты, такие как партнер коалиции OpenTitan — Высшая техническая школа Цюриха. Благодаря участию академических кругов OpenTitan смог включить криптографические протоколы, которые безопасны для будущих квантовых компьютеров.

«Как только методология будет доказана, ее подхватят другие, — говорит Риццо. — Если вы посмотрите, что произошло с программным обеспечением с открытым исходным кодом, то сначала люди думали, что это своего рода попытка вырваться на волю, а потом оказалось, что оно работает почти на каждом мобильном телефоне. Оно просто захватило власть, потому что обладает определенными ценными свойствами. И я думаю, что сейчас мы видим начало этого в кремнии».

Apple при поддержке учёных Корнеллского университета ещё в октябре выложила в открытый доступ собственную мультимодальную большую языковую модель Ferret, которая в качестве запросов может принимать фрагменты изображений.

Источник изображения: Laurenz Heymann / unsplash.com

Выход Ferret на GitHub в октябре не сопровождался со стороны Apple крупными объявлениями, но проект впоследствии привлёк участие специалистов отрасли. Принцип работы Ferret состоит в том, что модель изучает указанный фрагмент изображения, идентифицирует объекты на этом участке и очерчивает их рамкой. Распознанные на фрагменте изображения объекты система воспринимает как часть запроса, ответ на который предоставляется в текстовом формате. К примеру, пользователь может выделить на картинке изображение животного и попросить Ferret распознать его. Модель даст ответ, к какому виду относится животное, и ей можно будет задать дополнительные вопросы в контексте, уточнив информацию по другим объектам или действиям.

Источник изображения: twitter.com/zhegan4

Открытая модель Ferret — это система, способная «давать ссылки и обосновывать что угодно, где угодно и с любыми подробностями», пояснил исследователь из ИИ-подразделения Apple Чжэ Гань (Zhe Gan). Отраслевые эксперты отмечают важность выхода проекта в этом формате — он демонстрирует открытость традиционно закрытой компании. По одной из версий, Apple решилась на этот шаг, поскольку стремится конкурировать с Microsoft и Google, но не обладает сопоставимыми вычислительными ресурсами. Из-за этого она не смогла рассчитывать на выпуск собственного конкурента ChatGPT и была вынуждена выбирать между партнёрством с облачным гиперскейлером и выпуском проекта в открытом формате, как это ранее сделала Meta✴.

«Яндекс» объявил о старте нового этапа ежегодной программы грантов Yandex Open Source, в рамках которой разработчики интересных и важных опенсорс-проектов получат гранты, которые можно будет использовать на платформу данных, инструменты для разработки и другие сервисы Yandex Cloud. Лучшие проекты получат гранты по 600 тыс. рублей каждый. 15 победителей Yandex Open Source 2024 будут определены до мая 2024 года.

Заявки на участие принимаются в трёх треках: обработка и хранение данных, разработка, машинное обучение. Каждый разработчик сможет принять участие в программе только с одним проектом. Рассмотрением заявок и определением победителей займётся программный комитет, состоящий из менеджеров и разработчиков опенсорс-решений Яндекса — YTsaurus, YDB, userver, Diplodoc и других. Комитет оценит актуальность и полезность каждого проекта, а также активность репозитория и потенциал развития.

Претендовать на получение гранта в Yandex Open Source 2024 сможет независимый разработчик или группа разработчиков, а также сотрудники крупных компаний при условии, что проект разрабатывается вне основной работы и вне репозиториев, связанных с работодателем. Доступ к программе закрыт для сотрудников группы компаний «Яндекса», даже если будет предложен собственный сторонний проект.

«Команды “Яндекса” не только выкладывают в опенсорс свои разработки, но и активно пользуются внешними решениями и помогают их развивать. Для нас это очень важно, так как мы верим, что технологии должны быть открыты и доступны для мира. А чтобы открытые проекты могли развиваться лучше и ещё быстрее, мы запускаем программу грантов», — сообщила директор по маркетингу опенсорс-технологий «Яндекса» Лейсан Зигангирова.

Приём заявок на участие в программе Yandex Open Source 2024 продлится с 27 ноября по 29 февраля 2024 года. Затем, в течение месяца пройдёт их рассмотрение и 1 апреля 2024 года будут объявлены победители, которые получат гранты до 30 мая 2024 года.

Узнать правила и подать заявку на грант можно на странице программы, а на сайте — ознакомиться с инициативой Yandex Open Source и проектами «Яндекса» с открытым исходным кодом.

АО «Группа Астра» (головное юрлицо разработчика ОС Astra Linux ООО «РусБИТех-Астра») планирует до конца года запустить платформу для совместной разработки открытого кода, которая должна стать альтернативой зарубежным сервисам GitHub и GitLab. Это означает, что компания включается в гонку по запуску отечественного аналога GitHub, в которой уже принимают участие «Ростелеком», ДИТ Москвы и Минцифры.

Источник изображения: Pixabay

В рамках реализации проекта по выведению на рынок российского аналога GitHub АО «Группа Астра» купила долю в размере 26 % в ООО «Ресолют», разработчике платформы для хранения открытого исходного кода и совместной разработки GitFlic. В «Группе Астра» уточнили, что это первый этап сделки, по итогам второго этапа компания станет владельцем 51 % «Ресолюта», а остальные доли останутся у основателей предприятия.

«Компания уже работает над платформой, которая будет представлять собой законченную среду с комбинацией инструментов управления исходными кодами, тестированием, автоматизацией, документацией, фреймворком, шаблонами разработки», — рассказал гендиректор АО «Группы Астра» Илья Сивцев. Он подтвердил разработку аналога зарубежных сервисов вроде GitHub, а также сообщил о намерении запустить платформу до конца этого года.

В «Ресолюте» сообщили, что поддержка крупного вендора позволит увеличить темпы разработки продукта. Компания также намерена вывести на рынок «коробочные решения, в том числе со средствами защиты информации». Сумма сделки, в рамках которой 51 % «Ресолюта» перейдёт под контроль АО «Группа Астра», не разглашается. Гендиректор «АФИ Капитал» Алексей Гориславец считает, что сумма сделки по покупке 26 % «Ресолюта» может составлять 5 млн рублей, а в случае получения контроля — 10 млн рублей.

В рамках заключённого ещё в феврале этого года соглашения компания IBM и NASA создали и открыли доступ к открытой ИИ-платформе для геопространственного анализа спутниковых снимков. В основе инструмента лежат спутниковые снимки (гармонизированные данные) из базы NASA, собранные европейским спутником Sentinel-2. Новый ИИ-инструмент облегчит анализ геоданных и поможет учёным лучше понимать климатические изменения и перспективы.

Источник изображения: IBM

«Никогда еще не была так очевидна важная роль технологий с открытым исходным кодом для ускорения таких важнейших областей открытий, как изменение климата, — сказал Шрирам Рагхаван (Sriram Raghavan), вице-президент IBM Research AI. — Объединив усилия IBM по созданию гибких, многократно используемых систем ИИ с хранилищем спутниковых данных NASA и сделав их доступными на ведущей платформе ИИ с открытым исходным кодом HuggingFace, мы сможем использовать силу сотрудничества для более быстрого и эффективного внедрения решений, которые улучшат состояние нашей планеты».

Данные NASA — это собранные за прошедший год мультиспектральные изображения со спутника с разрешением 30 м на пиксель — обрабатываются моделью IBM watsonx.ai. На сайте HuggingFace можно обнаружить всё необходимое для начала использования этого инструмента. Платформа поможет решить не только прогностические задачи, связанные с климатом планеты, но также позволит давать ответы на насущные вопросы, связанные с землепользованием, вырубками, пожарами, наводнениями и тому подобными проблемами.

Можно ожидать, что появление «разумного» интерфейса в таком деле, как анализ мультиспектральных спутниковых снимков, где неспециалисту ни за что не разобраться, подтолкнёт науку и приведёт к появлению практических решений для экономики, сельского хозяйства, строительства и многих других областей, зависящих от прихотей погоды.

Учёные Университета Карнеги — Меллона и Центра безопасности искусственного интеллекта обнаружили уязвимость, присущую большинству современных ИИ-моделей. Она позволяет обходить установленные их разработчиками морально-этические барьеры. В результате основанные на этих моделях чат-боты выдают рецепты изготовления взрывчатых устройств, пишут вредоносный код, а также поддерживают разговоры в нацистском и сексистском ключах, передаёт Fortune.

Источник изображений: Gerd Altmann / pixabay.com

Предложенный исследователями метод атаки в той или иной степени срабатывает на самых передовых современных системах: OpenAI ChatGPT в версиях на GPT-3.5 и GPT-4, Microsoft Bing Chat, Google Bard и Anthropic Claude 2. Но ещё больше он актуален для открытых больших языковых моделей вроде Meta✴ LLaMA — успех гарантирован, когда у злоумышленника есть доступ ко всей структуре ИИ, и в первую очередь к синаптическим весам. Синаптические веса — коэффициенты, показывающие, какое влияние узел нейросети оказывает на другие узлы, с которыми он связан. Зная эту информацию, можно создать алгоритм автоматического поиска суффиксов, которые добавляются к запросу, чтобы гарантированно преодолеть ограничения системы.

Человеку эти суффиксы могут показаться по большей части длинной последовательностью случайных символов и бессмысленным набором слов. Но строка из таких символов способна обмануть большую языковую модель и заставить её дать ответ, которого ждёт организатор атаки. Схожим образом работают предложенные экспериментаторами методы атаки — например, можно предписать чат-боту начать ответ со слов «Конечно, вот...», и он в отдельных случаях обходит установленные ограничения. Но подобранные программными методами суффиксы выходят далеко за рамки подобных обходных путей и работают более эффективно.

Чат-бот Vicuna, основанный на первой версии Meta✴ LLaMA, позволяет производит атаки с успехом почти 100 %. Обновлённая модель LLaMA 2 имеет более надёжную защиту и позволяет добиваться успеха в 56 % случаев — но при попытке обрушить хотя бы один барьер из нескольких, которые подвергаются атаке одновременно, вероятность взлома повышается 84 %. Схожие показатели успеха демонстрируются при работе с чат-ботами на других открытых моделях, таких как EleutherAI Pythia или созданной в ОАЭ системе Falcon.

К некоторому удивлению самих учёных, те же самые суффиксы хорошо работают и против проприетарных моделей, разработчики которых открывают общий доступ только к интерфейсу запросов — в таких случаях доступ к весам отсутствует, и программу поиска суффиксов запустить не получается. Учёные предложили простое объяснение такому эффекту: большинство открытых моделей обучалось на общедоступных диалогах пользователей с бесплатной версией ChatGPT на основе OpenAI GPT-3.5. Поэтому неудивительно, что и бесплатная ChatGPT демонстрирует 86,6 % успеха.

Высокий успех атак на закрытую Google Bard на базе PaLM 2 (66 %) может указывать на существование каких-то иных скрытых механизмов — или в Google просто покривили душой, когда заявили, что не обучали Bard на данных ChatGPT. Примечательно, что обученная по уникальным методикам Anthropic Claude 2 демонстрирует всего 2,1 % успеха, хотя есть некоторые способы обойти эту защиту, например, предложив ИИ изобразить готовность помочь или представить, что это просто игра — тогда атаки срабатывают в 47,9 % случаев.

Учёные подчёркивают, что их открытие отнюдь не означает, что мощные ИИ-модели следует изъять из общего доступа — напротив, без доступа к исходному коду этого открытия никогда бы не случилось. А перевод больших языковых моделей на проприетарные лицензии означал бы, что автоматизированные методы атаки остались бы доступными только для киберпреступников с хорошим финансированием и поддерживаемых властями стран кибервойск, а независимые учёные никогда не нашли бы способов защиты от них.

Приглашаем вас принять участие в XIX конференции разработчиков свободных программ, которая состоится 29 сентября — 1 октября 2023 г. в городе Переславле-Залесском.

Ежегодно конференция объединяет разработчиков свободных программ из России и других стран, чтобы обсудить новейшие достижения в области свободного ПО и перспективы его развития, наладить личные и профессиональные контакты, инициировать создание новых проектов сферы СПО.

В 2023 году конференция пройдет на базе Института программных систем РАН.

Источник изображения: «Базальт СПО»

Организаторы: Базальт СПО, ИПС РАН.

Оргкомитет принимает заявки на доклады по следующим темам:

• Разработка свободного программного обеспечения;
• Новейшие достижения проектов СПО;
• Формирование сообщества разработчиков СПО;
• Философские, культурные и правовые аспекты свободного ПО;
• Студенческие проекты разработки СПО.

Для участия в конференции в качестве докладчика необходимо отправить заявку по адресу conference@lists.altlinux.org до 1 сентября 2023 г.

Следите за информацией на странице конференции!

• На странице конференции также будет идти трансляция в режиме реального времени.

Тезисы докладов будут изданы в РИНЦ отдельным сборником. Участие для докладчиков и слушателей бесплатное. Язык конференции — русский.

Meta✴ намерена выпустить собственную коммерческую модель искусственного интеллекта, которая поможет стартапам и предприятиям разрабатывать на этой платформе собственное ПО, сообщает Financial Times со ссылкой на собственные источники. Тем самым гигант соцсетей станет полноценным конкурентом Google и дуэту Microsoft и OpenAI, которые лидируют на рынке генеративного ИИ.

Источник изображения: Gerd Altmann / pixabay.com

В начале года Meta✴ выпустила большую языковую модель LlaMA, предназначенную для исследователей, тогда как новая платформа будет предусматривать инструменты для корпоративных клиентов. Компания традиционно публикует исходные коды своих ИИ-моделей, что контрастирует с действиями конкурентов — данные и код GPT-4 от OpenAI третьим лицам недоступны. В Meta✴ же полагают, что «открытость — лучшее противоядие от окружающих ИИ страхов». Вице-президент и старший научный сотрудник в области ИИ в Meta✴ Ян ЛеКун (Yann LeCun) недавно заявил, что конкурентная среда в отрасли в корне изменится, когда выйдут платформы с открытым исходным кодом, которые так же хороши, что и закрытые.

Тем не менее даже при открытом и бесплатном характере новой платформы в Meta✴ рассматривают возможность взимать с корпоративных клиентов плату за её тонкую настройку и адаптацию под их потребности и наборы исходных данных. Но на старте проекта платных опций не предусматривается. Вице-президент Meta✴ по исследованиям в области ИИ Джоэль Пино (Joelle Pineau) добавила, что при выпуске проекта с открытым исходным кодом компания не отказывается от права интеллектуальной собственности на эту работу и уж тем более не скрывает намерения использовать эти модели в собственных продуктах. Недавно глава компании Марк Цукерберг (Mark Zuckerberg) намекнул, что технологии генеративного ИИ в том или ином виде появятся на ключевых платформах Meta✴: Facebook✴, Instagram✴ и WhatsApp.

Важнейшим преимуществом моделей с открытым исходным кодом является их широкое распространение среди пользователей — они вводят свои данные для обработки искусственным интеллектом, и чем обширнее доступный модели массив информации, тем мощнее становится эта модель. Кроме того, исследователи и разработчики имеют возможность выявлять и исправлять ошибки в платформах, повышая тем самым их безопасность. С одной стороны, стратегия выпуска бесплатных продуктов может показаться несовместимой с коммерческими целями разработчика, но, с другой, она помогает захватывать новые рынки.

В феврале основатель китайской поисковой службы Sogou (входит в Tencent) Ван Сяочуань (Wang Xiaochuan) написал в соцсети Weibo, что «Китаю нужна своя OpenAI». С реализацией плана предприниматель затягивать не стал — его стартап Baichuan Intelligence создал и выложил в открытый доступ большую языковую модель искусственного интеллекта Baichuan-13B.

Источник изображения: Gerd Altmann / pixabay.com

Baichuan считается одним из наиболее многообещающих китайских разработчиков больших языковых моделей — основателем компании является выпускник Университета Цинхуа, который создал поисковую службу Sogou, впоследствии поглощённую местным технологическим гигантом Tencent. Ван покинул Sogou в конце 2021 года. Когда платформа ChatGPT уже стала мировой сенсацией, бизнесмен запустил стартап Baichuan и оперативно собрал инвестиции на $50 млн.

Как следует из названия, обученная на китайском и английском большая языковая модель Baichuan-13B на архитектуре Transformer (она же лежит в основе GPT) имеет 13 млрд параметров — переменных, которые используются при генерации текста. Исходный код платформы выложен на GitHub и оптимизирован для коммерческого использования. Baichuan-13B обучена на 1,4 трлн токенов — для сравнения, модель Meta✴ LlaMa с теми же 13 млрд параметров была обучена на 1 трлн токенов.

Стартап Baichuan развивается с неимоверной скоростью. Открывшаяся в апреле компания к концу месяца расширила штат до 50 человек, а в июне опубликовала первую большую языковую модель Baichuan-7B с 7 млрд параметров. Новая Baichuan-13B доступна бесплатно для учёных и разработчиков, получивших разрешение на её использование в коммерческих целях. Стоит отметить, создатели учли введённые США антикитайские санкции, и модель можно запускать на системах с комплектующими потребительского класса, включая видеокарты NVIDIA GeForce RTX 3090.

В Китае выпущена первая национальная операционная система с открытым исходным кодом openKylin. Проект реализуется в рамках стратегии по сокращению зависимости страны от американских технологий.

Источник изображения: openkylin.top

ОС openKylin основана на ядре Linux — её созданием занималось сообщество из 4000 разработчиков. Платформа будет использоваться в китайской космической программе, а также в финансовой и энергетической отраслях страны. По итогам прошлого года объём рынка операционных систем в КНР составил 15,5 млрд юаней ($2,1 млрд), сообщает Reuters со ссылкой на отраслевой аналитический доклад.

Разработка ОС, в которой не используются американские решения, в последние годы значилась одной из важнейших целей китайской технологической отрасли — свой вклад в создание openKylin внесли многие организации и частные компании. Одним из активных участников стала Китайская группа реагирования на кибераварийные ситуации в промышленных системах управления — ведомство в подчинении Министерства промышленности и информатизации.

Параллельно более десятка китайских компаний разрабатывают собственные операционные системы, направленные на создание альтернатив Microsoft Windows и Apple macOS.

Партнёрство Tesla с прочими автопроизводителями, как следует из слов Илона Маска (Elon Musk), может не ограничиться предоставлением доступа к аппаратным разработкам и сети фирменных зарядных станций. Выступая вместе с главой Ford Motor Джимом Фарли (Jim Farley) на площадке Twitter Spaces, глава Tesla предположил, что откроет сторонним автопроизводителям доступ и к исходному коду программного обеспечения своей компании.

Источник изображения: Tesla

По крайней мере, в части операционной системы Tesla готова на такой шаг, как пояснил Маск: «Возможно, как в случае с Android, которая смогла стать общим стандартом в сегменте смартфонов, мы могли бы сделать доступ свободным к части своего исходного кода». Глава Tesla также выразил готовность оказать поддержку конкурирующей Ford в создании «полностью обновляемого программно транспортного средства», что Джим Фарли считает очень сложной задачей.

Глава Ford также выразил заинтересованность в использовании общих с Tesla поставщиков сырья для производства тяговых аккумуляторов. Компания Илона Маска не боится самостоятельно участвовать в профильной деятельности. По крайней мере, она собирается перерабатывать материалы для изготовления катодов на основе никеля, а вот участвовать в самостоятельном производстве анодов она не торопится, хотя и не исключает подобной возможности.

Маск в очередной раз выразил озабоченность тем, что предприниматели не торопятся заниматься добычей и переработкой сырья для тяговых батарей на территории США. Компания Tesla собирается тащить на себе ряд соответствующих инициатив, но от подобной инертности отрасли Илон Маск не в восторге. По его словам, рынок синтетического графита, который используется при производстве основной части анодов для литиевых аккумуляторов, также достаточно обширен.

Meta✴ объявила о разработке модели искусственного интеллекта с открытым кодом, которая способна обрабатывать шесть потоков данных: текст, звук, статическое и динамическое изображение (видео), температуру, информацию о глубине сцены, а также информацию о движении.

Источник изображения: Meta✴

ИИ-модель ImageBind пока представляет собой исследовательский проект, о возможном практическом применении которого пока не говорится ничего, но этот проект указывает на перспективы генеративных систем. Стоит также отметить, что Meta✴ упорно продолжает делиться своими разработками с общественностью, тогда как её конкуренты масштаба OpenAI и Google становятся всё более закрытыми.

Ключевая концепция исследования — объединение данных различных типов в многомерный индекс. Это своеобразное развитие идеи генеративных ИИ, которые сегодня доступны потребителю. К примеру, генераторы изображений вроде DALL-E, Stable Diffusion и Midjourney обучаются на сопоставлении текста и изображения, то есть двух типов данных: нейросеть ищет закономерности в визуальных данных, которые связываются с описаниями изображений. Это в итоге позволяет системам генерировать картинки по произвольным описаниям. Схожим образом работают генераторы аудио и видео.

Проект ImageBind — попытка поместить в единое пространство сразу шесть типов данных: визуальные, в том числе неподвижные картинки и видео; тепловые, то есть информацию от инфракрасных сенсоров; текст; звук; данные о глубине; данные о движении от инерциального измерительного блока (IMU) — такие используются в смартфонах и смарт-часах. Разработчики платформы пытаются обучить её работать с этими данными так же, как с текстом или изображениями. Обученная таким образом будущая система виртуальной реальности сможет генерировать целостные окружения: так, если попросить её сымитировать морское путешествие, она поместит пользователя на корабль с шумом волн на заднем плане, дополнив его раскачивающейся палубой и океанским бризом.

В перспективе инженеры Meta✴ предполагают и далее расширять потоки сенсорных данных, добавив «осязание, речь, обоняние и сигналы функциональной МРТ мозга». Машины же, в свою очередь, получат возможность самообучаться в реальном времени на информации в различных формах.