реклама
Теги → ии-чип

Разработчики ИИ стали переходить на компактные ИИ-модели — они дешевле и экономичнее

Технологические гиганты и стартапы переходят на более компактные и эффективные модели искусственного интеллекта, стремясь сократить расходы и повысить производительность. Эти модели, в отличие от своих «старших братьев», таких как GPT-4, могут обучаться на меньшем объёме данных и специализируются на решении конкретных задач.

 Источник изображения: Copilot

Источник изображения: Copilot

Microsoft, Google, Apple и стартапы, такие как Mistral, Anthropic и Cohere, всё чаще обращаются к малым и средним языковым моделям искусственного интеллекта. В отличие от больших моделей (LLM), таких как GPT-4 от OpenAI, которые используют более одного триллиона параметров и их разработка оценивается далеко за 100 миллионов долларов, компактные модели обучаются на более узких наборах данных и могут стоить менее 10 миллионов долларов, при этом используя менее 10 миллиардов параметров.

Компания Microsoft, один из лидеров в области ИИ, представила семейство небольших моделей под названием Phi. По словам генерального директора компании Сатьи Наделлы (Satya Nadella), эти модели в 100 раз меньше бесплатной версии ChatGPT, но при этом справляются со многими задачами почти так же эффективно. Юсуф Мехди (Yusuf Mehdi), коммерческий директор Microsoft, отметил, что компания быстро осознала, что эксплуатация крупных моделей ИИ обходится дороже, чем предполагалось изначально, что побудило Microsoft искать более экономичные решения.

Другие технологические гиганты также не остались в стороне. Google, Apple, а также Mistral, Anthropic и Cohere выпустили свои версии малых и средних моделей. Apple, в частности, планирует использовать такие модели для запуска ИИ локально, непосредственно на смартфонах, что должно повысить скорость работы и безопасность. При этом потребление ресурсов на смартфонах будет минимальным.

Эксперты отмечают, что для многих задач, таких как обобщение документов или создание изображений, большие модели вообще могут оказаться избыточными. Илья Полосухин, один из авторов основополагающей статьи Google в 2017 году, касающейся искусственного интеллекта, образно сравнил использование больших моделей для простых задач с поездкой в магазин за продуктами на танке. «Для вычисления 2 + 2 не должны требоваться квадриллионы операций», — подчеркнул он.

Компании и потребители также ищут способы снизить затраты на эксплуатацию генеративных технологий ИИ. По словам Йоава Шохама (Yoav Shoham), соучредителя ИИ-компании AI21 Labs из Тель-Авива, небольшие модели могут отвечать на вопросы, если перевести всё в деньги, всего за одну шестую стоимости больших языковых моделей.

Интересно, что ключевым преимуществом малых моделей является возможность их тонкой настройки под конкретные задачи и наборы данных. Это позволяет им эффективно работать в специализированных областях при меньших затратах, например, только в юридической отрасли.

Однако эксперты отмечают, что компании не собираются полностью отказываться от LLM. Например, Apple объявила об интеграции ChatGPT в Siri для выполнения сложных задач, а Microsoft планирует использовать последнюю модель OpenAI в новой версии Windows. А такие компании как Experian из Ирландии и Salesforce из США, уже перешли на использование компактных моделей ИИ для чат-ботов и обнаружили, что они обеспечивают такую же производительность, как и большие модели, но при значительно меньших затратах и с меньшими задержками обработки данных.

Переход к малым моделям происходит на фоне замедления прогресса в области больших публично доступных моделей искусственного интеллекта. Эксперты связывают это с нехваткой высококачественных новых данных для обучения, и в целом, указывают на новый и важный этап эволюции индустрии.

Huawei с китайскими партнёрами начала разработку памяти HBM для антисанкционных ИИ-ускорителей

В стремлении снизить зависимость от зарубежных поставщиков и обойти ограничения, наложенные США, компания Huawei совместно с другими китайскими производителями микросхем начала работу над созданием передовой памяти с высокой пропускной способностью, более известной как HBM.

Huawei заключил партнёрское соглашение с местным производителем чипов Wuhan Xinxin Semiconductor Manufacturing для разработки стеков памяти HBM. Память данного типа стала критически важным компонентом вычислительной инфраструктуры, используемой в проектах искусственного интеллекта (ИИ).

По данным китайского издания South China Morning Post, в проекте также участвуют компании Jiangsu Changjiang Electronics Tech и Tongfu Microelectronics, специализирующиеся на упаковке чипов. Они начнут разработку передовой технологии Chip on Wafer on Substrate, позволяющую объединять различные типы полупроводников, таких как графические процессоры и чипы HBM, в одном корпусе.

Выход Huawei на рынок чипов HBM является очередной попыткой компании обойти технологические санкции Вашингтона. И хотя Китай все ещё находится на ранней стадии разработки чипов HBM, аналитики и отраслевые источники ожидают пристального внимания к прогрессу страны в этой сфере. Интересно, что в августе прошлого года Huawei удивила рынок, выпустив смартфон 5G на базе 7-нанометрового процессора, несмотря на существующие ограничения на доступ к технологиям — по задумке США, возможности выпускать такие чипы у Huawei быть не должно было вовсе.

В мае источники сообщали, что ChangXin Memory Technologies, крупнейший в Китае производитель DRAM, разработал образцы чипов HBM в партнёрстве с Tongfu Microelectronics. В апреле также появилась информация о планах группы китайских фирм во главе с Huawei нарастить внутреннее производство чипов HBM к 2026 году. Одновременно Wuhan Xinxin, ключевой партнёр Huawei в этом проекте, в марте объявила тендер на строительство передового производственного объекта для выпуска памяти HBM с мощностью для обработки 3 тыс. 300-мм пластин в месяц, а двумя месяцами позже компания подала заявку на публичное размещение своих акций.

Все эти события происходят на фоне растущих инвестиций Китая в полупроводниковую промышленность. Так, недавно дочерняя компания ведущего китайского производителя микросхем флэш-памяти Yangtze Memory Technologies увеличила свою капитализацию на 46 % до 8,5 млрд юаней (1,2 млрд долларов США) благодаря новым инвесторам, включая поддерживаемый государством Китайский фонд интернет-инвестиций.

Huawei и Wuhan Xinxin пока не прокомментировали информацию о сотрудничестве, но эксперты ожидают, что развитие событий в этой области может существенно повлиять на глобальный рынок полупроводников и технологий искусственного интеллекта.

Рыночная стоимость компаний, связанных с ИИ, показала заметный рост в июне

Производители чипов для задач искусственного интеллекта и компании, специализирующиеся на системах ИИ, продемонстрировали значительный рост рыночной капитализации в июне. Лидером этого роста стала Nvidia, обогнав при этом Microsoft и на время став самой дорогой компанией в мире.

 Источник изображения: BoliviaInteligente / Unsplash

Источник изображения: BoliviaInteligente / Unsplash

По данным Reuters, акции Nvidia выросли на впечатляющие 27 % в июне, в результате чего рыночная капитализация компании достигла 3,34 трлн долларов. Однако позднее акции компании несколько опустились из-за опасений инвесторов по поводу слишком высокой оценки компании. В итоге Nvidia откатилась на третьей место среди компаний с крупнейшей капитализацией.

Другие технологические гиганты также показали рост. Рыночная капитализация Microsoft увеличилась на 7,6 %, а Apple на 9,6 %. Кроме того, Amazon.com достигла рыночной стоимости в 2 триллиона долларов, став пятой американской компанией, преодолевшей этот рубеж. Всё благодаря интересу инвесторов к технологиям искусственного интеллекта.

Особого внимания заслуживает успех ещё одного производителя чипов, компании Broadcom, чья рыночная стоимость выросла примерно на 20 % за последний месяц. Этому способствовал прогноз по увеличению годового дохода от чипов, связанных с ИИ, а также объявление о дроблении акций для извлечения выгоды в текущем году.

 Источник изображения: Reuters

Источник изображения: Reuters

Эксперты связывают этот рост с растущим энтузиазмом инвесторов по поводу развития технологий искусственного интеллекта и их потенциального влияния на различные отрасли экономики.

window-new
Soft
Hard
Тренды 🔥
Автосохранение в Microsoft Word теперь включено по умолчанию — но копии сохраняются не на ПК 45 мин.
В Elden Ring Nightreign скоро появятся экспедиции повышенной сложности — анонсирован режим Deep of Night для самых смелых 2 ч.
Нелинейный шутер Judas от создателя BioShock вернулся из небытия с новыми подробностями и ключевой иллюстрацией 3 ч.
Xiaomi представила HyperOS 3 — углубленная совместимость с Apple, редизайн, Super Island и многое другое 3 ч.
Apple добилась удаления приложение iTorrent из альтернативного магазина AltStore PAL 4 ч.
Представлен Avanpost CA — российский аналог Microsoft Certificate Authority 5 ч.
Capcom добавила в Resident Evil Requiem вид от третьего лица потому, что Resident Evil 7 оказалась «даже слишком страшной» 6 ч.
Новые меры по борьбе с киберпреступниками могут ударить по «белым хакерам» в России 7 ч.
Разработчик Dread Delusion анонсировал Entropy — олдскульную пошаговую ролевую игру про актёра театра, на мир которого напали демоны 7 ч.
«Яндекс» запустил новую ИИ-модель YandexGPT 5.1 Pro, но доступна она пока лишь бизнесу 9 ч.
Honor представила глобальную версию тончайшего складного смартфона Magic V5 — от €1999 в Европе 2 ч.
xMEMS Labs показала прототип умных очков с ультратонким динамиком и твердотельным кулером 3 ч.
Foxconn инвестировала более $200 млн в производство в Мексике, вероятно — для выпуска ИИ-серверов 3 ч.
В России стартовали продажи крайне доступного смартфона Infinix Smart 10 3 ч.
Tokyo Electron открестилась от участия в краже секретных разработок TSMC 3 ч.
AMD прекратила выпуск коробочных кулеров Wraith Prism и Wraith Spire для Ryzen 5000, 7000 и 8000G 3 ч.
В России обвалились продажи ноутбуков — россияне выбирают дешёвые модели и всё чаще предпочитают маркетплейсы 3 ч.
OKO Phone 5 для российских госслужащих поступил в продажу с устаревшей начинкой и свежей ОС «Аврора» 4 ч.
Можно пожёстче: российские производители предложили усложнить госзакупки иностранной электроники 4 ч.
Самолёт SolarStratos побил рекорд высоты полёта на солнечной тяге 6 ч.