Данные берутся из публикации Очная ставка: сравнительное тестирование диалоговых ИИ-моделей YandexGPT и GigaChat

Нейросеть «Сбера» GigaChat успешно справилась с экзаменом высшего медицинского учреждения по направлению подготовки «Лечебное дело», который необходим для присвоения квалификации «врач-лечебник». Для этого алгоритм прошёл тестирование и ответил на вопросы экзаменационного билета, т.е. выполнил те же действия, что и любой студент, окончивший шесть курсов медицинского вуза.

Источник изображения: sberbank.ru

В состав экзаменационной комиссии входили профессоры терапии, хирургии, акушерства и гинекологии Института медицинского образования НМИЦ им. В.А. Алмазова, которые поставили GigaChat итоговую оценку 4 балла. Стандартный билет к устному экзамену состоит из трёх задач по терапии, хирургии, акушерству и гинекологии, а также 3-5 дополнительных вопросов, касающихся составления плана лечения, назначения дополнительных обследований и др. В дополнение к этому алгоритм прошёл тестирование из 100 вопросов, набрав 82 % (порог прохождения 70 %).

GigaChat справился с экзаменом благодаря полугодовому обучению, в рамках которого использовался датасет из 42 Гбайт специализированных данных, включая учебные материалы, рекомендации для обучения студентов в медицинских вузах России, монографии, методические руководства и др. Отмечается, что несмотря на сдачу экзамена GigaChat, не является врачом и полученные от алгоритма рекомендации необходимо утвердить у лечащего врача.

Директор Центра индустрии здоровья «Сбербанка» Сергей Жданов, комментируя данный вопрос, отметил, что в перспективе GigaChat может стать основой для создания интеллектуального помощника врача и пациента. Он также выразил уверенность в том, что применение больших языковых моделей, на базе которых строятся подобные GigaChat алгоритмы, «станет одной из ключевых технологий для развития человекоцентричного здравоохранения».

«Нейросетевая модель Gigachat успешно справилась с экзаменом по лечебному делу и показала свои компетенции аттестационной комиссии, которые позволят ей в дальнейшем стать помощником как для человека, врачей, так и системы здравоохранения в целом. Gigachat — это основа для создания персональных ассистентов, в том числе и медицинских. Компания СберМедИИ разрабатывает сервисы на базе искусственного интеллекта, включая сервисы для анализа и оценки жалоб и анамнеза пациента, данных из его электронной медицинской карты», — Заявил Владимир Кох, генеральный директор СберМедИИ.

«Сбер» объявил о выходе масштабного обновления ИИ-чат-бота GigaChat, благодаря чему GigaChat Pro и GigaChat Lite стали умнее и мощнее по всем основным метрикам. Также стала доступна для корпоративного сегмента новая модель GigaChat Lite+ с увеличенным контекстом.

Источник изображения: «Сбер»

Как сообщается в пресс-релизе, были обновлены и расширены обучающие датасеты, что позволило значительно повысить качество ответов моделей в таких областях, как экономика, право и медицина. Также было проведено обучение моделей на базе знаний реальных экспертов, в том числе редакторов и художников, что повысило навык создания изображений с использованием Kandinsky.

Благодаря увеличению объёма контекста GigaChat Lite и GigaChat Pro с 4 тыс. до 8 тыс. токенов максимальный объём запроса вырос до 12 страниц A4 (размер шрифта 14 пунктов) с шести страниц текста до этого. Это позволит поддерживать более длинные диалоги моделей с пользователями и получать в одном запросе больше полезной информации.

Новая модель GigaChat Lite+ совпадает по всем метрикам с GigaChat Lite, но размер её контекста расширен до 32 тыс. токенов. В свою очередь GigaChat Pro, которая уже доступна всем пользователям через веб-версию, Telegram и «ВКонтакте», может выполнять более комплексные задачи, следуя более сложным инструкциям.

Также с выходом обновления в GigaChat API появилась возможность формировать векторное представление текстов — эмбеддинги, которые используются для оценки смысловой схожести текстов, повышения точности ответов языковой модели, упрощения решения задач поиска и классификации информации.

Все модели доступны для разработчиков и бизнеса через GigaChat API.

Разработанная в «Сбере» модель искусственного интеллекта, которая легла в основу сервиса GigaChat, превзошла нейросеть OpenAI ChatGPT-3.5 по качеству ответов на русском и английском языках. Об этом сообщило агентство «ПРАЙМ» со ссылкой на заявление старшего вице-президента и руководителя блока «Технологии» в «Сбербанке» Андрея Белевцева.

Источник изображения: sber.ru

«Искусственный интеллект „Сбера” — нейросетевая модель GigaChat PRO — превзошла доступную на сегодня модель GPT-3.5-turbo от OpenAI по качеству ответов на английском языке», — заявил господин Белевцев. Специалисты компании пришли к такому выводу, подвергнув нейросеть экзамену MMLU (Massive Multitask Language Understanding), включающему в себя 57 вопросов по математике, физике, истории, медицине, вопросы на общие знания о мире и на способность решать проблемы. GigaChat превзошёл американского конкурента и в русском языке.

«Сбер» запустил сервис GigaChat в апреле минувшего года. Основанный на ИИ мультимодальный чат-бот поддерживает диалог с пользователем, пишет тексты и программный код, а также создаёт изображения — к платформе подключён генератор картинок Kandinsky. В сентябре GigaChat стал доступен всем желающим, а на сегодняшний день аудитория сервиса превысила 2,5 млн пользователей.

«Сбер» научил своего ИИ-чат-бота GigaChat генерировать музыкальные композиции по текстовым запросам пользователей. Новостью поделился вице-президент по цифровым поверхностям «Салют» Сбербанка Денис Филиппов в рамках международной конференции по искусственному интеллекту AI Jorney 2023. Возможности сервиса были расширены путём интеграции нейросетей CLaMP и SymFormer.

Для создания музыки человек может просто сформулировать задачу. К примеру задать следующее описание: «Сочини весёлую музыку в стиле кантри» или «Напиши композицию для лаундж-зоны бизнес-центра». В результате GigaChat создаст аудиофайл с уникальной музыкальной дорожкой, а также нотную партитуру в формате MIDI, совместимую с любой DAW (Digital Audio Workstation). После этого пользователь сможет скачать и прослушать получившуюся музыку, а MIDI-файл — использовать в своих творческих проектах: редактировать гармонии, менять аранжировку и получать разнообразные варианты звучания композиции.

Генерация музыки стала возможна в GigaChat благодаря интеграции нейросетей CLaMP и SymFormer. Для обучения SymFormer применили платформу ML Space на базе суперкомпьютера Christofari и датасет из более чем 200 тысяч композиций разных музыкальных стилей: от классики до современной электронной и тяжёлой музыки. В основе модели генерации композиций лежит принцип рассмотрения музыки в качестве нотного текста — в этом помогла адаптация подхода text-2-image к нотному домену.

Отмечается, что создание музыкальных треков происходит в несколько этапов:

1. Текстовый запрос пользователя с помощью модели CLaMP конвертируется в понятный для генератора мелодий язык.
2. Данные от CLaMP, включая информацию о стиле, поступают на вход SysFormer, которая выполняет генерацию нескольких вариантов мультидорожечной композиции, из которых нейросеть выбирает наиболее удачные варианты по стилю.
3. На последнем этапе генерации механизм рендеринга формирует аудиофайл и отправляет результат пользователю.

«Новые возможности GigaChat будут полезны не только музыкальным энтузиастам и представителям творческих профессий. Одним из сегментов целевой аудитории сервиса мы видим представителей малого и среднего бизнеса. Благодаря GigaChat они смогут быстро, качественно и, что важно, абсолютно легально решать задачи бизнеса: создавать фоновое музыкальное сопровождение для кафе, залов ожидания и салонов красоты, создавать мелодии для рекламных видеороликов и соцсетей», — поясняет Денис Филиппов.

Напомним, что ранее этой осенью в рамках культурной программы Восточного экономического форума (ВЭФ) во Владивостоке состоялся первый в мире симфонический концерт с импровизациями, созданными искусственным интеллектом. Нейросеть SymFormer выступила на этом концерте вместе с оркестром Мариинского театра Приморской сцены. В первой части симфонии «Космос», написанной композитором Петром Дранга, SymFormer управляла экспрессивностью исполнения. В третьей и четвёртой частях симфонии нейросеть импровизировала в режиме реального времени на основе информации, полученной от партитуры музыканта.

В рамках международной конференции по искусственному интеллекту AI Journey разработчики «Сбера» представили новую версию чат-бота GigaChat, основой которого стала одна из самых продвинутых больших языковых моделей (LLM) для русского языка с 29 млрд параметров. В скором времени доступ к API новой версии алгоритма получат бизнес-клиенты «Сбера», что позволит им создавать собственные решения на базе GigaChat, а также участники академического сообщества для проведения исследований.

Источник изображения: sber.ru

Использование новой LLM позволяет чат-боту лучше следовать инструкциям и выполнять сложные задания. Существенно повысилась качество суммаризации, рерайтинга, редактирования текстов и ответов на различные вопросы. Разработчики сравнили ответы новой и предыдущей моделей и зафиксировали общее повышение качества на 23 %. В дополнение к этому с фактологией новая модель справляется на 25 % лучше предшественницы.

Для повышения качества работы LLM было проведено множество экспериментов по наращиванию эффективности её обучения. К примеру, использовался фреймворк для обучения больших языковых моделей с возможностью шардирования весов нейросети по видеокартам, за счёт чего удалось сократить потребление памяти на них. Результат внутренней оценки в бенчмарке Massive Multitask Language Understanding показал, что версия GigaChat с 29 млрд параметров превосходит самый популярный открытый аналог LLaMA 2 34B.

«Обучение моделей, лежащих в основе GigaChat, — это масштабный и сложный вычислительный проект, прежде мы не делали ничего подобного. Суммарное количество вычислительных операций почти в 6 раз превысило количество операций при обучении модели ruGPT-3 с 13 млрд параметров в 2021 году. Также специально для GigaChat мы собрали и развиваем уникальный датасет, над которым работают сотни сотрудников «Сбера», помогая развивать и улучшать качество ответов в самых разных доменах. Благодаря этим усилиям пользователи с каждым новым релизом GigaChat получают максимум от сервиса для решения своих задач», — рассказал Андрей Белевцев, старший вице-президент, руководитель блока «Технологии» Сбербанка.

Компания «МойОфис», разрабатывающая одноимённый аналог Microsoft Office, интегрировала разработанную «Сбером» платформу искусственного интеллекта GigaChat в свой программный пакет. Нейросеть также стала частью почтового клиента Mailion и рабочего мессенджера Squadus, сообщают «Ведомости».

Источник изображения: sber.ru

Встроенный в офисные редакторы GigaChat генерирует тексты и помогает в создании шаблонов ответов — компания разработала визуальный конструктор, в котором нейросеть готовит или редактирует документы в заданном пользователем стиле или сообразно планируемой задаче. В почтовом клиенте ИИ создаёт краткие сводки писем в цепочке переписки и помогает формировать на их основе задачи; в мессенджере он создаёт панель задач и события в календаре.

Сейчас «МойОфис» и «Сбер» прорабатывают механизмы монетизации совместного проекта, но свои объёмы инвестиций и коммерческие условия сотрудничества стороны предпочли не раскрывать. «Сбер» является первым партнёром компании «МойОфис», но партнёрство не носит эксклюзивного характера — разработчик офисного ПО готов к сотрудничеству с другими компаниями из сферы ИИ.

Интеграция нейросетей в офисные пакеты — не новое, но перспективное направление, отметили опрошенные «Ведомостями» эксперты. Первым здесь оказался Microsoft 365 Copilot: он пишет тексты в Word, помогает с анализом данных в Excel, генерацией презентаций в PowerPoint и с работой с почтой в Outlook. Аналогичные инструменты добавила в свои службы компания Google. Основу сервиса Copilot составила платформа ChatGPT — ещё в феврале число её пользователей превысило 100 млн, а аудитория GigaChat от «Сбера» в сентябре достигла 1 млн пользователей. Пользователям обеих платформ, добавили эксперты издания, следует помнить о склонности ИИ к «галлюцинациям»: они не всегда отличают правду от лжи и иногда сообщают не соответствующую действительности информацию.

«Сбер» представил ИИ-модель GigaChat нового поколения, в которой благодаря изменению подхода к обучению значительно улучшились практически все умения чат-бота, от сокращения текстов и ответов на вопросы до генерации идей. Размер обрабатываемого текста был увеличен в два раза. Новая модель уже доступна для всех пользователей GigaChat.

Источник изображения: Сбер

Общаться с GigaChat теперь можно в соцсети «ВКонтакте», для чего достаточно его активировать. Как сообщается, чат-бот способен генерировать тексты, создавать изображения по текстовому запросу с помощью модели Kandinsky, а также придумывать «идеи на все случаи жизни».

Если в ходе использовании сервиса общение зашло в тупик или необходимо сменить тему, достаточно нажать кнопку «Новый диалог». Нажав кнопку «Обо мне», пользователь услышит рассказ GigaChat о себе, а опция «Написать в поддержку» поможет решить возникшие в процессе использования сервиса проблемы. Нажав кнопку «Добавить в чат» можно продолжить общение с GigaChat в рабочем или семейном чате, указав @gigachat в переписке.

Как отметил Денис Филиппов, вице-президент по цифровым решениям «Салют» Сбербанка, количество уникальных пользователей GigaChat достигло 1 млн. По его словам, ИИ-модель нового поколения GigaChat значительно превосходит по ряду показателей предшественника. «Наиболее впечатляющий прогресс достигнут в суммаризации, когда пользователю нужна выжимка из большого текста, чтобы не читать его целиком. По суммаризированному тексту можно получить ответы на любые вопросы или попросить сформулировать ключевые мысли», — сообщил он.

С сентября этого года GigaChat доступен всем пользователям умных устройств Sber, а также в мобильном приложении «Салют» для Android-устройств. Корпоративные пользователи могут с помощью программного интерфейса GigaChat API создавать собственные ИИ-решения и оптимизировать бизнес-процессы.

«Сбер» открыл общий доступ к основанному на искусственном интеллекте чат-боту GigaChat — воспользоваться сервисом сможет любой желающий. Компания также предложила бесплатный курс по работе с платформой — он может оказаться полезным менеджерам, маркетологам, редакторам и представителям других профессий.

Источник изображения: sber.ru

Для работы с GigaChat в веб-интерфейсе необходимо войти в систему при помощи «Сбер ID». Платформа выступает в качестве чат-бота, генерируя тексты или предлагая их редактирование; к ней также подключена нейросеть Kandinsky, позволяющая генерировать изображения. Пользователи чат-бота теперь могут делиться историями переписки с ним. Более подробно возможности GigaChat описаны в базе знаний «Сбера».

«Сбер» представил передового чат-бота в апреле. На начальном этапе платформа работала в режиме тестирования через мессенджер Telegram. В основе GigaChat лежит общедоступная нейросеть ruGPT-3.5 с 13 млрд параметров с поддержкой длины контекста в 2048 токенов. В августе чат-бот был интегрирован с голосовым помощником «Салют» в умных колонках SberBoom и SberBoom Mini.

Владельцы умных колонок SberBoom и SberBoom Mini с голосовым помощником «Салют» получили возможность воспользоваться сервисом GigaChat — разработанным «Сбером» чат-ботом на основе алгоритмов искусственного интеллекта. В ближайшее время функция появится на всей линейке устройств с «Салютом», а для запуска новой функции предусмотрена команда: «Салют, включи GigaChat».

Источник изображения: sberdevices.ru

Пользователь может отправить команду платформе на генерацию текста по заданным параметрам: ИИ способен сочинить сказку, поздравительную речь, предложить варианты подарка, обсудить идею или придумать шутку, новый рецепт, пошаговую инструкцию, а также составить план тренировок. GigaChat владеет контекстом разговора и может настраиваться по желанию пользователя, делая ответы более детализированными или меняя стиль, жанр и объём генерируемого текста.

Чат-бот работает на основе нейросетей NeONKA (NEural Omnimodal Network with Knowledge-Awareness), которая включает несколько моделей, обученных с использованием методов supervised fine-tuning и reinforcement learning with human feedback. В нейросетевую инфраструктуру входит и модель Kandinsky, благодаря которой GigaChat также поддерживает создание изображений.