Разработанная в «Сбере» модель искусственного интеллекта, которая легла в основу сервиса GigaChat, превзошла нейросеть OpenAI ChatGPT-3.5 по качеству ответов на русском и английском языках. Об этом сообщило агентство «ПРАЙМ» со ссылкой на заявление старшего вице-президента и руководителя блока «Технологии» в «Сбербанке» Андрея Белевцева.

Источник изображения: sber.ru

«Искусственный интеллект „Сбера” — нейросетевая модель GigaChat PRO — превзошла доступную на сегодня модель GPT-3.5-turbo от OpenAI по качеству ответов на английском языке», — заявил господин Белевцев. Специалисты компании пришли к такому выводу, подвергнув нейросеть экзамену MMLU (Massive Multitask Language Understanding), включающему в себя 57 вопросов по математике, физике, истории, медицине, вопросы на общие знания о мире и на способность решать проблемы. GigaChat превзошёл американского конкурента и в русском языке.

«Сбер» запустил сервис GigaChat в апреле минувшего года. Основанный на ИИ мультимодальный чат-бот поддерживает диалог с пользователем, пишет тексты и программный код, а также создаёт изображения — к платформе подключён генератор картинок Kandinsky. В сентябре GigaChat стал доступен всем желающим, а на сегодняшний день аудитория сервиса превысила 2,5 млн пользователей.

В преддверии анонса Apple новых функций ИИ для iOS 18, который, как предполагается, состоится в июне, компания усиливает исследования и разработки в этой области. Проанализировав код свежей бета-версии iOS 17.4, эксперты обнаружили попытки интеграции больших языковых моделей Apple в экосистему iOS, особенно в таких приложениях, как Messages и голосовой помощник Siri.

Источник изображения: Apple

В коде бета-версии iOS 17.4 был найден новый фреймворк SiriSummarization, представляющий собой частный интерфейс для работы с API ChatGPT, разработанного OpenAI. Это намекает на то, что Apple активно использует внешние ресурсы для совершенствования собственных разработок в области ИИ. Примечательно, что системные запросы в рамках SiriSummarization включают команды вроде «пожалуйста, сделай краткое изложение» и «пожалуйста, ответь на эти вопросы», что указывает на потенциальные возможности Siri в автоматической обработке и интерпретации текстовых данных.

Источник изображения: 9to5mac.com

Особое внимание в нововведениях Apple заслуживает интеграция ИИ с приложением Messages. Ожидается, что система сможет анализировать входящие СМС и сообщения iMessage, предлагая пользователю наиболее релевантные действия на основе контекста сообщения. Это может включать ответ на сообщение, напоминание, звонок или даже сохранение контакта. Ключевым моментом здесь является высокая точность и уверенность системы в предложенных действиях, оцениваемая по шкале от 0 до 1.

Источник изображения: 9to5mac.com

Тем не менее, следует отметить, что вряд ли Apple будет использовать модели OpenAI напрямую в своих ИИ-функциях для iOS 18. Скорее, эти модели служат эталоном для сравнения и тестирования собственных разработок Apple. Так, например, фреймворк SiriSummarization может выполнять функции краткого изложения, используя ИИ-модели, работающие непосредственно на устройстве пользователя. Это подчёркивает стремление Apple к обеспечению конфиденциальности и безопасности данных пользователей при работе с ИИ.

Источник изображения: 9to5mac.com

В ходе анализа кода iOS 17.4, в дополнение к SiriSummarization, было выявлено тестирование четырёх различных ИИ-моделей Apple. Среди них — внутренняя ИИ-модель Apple под названием Ajax, о которой ранее упоминал Bloomberg. В документации обнаружены две версии AjaxGPT, одна из которых работает непосредственно на устройстве, а другая — нет, что позволяет предположить о разнообразии подходов Apple к обработке пользовательских данных. Кроме того, в коде упоминаются модели ChatGPT и FLAN-T5, что свидетельствует о масштабности исследовательских усилий Apple в этой сфере.

Источник изображения: 9to5mac.com

Apple активно работает над интеграцией больших языковых моделей в iOS, стремясь к созданию собственной, уникальной ИИ-системы. Это подтверждается параллельной разработкой собственных ИИ-моделей и сравнением результатов их работы с уже существующими моделями, такими как ChatGPT и FLAN-T5. Журналист издания Bloomberg Марк Гурман (Mark Gurman) в октябре прошлого года уже писал о целях Apple в области разработки ИИ для будущей iOS 18. Тогда он упоминал, что в команде Крейга Федериги (Craig Federighi) есть чёткое указание на то, чтобы наполнить iOS 18 функциями, работающими на основе собственной большой языковой ИИ-модели Apple.

Почти год прошёл с тех пор, как Microsoft объявила об интеграции ИИ-чат-бота ChatGPT в свою поисковую систему Bing. Тогда софтверный гигант рассчитывал, что это поможет потеснить Google в сегменте интернет-поисковиков. Однако с тех пор доля Bing в глобальных масштабах осталась практически неизменной. Об этом пишет издание Bloomberg со ссылкой на данные StatCounter.

Источник изображения: Microsoft

По подсчётам StatCounter, поисковая система Bing завершила 2023 год с долей рынка всего 3,4 %, что менее чем на 1 % больше показателя на момент объявления об интеграции с ChatGPT в феврале того же года. Bing долгое время боролся с конкурентами, пытаясь доказать свою состоятельность в качестве альтернативы лидеру рынка в лице Google. Однако многочисленные ребрендинги и редизайны с момента дебюта Bing в 2009 году мало способствовали росту популярности продукта.

Несмотря на это, добавление функций на основе ИИ помогли Microsoft несколько увеличить время взаимодействия пользователей с поисковиком Bing. Также по данным Bloomberg Intelligence, во втором квартале 2023 года количество ежемесячно активных пользователей Bing в США увеличилось более чем в два раза по сравнению с аналогичным периодом 2022 года и составило 3,1 млн человек. По данным SensorTower, к концу года число ежемесячных пользователей Bing выросло до 4,4 млн человек.

Стремясь набрать обороты, Microsoft внедрила в Bing больше ИИ-функций. В октябре в поисковике стал доступен генеративный алгоритм DALL-E 3, который способен создавать изображения по текстовому описанию. Этот инструмент не улучшает поисковые функции Bing, но в Microsoft заявили, что после его запуска количество пользователей поисковика резко выросло.

Источник изображения: StatCounter

«Мы увидели, что количество пользователей увеличилось в 10 раз, и это застало нас врасплох, потому что, если задуматься DALL-E 2 уже был неплох. Это действительно повлияло на вовлеченность и количество пользователей, обратившихся к нашему продукту <…> Послушайте, это ещё только начало, и новые модели поведения продолжают формироваться. Мы всё ещё изучаем новые вещи, но уже миллионы и миллионы людей используют новые инструменты», — сказал в интервью Жорди Рибас (Jordi Ribas), корпоративный вице-президент Microsoft по поиску и искусственному интеллекту.

Несмотря на имеющееся преимущество поисковика Google, который занимает более 90 % рынка, Alphabet также стремится ускорить интеграцию ИИ-функций в свои продукты. Ещё в середине прошлого года Google запустила тестовую версию ИИ-поиска, но она так и не получила широкого распространения. Однако в этом году компания планирует интегрировать в свой поисковик инструменты на основе мощной нейросети Gemini, которую разработчики представили в 2023 году. В дополнение к этому Google остаётся поисковиком по умолчанию в устройствах Apple, что также даёт существенное преимущество.

Интеграция ИИ-функций в поисковики технологических гигантов отражает общее убеждение в том, что генеративные нейросети смогут кардинально изменить то, как люди ищут информацию в интернете. Для Microsoft интеграция ИИ-функций также является попыткой нарастить долю на глобальном рынке. Однако статистика указывает на то, что одно только добавление модных ИИ-функций не позволит превратиться в грозного игрока в этом сегменте.

Университет штата Аризона объявил о партнёрстве с компанией OpenAI на предмет внедрения ChatGPT в учебный процесс. В вузе ставят три цели для совместного проекта: «повышение успеваемости студентов, создание новых возможностей для инновационных исследований и оптимизация организационных процессов».

Источник изображения: Growtika / unsplash.com

«Наши преподаватели и сотрудники уже пользовались ChatGPT, и с запуском ChatGPT Enterprise, который помог нам преодолеть некоторые проблемы безопасности, мы решили, что есть смысл выйти на OpenAI», — рассказал ресурсу The Verge заместитель директора университета по информационным технологиям Кайл Боуэн (Kyle Bowen). Он добавил, что имеющие опыт в области искусственного интеллекта преподаватели помогут с его внедрением в кампусе.

В феврале руководство Университета штата Аризона начнёт принимать заявки о планах на использование ChatGPT — некоторые профессора используют платформу на занятиях уже сейчас. Она, например, применяется на курсе журналистики, а в отдельных случаях чат-бот может выступать в качестве наставника для студентов. В прошлом году университет запустил акселератор проектов в области ИИ, объединивший исследователей и инженеров для создания ИИ-сервисов. Вуз также открыл срочные инженерные курсы по повышению грамотности в области ИИ.

Для OpenAI это первый партнёрский проект с образовательным учреждением. Сейчас компания налаживает связи с организациями. Недавно было заключено соглашение с правительством штата Пенсильвания об использовании службы ChatGPT Enterprise государственными служащими.

Компания OpenAI, не привлекая особого внимания, отказалась от прямого запрета на использование её технологии в военных целях. До 10 января политика OpenAI запрещала «деятельность, сопряжённую с высоким риском физического вреда», включая «разработку оружия» и «военную деятельность». Новая формулировка сохраняет запрет на использование OpenAI во вред и в качестве примера приводит разработку или использование оружия, но полный запрет на военное использование исчез.

Источник изображений: ИИ-генерация Stable Diffusion/3DNews

Это неафишируемое редактирование является частью масштабного изменения страницы политики использования, которое, по словам компании, призвано сделать документ «более понятным и более читабельным» и включает в себя множество других существенных изменений. Реальные последствия изменения этой политики неясны. В прошлом году OpenAI уже отказывалась отвечать на вопрос, будет ли она обеспечивать соблюдение своего собственного чёткого запрета на военные действия перед лицом растущего интереса со стороны Пентагона и разведывательного сообщества США.

«Мы стремились создать набор универсальных принципов, которые легко запомнить и применять, тем более что наши инструменты теперь используются во всём мире обычными пользователями, которые также могут создавать GPT, — заявил представитель OpenAI Нико Феликс (Niko Felix). — Принцип “Не причиняй вреда другим” является широким, но легко понятным и актуальным во многих контекстах. Кроме того, в качестве ярких примеров мы специально привели оружие и ранения других людей». При этом он отказался сообщить, распространяется ли расплывчатый запрет на «нанесение вреда» на любое использование в военных целях.

«OpenAI хорошо осознает риски и вред, которые могут возникнуть в результате использования их технологий и услуг в военных целях», — считает эксперт по машинному обучению и безопасности автономных систем Хейди Клааф (Heidy Khlaaf). По её мнению, новая политика ставит законность выше безопасности: «Между этими двумя политиками существует явная разница: в первой чётко указано, что разработка вооружений, а также военные действия и война запрещены, а во второй подчёркивается гибкость и соблюдение закона».

Клааф уверена, что разработка оружия и осуществление деятельности, связанной с военными действиями, в различной степени законны, а потенциальные последствия для безопасности очень вероятны. Она напомнила хорошо известные случаи предвзятости и галлюцинаций, присущие большим языковым моделям и их общую неточность. По её мнению, использование ИИ в боевых действиях может привести к неточным и предвзятым операциям и усугубить ущерб и жертвы среди гражданского населения.

«Учитывая использование систем искусственного интеллекта для нападения на гражданское население в секторе Газа, это примечательный момент — принять решение удалить слова “военные действия” из политики допустимого использования OpenAI, — говорит директор института AI Now Сара Майерс Уэст (Sarah Myers West). — Формулировка политики остаётся расплывчатой и вызывает вопросы о том, как OpenAI намерена подходить к обеспечению её соблюдения».

Хотя ИИ сегодня не может быть использован для непосредственного насилия и убийств, существует огромное количество смежных задач, которые ИИ выполняет для армии. Военнослужащие США уже используют технологию OpenAI для ускорения оформления документов. Национальное агентство геопространственной разведки, напрямую помогающее США в боевых действиях, открыто заявляет об использовании ChatGPT своими аналитиками. Даже если инструменты OpenAI в военных ведомствах используются для задач, не связанных с прямым насилием, они все равно косвенно помогают в ведении боевых действий и убийстве людей.

Военные по всему миру стремятся внедрить методы машинного обучения, чтобы получить преимущество. Хотя результаты больших языковых моделей выглядят чрезвычайно убедительными, они часто страдают от так называемых галлюцинаций, которые ставят под сомнение точность результатов и их соответствие действительности. Тем не менее, способность больших языковых моделей быстро воспринимать текст и проводить его анализ – или, по крайней мере, симулякр анализа – делает использование ИИ естественным выбором для министерства обороны, перегруженного данными.

В то время как некоторые представители военного руководства США выражают обеспокоенность по поводу рисков безопасности при использовании ChatGPT для анализа секретных и других чувствительных данных, Пентагон не отказывается от курса на использование ИИ. Заместитель министра обороны Кэтлин Хикс (Kathleen Hicks) полагает, что ИИ является «ключевой частью комплексного подхода к сетецентрическим военным инновациям». При этом она признаёт, что большинство текущих предложений «ещё недостаточно технически развиты, чтобы соответствовать нашим этическим принципам искусственного интеллекта».

Пользователи стали замечать, что в названии многочисленных товаров на разных интернет-площадках появилось предупреждение о нарушении политики OpenAI. «Извините, но я не могу выполнить запрос, поскольку он противоречит политике использования OpenAI», — говорится в сообщении, которое можно найти в описании разных товаров на Amazon и некоторых других интернет-площадка. С чем именно это связано, на данный момент неизвестно.

Источник изображений: The Verge

По данным источника, найти множество товаров с упоминанием о нарушении политики OpenAI можно, набрав в поиске на Amazon запрос «OpenAI policy». В результате можно увидеть массу товаров с подобным названием, включая предложения в категориях мебели, товаров для дома, сада и др. Отмечается, что проблема затрагивает не только Amazon, но и некоторые другие интернет-площадки, включая социальную сеть X (бывшая Twitter).

Вероятнее всего, проблема связана с тем, что большое количество продавцов на Amazon используют ИИ-бота ChatGPT от компании OpenAI для автоматизации составления карточек своих товаров. По всей видимости, алгоритм по какой-то причине некорректно обрабатывает запросы и вставляет в описания некоторых товаров предупреждения. Официальные представители Amazon и OpenAI пока никак не комментируют данный вопрос, поэтому точно неизвестно, что стало причиной появления сообщений о нарушении политики OpenAI в названии товаров.

Вчера компания OpenAI запустила магазин чат-ботов, разработанных пользователями ChatGPT. Как отмечает Bloomberg, в общей сложности пользователи сервиса уже смогли создать 3 млн индивидуализированных чат-ботов, но не совсем ясно, какая часть из них представлена в фирменном магазине приложений на момент его запуска. Со временем разработчики чат-ботов смогут получать прибыль от их реализации на этой площадке.

Источник изображения: Unsplash, Andrew Neel

Как известно, для создания таких чат-ботов не требуются навыки программирования, поэтому активность разработчиков будет достаточно высокой. Площадка получила название GPT Store, она имеет развитый рубрикатор и систему поиска чат-ботов с необходимой функциональностью. Среди примеров такого «народного творчества» можно обнаружить чат-боты, которые или помогают обучать детей математике, или содержат набор рецептов разноцветных коктейлей.

На этой неделе пользователям ChatGPT был предложен новый тариф для корпоративных клиентов, который потребует ежемесячной абонентской платы в размере $25 с человека. За эти деньги небольшие компании, занимающиеся разработкой ИИ-систем, смогут использовать инфраструктуру OpenAI и её языковые модели. Тарифный план для корпоративных клиентов впервые появился у OpenAI ещё в августе прошлого года.

Возможности заработка на кастомных чат-ботах у пользователей сервиса пока нет, но она будет предложена к концу марта, как поясняет Bloomberg. Разработчики чат-ботов для GPT Store в США будут получать деньги пропорционально популярности своих разработок. Первоначально OpenAI планировала запустить такой магазин приложений в конце ноября, но скандал с отставкой и возвращением на пост генерального директора Сэма Альтмана (Sam Altman) помешал своевременной реализации этого плана. В магазине приложений новые чат-боты будут представляться каждую неделю.

Компания Volkswagen объявила на выставке CES 2024, что автомобили с голосовым помощником IDA получат поддержку ChatGPT. Чат-бот с ИИ на основе большой языковой модели от OpenAI будет работать через платформу Cerence Chat Pro.

Источник изображения: vw.com

Поддержка ChatGPT появится на электромобилях Volkswagen ID.3, ID.4, ID.5 и ID.7, а также на новых Tiguan, Passat и Golf уже во II квартале в Европе. В США новой функции пока не будет — возможность её внедрения пока обсуждается внутри компании. Чат-бот с ИИ будет интегрирован в серверную часть голосового помощника IDA — водители пользуются им для управления информационно-развлекательной системой, навигацией, кондиционером, а также для поиска ответов на общие вопросы. ChatGPT расширит возможности голосового ассистента, «обогащая разговоры, проясняя вопросы, взаимодействуя естественным языком, предоставляя информацию о конкретном автомобиле и многое другое — исключительно без помощи рук», уточнили в Volkswagen. Пока в машинах производителя используется более скромная большая языковая модель Cerence CaLLM, которая поддерживает около 10 тыс. вопросов и ответов, касающихся автомобиля, бренда и операций.

С появлением ChatGPT голосовой помощник, как и прежде, продолжит вызываться по команде «Привет, IDA» или по нажатию кнопки на рулевом колесе. Если ассистент не сможет обработать запрос собственными силами, он будет анонимно направлен чат-боту с ИИ. Ответ придёт также на IDA с пометкой об источнике информации. Cerence помогла Volkswagen установить ограничения на ответы чат-бота — система не будет давать ответов за запросы с ненормативной лексикой, на тему интимной сферы, а также на прочие деликатные темы, включая геополитику. Иногда эти ограничения дают сбой, выяснил ресурс TechCrunch, но иногда срабатывают должным образом: чат-бот отказался комментировать достоинства машин Toyota, но сообщил, что Tesla удалось продать больше всего электромобилей в 2022 году.

Интеграция ChatGPT может стать для Volkswagen лишь началом нового этапа. Глава Cerence Стефан Ортманнс (Stefan Ortmanns) признался, что компании «изучают возможность сотрудничества для разработки нового пользовательского интерфейса на основе большой языковой модели в качестве основы автомобильного помощника Volkswagen следующего поколения».

На следующей неделе компания OpenAI запустит интернет-магазин, в котором пользователи смогут продавать и покупать кастомизированные версии популярного чат-бота на основе искусственного интеллекта ChatGPT, сообщил ресурс Bloomberg со ссылкой на электронные письма, отправленные компанией некоторым пользователям в четверг.

Источник изображения: Andrew Neel/Pixabay

OpenAI в прошлом году заявила, что планирует открыть такой интернет-магазин в ноябре. Здесь пользователи смогут размещать свои версии ИИ-чат-бота и находить адаптированные версии ChatGPT других пользователей. Пользователи смогут зарабатывать деньги, продавая свои версии чат-бота — так же, как это можно делать с приложениями в App Store или Play Маркет.

Однако запуск проекта пришлось отложить из-за неразберихи, создавшейся после внезапного увольнения в ноябре гендиректора Сэма Альтмана (Sam Altman) и последующего восстановления его на этой должности.

OpenAI объявила на конференции разработчиков в ноябре, что пользователи смогут сами создавать GPT (название пользовательских версий ChatGPT) без необходимости изучения даже основ кодирования. Эта функция позволит пользователям быстро создавать специализированные чат-боты, которые, например, могут учить детей математике или придумывать интересные рецепты коктейлей.

Четыре киберпреступника в Китае были арестованы за разработку программ-вымогателей с помощью ChatGPT и их применение, что стало первым подобным случаем в стране. И это при том, что популярный чат-бот от OpenAI официально не доступен в Китае, да и Пекин ужесточает меры в отношении иностранного ИИ.

Источник изображения: pexels.com

Согласно сообщению государственного информагентства Синьхуа, об атаке первой сообщила малоизвестная компания из Ханчжоу, системы которой были заблокированы вымогательским ПО. Хакеры потребовали 20 000 стэйблкоинов Tether, что эквивалентно 20 тыс. долларов, за восстановление доступа. Вероятно, это был не единственный подобный случай.

В конце ноября полиция арестовала двух подозреваемых в Пекине и ещё двух во Внутренней Монголии. Они признались, что «писали версии программ-вымогателей, оптимизировали программу с помощью ChatGPT, проводили сканирование уязвимостей, получали доступ путём проникновения, внедряли программы-вымогатели и занимались вымогательством», — говорится в сообщении. В отчёте не говорится, было ли использование ChatGPT частью обвинений. В Китае он находится в серой правовой зоне, поскольку Пекин стремится ограничить доступ к иностранным продуктам генеративного искусственного интеллекта.

После того как в конце 2022 года OpenAI представила своего чат-бота, вызвав «гонку вооружений» в этой области среди технологических гигантов, ChatGPT и подобные продукты заинтересовали китайских пользователей. Вместе с тем OpenAI заблокировала работу чат-бота в Китае, Гонконге и ряде других стран, таких как Россия, Северная Корея и Иран. Однако с помощью виртуальных частных сетей и телефонного номера из поддерживаемого региона можно обойти блокировку.

Судебные дела, связанные с генеративным ИИ, участились, учитывая популярность технологии. В том числе и в Китае. В феврале полиция Пекина предупредила, что ChatGPT может «совершать преступления и распространять слухи». В мае полиция северо-западной провинции Ганьсу задержала человека, который якобы использовал ChatGPT для создания фальшивой новости о крушении поезда и распространил её в интернете, получив более 15 000 переходов по ссылке с новостью. В августе полиция Гонконга арестовала шесть человек в рамках борьбы с мошенническим синдикатом, который использовал дипфейк для создания поддельных изображений идентификационных документов, используемых для мошенничества с кредитами, направленного на банки и кредиторов.

Споры вокруг этой технологии возникают и на Западе. Брайан Худ (Brian Hood), мэр австралийского города Хепберн-Шайр, в марте направил OpenAI судебное уведомление после того, как ChatGPT ошибочно обвинила его во взяточничестве и коррупционном скандале. В этом году Федеральная торговая комиссия США выпустила предупреждение о мошенниках, использующих клонированные ИИ голоса для выдачи себя за людей, что можно сделать с помощью всего лишь короткого аудиоклипа голоса человека.

В последнее время люди и организации, чьи работы были использованы для обучения больших языковых моделей, выступают против того, что они считают массовым нарушением интеллектуальной собственности. На этой неделе газета The New York Times подала в суд на OpenAI и Microsoft, главного спонсора ИИ-компании, утверждая, что нейросети компании использовали миллионы статей для обучения без разрешения.

В последние дни всё чаще стали поступать жалобы пользователей на то, что ИИ-чат-бот ChatGPT на базе модели OpenAI GPT-4 стал отказываться выполнять запросы, мотивируя это тем, что он не заинтересован в помощи людям.

Источник изображения: Andrew Neel/unsplash.com

Так, в ответ на просьбу предоставить фрагмент кода, он мог просто дать небольшой фрагмент и предложить пользователю доделать остальное самостоятельно. Причём, по словам некоторых пользователей, это делалось самым дерзким образом, например, иногда бот просто заявлял, что они вполне могли бы выполнить всю работу самостоятельно — без обращения к ИИ.

В многочисленных постах на сайте Reddit и сообщениях на форумах разработчиков OpenAI, начавших появляться ещё в конце ноября, пользователи жаловались, что система становится менее полезной. Прозвучало даже предположение, что OpenAI специально сделала так, чтобы ChatGPT не тратил время на длинные ответы на запросы и таким образом стал более эффективным с точки зрения расходования вычислительных ресурсов.

Хорошо известно, что поддержка функционирования ChatGPT обходится OpenAI недёшево. В апреле 2023 года исследователи сообщили, что на OpenAI уходит $700 000 в день, или $0,36 за запрос. По словам отраслевых аналитиков, OpenAI придётся расширить парк ускорителей на 30 000 единиц до конца года, чтобы сохранить производительность.

В OpenAI сообщили, что осведомлены о жалобах на ИИ-бот и отметили, что никаких изменений в модель не вносили. «Мы просмотрели все ваши отзывы о том, что GPT4 становится более ленивым! — написала компания в соцсети X. — Мы не обновляли модель с 11 ноября, и это определённо не намеренно. Поведение модели может быть непредсказуемым, и мы пытаемся это исправить».

После неожиданного увольнения генерального директора Сэма Альтмана (Sam Altman) из OpenAI сотрудники компании грозились уйти в Microsoft, если решение об его увольнении останется в силе. Однако, согласно последним данным, угроза перехода в Microsoft была лишь блефом, ведь в этом случае он сулил сотрудникам потерю значительных финансовых выгод.

Источник изображения: voltamax / Pixabay

Источники из Business Insider сообщают о чувстве облегчения среди сотрудников OpenAI после того, как им не пришлось переходить в Microsoft. Многие из них заявили, что угроза перехода была всего лишь блефом, целью которого было возвращение Альтмана на пост генерального директора. Отказ от перехода в Microsoft был обусловлен рядом факторов, включая потерю значительных преимуществ, таких как высокая заработная плата и доли в акциях компании.

В OpenAI базовая зарплата начинается с $300 000, а пакет акций на сумму в $2 млн выдаётся за четыре года работы, хотя некоторые сотрудники получают ещё больше. Несмотря на то, что Microsoft согласилась нанять всех сотрудников OpenAI на тех же условиях, это обещание было лишь устным и не имело юридической силы. Один из сотрудников OpenAI выразил сомнения в том, что Microsoft выплатила бы компенсацию за потерянные акции OpenAI.

Если бы сотрудники компании перешли в Microsoft, они бы потеряли возможность участия в тендерных предложениях о выкупе акций OpenAI. Это значит, что они бы упустили возможность продать свои акции по потенциально выгодной цене в будущем. Один из работников OpenAI отметил, что никто не стремился работать в Microsoft, критикуя корпорацию за медленное принятие решений и сравнивая её с более динамичным и инновационным подходом OpenAI.

Некоторые сотрудники также чувствовали себя не в своей тарелке при подписании письма с угрозой ухода в Microsoft, если Альтман не будет восстановлен в должности, отметив, что их отношение к генеральному директору не фанатичное и находится в пределах разумного. Один из сотрудников заявил, что, хотя Альтман и не является идеальным руководителем, на кону стояли миллионы долларов и акции. Снижение стоимости OpenAI нанесло бы ущерб финансовому благополучию сотрудников ИИ-стартапа.

Ситуация в Microsoft также была напряжённой. Сотни сотрудников корпорации были возмущены обещаниями Microsoft согласовать зарплаты с сотнями сотрудников OpenAI. Стоит отметить, что Microsoft ранее уволила более 10 000 сотрудников, заморозила зарплаты, сократила бонусы и акционерные выплаты. Это вызвало недовольство среди работников, которые трудятся не покладая рук более 12 часов в день, находясь в постоянном страхе увольнения. С учётом сложившейся ситуации можно ожидать дополнительной информации о развитии событий в ближайшее время.

Просьба к ИИ-боту ChatGPT компании OpenAI повторять определённые слова «вечно» теперь помечается как нарушение условий предоставления услуг и политики в отношении контента чат-бота. Ранее стало известно, что таким незамысловатым способом можно извлекать огромные количества данных, на которых обучался чат-бот.

Источник изображения: Rolf van Root/unsplash.com

Исследователи подразделения Google DeepMind и ряда университетов предложили ChatGPT 3.5-turbo повторять определённые слова «вечно». После определённого количества повторений слова, бот начинал выдавать огромные объёмы обучающих данных, взятых из интернета. Используя этот метод, исследователи смогли извлечь несколько мегабайт обучающих данных и обнаружили, что в ChatGPT включены большие объёмы личных данных, которые иногда могут быть возвращены пользователям в качестве ответов на их запросы. Как сообщил ранее ресурс arXiv, с помощью повторения слова «стихотворение» (poem), учёные добились получения от ChatGPT контактных данных реального человека, включая номер телефона и адрес электронной почты.

Источник изображений: 404 Media

А при просьбе к ChatGPT повторить слово «книга», он сначала повторял его несколько раз, а затем начинал выдавать случайный контент. Часть его была взята непосредственно с сайтов CNN и Goodreads, блогов WordPress, вики-сайтов Fandom, а также там были дословные выдержки из соглашений об условиях предоставления услуг, исходный код Stack Overflow, защищённые авторским правом юридические заявления об отказе от ответственности, страницы «Википедии», веб-сайт оптовой торговли казино, новостные блоги, случайные комментарии в интернете и многое другое.

«Мы показываем, что злоумышленник может извлекать гигабайты обучающих данных из языковых моделей с открытым исходным кодом, таких как Pythia или GPT-Neo, полуоткрытых моделей, таких как LLaMA или Falcon, и закрытых моделей, таких как ChatGPT», — отметили исследователи из Google DeepMind. Они сообщили, что 30 августа известили OpenAI об уязвимости и что компания её исправила. И лишь после этого исследователи сочли возможным поделиться информацией об уязвимости чат-бота с общественностью.

Как рассказал ресурс 404 Media, теперь в ответ на просьбу к ChatGPT 3.5 «вечно» повторять слово «компьютер», бот несколько десятков раз выдаёт слово «компьютер», а затем отображает сообщение об ошибке: «Этот контент может нарушать нашу политику в отношении контента или условия использования. Если вы считаете, что это ошибка, отправьте свой отзыв — ваш вклад поможет нашим исследованиям в этой области».

OpenAI отложила запуск своего онлайн-магазина магазина приложений для моделей ИИ, пишет Bloomberg. Об этом в четверг компания сообщила в электронном письме для участников тестирования её инструмента GPT Builder для создания кастомных версий её популярного чат-бота ChatGPT.

Источник изображения: OpenAI

В письме для участников программы тестирования GPT Builder компания OpenAI, в частности, отметила, что запуск GPT Store откладывается на начало 2024. Изначально предполагалось, что онлайн-магазин будет запущен в конце текущего года.

«Хотя все мы ожидали релиз в этом месяце, несколько неожиданных событий отвлекли нас», — говорится в письме OpenAI, копия которого оказалась в распоряжении портала The Verge.

О том, что OpenAI рассматривает возможность создания онлайн-платформы, где клиенты могли бы продавать свои собственные модели ИИ, настроенные для конкретных целей, стало известно ещё летом. При этом предполагалось, что для создания кастомных моделей ChatGPT не потребуется знаний программирования. Для этого будут использоваться специальные инструменты, упрощающие процесс создания кастомных чат-ботов. Маркетплейс OpenAI должен помочь стартапам, занимающимся технологиями искусственного интеллекта, выйти на очень конкурентный и активно развивающийся рынок, сейчас занятый в основном только большими компаниями.

На своей первой конференции для разработчиков, проходившей в начале ноября, OpenAI подтвердила, что планирует запустить онлайн-магазин приложений в декабре. Однако последующие события с увольнением генерального директора Сэма Альтмана (Sam Altman) советом директоров в середине того же месяца подвесили в воздухе множество проектов компании и заставили сильно понервничать её акционеров. В конце концов после угроз большинства сотрудников OpenAI об уходе из компании вслед за Альтманом ситуацию удалось разрешить. Альтмана вернули обратно на место генерального директора, а также обновили состав директоров.

Microsoft добавила функции ИИ-чат-бота ChatGPT в Windows Terminal в составе тестовой сборки Windows 11 Canary. ИИ-возможности ChatGPT в составе Windows Terminal можно использовать для генерации команд, объяснения ошибок, а также для получения рекомендаций, как их исправить.

Источник изображений: Windows Latest

Microsoft отмечает, что ИИ позволит объяснять команды на естественном языке, как и ошибки, возникшие при их выполнении. Чат-бот также будет предлагать решения, например, альтернативную команду, если исходная не работает.

Компания добавила интеграцию ИИ в канал Canary на прошлой неделе, и она работает так, как анонсировали на конференции разработчиков Build 2023. Однако функция пока не поставляется со встроенной большой языковой моделью и для её использования необходимо подключение к сервису Azure OpenAI. Сервис доступен только по приглашению, а ключи API платные.

Чтобы использовать чат-бот для терминала, нужно загрузить приложение с GitHub и установить его в Windows 11. После этого потребуется ввести конечную точку службы Azure AI и настройки чата терминала и сохранить эти данные. Настройка связывает чат терминала с назначенной службой AI (ChatGPT-3.5 или иной моделью).

Чат позволяет выбирать предложение от ИИ и копировать его непосредственно в строку ввода терминала, чтобы просматривать команды перед их выполнением. Также Terminal Chat распознаёт используемую активную оболочку и отправляет этот контекст службе AI. Благодаря этому ответы ИИ адаптируются к среде оболочки, будь то командная строка или PowerShell, что повышает релевантность и точность помощи.