OpenAI столкнулась с проблемой модерации контента в своём магазине GPT, в котором пользователи вовсю создают чат-ботов, нарушающих правила компании. Независимое расследование выявило более 100 инструментов, которые позволяют генерировать фальшивые медицинские, юридические и другие запрещённые правилами OpenAI ответы.

Источник изображения: OpenAI

С момента запуска магазина в ноябре прошлого года OpenAI заявила, что «лучшие GPT будут изобретены сообществом». Однако, по данным Gizmodo, спустя девять месяцев после официального открытия многие разработчики используют платформу для создания инструментов, которые явно нарушают правила компании. Среди них чат-боты, генерирующие откровенный контент и инструменты, помогающие студентам обманывать системы проверки на плагиат, а также боты, предоставляющие якобы авторитетные медицинские и юридические советы.

Источник изображения: Gizmodo

На главной странице магазина OpenAI на днях были замечены по крайней мере три пользовательских GPT, которые, очевидно, нарушали правила: чат-бот «Терапевт – Психолог», «фитнес-тренер с докторской степенью», а также Bypass Turnitin Detection, который обещает помочь студентам обойти антиплагиатную систему Turnitin. Многие из мошеннических GPT были уже использованы десятки тысяч раз.

В ответ на запросы Gizmodo о найденных в магазине мошеннических GPT OpenAI заявила, что «предприняла меры против тех, кто нарушает правила». По словам представителя компании Таи Кристенсон (Taya Christianson), для выявления и оценки GPT, потенциально нарушающих политику компании, используется комбинация автоматизированных систем, человеческой проверки и пользовательских отчётов. Однако многие из выявленных инструментов, включая чаты, предлагающие медицинские советы и помогающие в обмане, по-прежнему доступны и активно рекламируются на главной странице.

«Интересно, что у OpenAI есть апокалиптическое видение ИИ и того, как они спасают нас всех от него», — сказал Милтон Мюллер (Milton Mueller), директор проекта по управлению Интернетом в Технологическом институте Джорджии (США). «Но я думаю, что особенно забавно то, что они не могут обеспечить соблюдение чего-то столь простого, как запрет на ИИ-порно, в то же время заявляя, что их политика спасёт мир».

Проблема усугубляется тем, что многие из медицинских и юридических GPT не содержат необходимых оговорок, а некоторые вводят в заблуждение, рекламируя себя как юристов или врачей. Например, GPT под названием AI Immigration Lawyer позиционирует себя как «высококвалифицированный ИИ-иммиграционный юрист с актуальными юридическими знаниями». Однако исследования показывают, что модели GPT-4 и GPT-3.5 в любом случае часто выдают неверную информацию, особенно по юридическим вопросам, что делает их использование крайне рискованным.

Напомним, OpenAI GPT Store — это торговая площадка кастомных чат-ботов «на любой случай», которых создают сторонние разработчики и получают от их реализации прибыль. Уже создано более 3 млн индивидуальных чат-ботов.

Как отмечали ранее осведомлённые источники, с начала этого года основатель OpenAI Сэм Альтман (Sam Altman) развернул серьёзную активность по привлечению средств международных инвесторов к развитию инфраструктуры, способной обеспечить адекватные, по его мнению, темпы экспансии систем искусственного интеллекта.

Источник изображения: Nvidia

По новым данным Bloomberg, разрабатываемый Альтманом план отдаёт приоритет развитию соответствующей инфраструктуры на территории США. Помимо строительства центров обработки данных, он подразумевает строительство новых электростанций и передающих мощностей, а также расширение производства полупроводниковых компонентов. Альтман намерен привлечь к реализации этого проекта средства инвесторов из Канады, Южной Кореи, Японии и ОАЭ. Одним из партнёров по реализации проекта станет Microsoft, которая уже вложила в капитал OpenAI более $13 млрд.

В последние недели руководство OpenAI, включая Альтмана, проводило встречи с потенциальными инвесторами в Японии, Южной Корее, Канаде, США и ОАЭ. Данные переговоры велись параллельно с обсуждением новых инвестиций в капитал OpenAI, которые могут поднять капитализацию бизнеса до $100 млрд. Помимо Thrive Capital, вложиться в стартап могут Microsoft, Apple и Nvidia. Представители OpenAI на запрос Bloomberg ответили, что компания считает важным развитие дополнительной инфраструктуры в США для продвижения систем ИИ в глобальном масштабе.

Намерения Альтмана привлечь для финансирования инициативы средства инвесторов из ОАЭ, как отмечается, уже послужили причиной неоднократных встреч руководства OpenAI с представителями Совета по национальной безопасности США. По его мнению, если не привлекать на сторону США инвесторов из условно нейтральных стран, то это могут сделать китайские власти.

Многие источники не раз упоминали о наличии у стартапа OpenAI амбиций по организации если не производства чипов для ускорителей вычислений, то хотя бы их разработки. По данным тайваньских СМИ, среди клиентов TSMC на передовой 1,6-нм техпроцесс A16 как раз может оказаться компания OpenAI, которая к моменту его освоения надеется располагать готовым проектом собственного чипа.

Источник изображения: Intel

Во всяком случае, об этом сообщает издание Economic Daily News. Основным заказчиком выпускаемых TSMC по технологии A16 чипов должна оказаться всё же Apple, по уже сложившейся практике и благодаря наличию у последней потребности в совершенствовании собственных мобильных процессоров. Освоить техпроцесс A16 компания TSMC рассчитывает в 2026 году, но обсуждать свои взаимоотношения с заказчиками публично она традиционно отказывается.

По данным тайваньских источников, OpenAI активно обсуждала с TSMC возможность создания специализированной фабрики исключительно под её нужды. Однако после оценки потенциальных преимуществ план создания специализированного предприятия был отложен. Разработку чипов для OpenAI ведут такие американские компании, как Broadcom и Marvell Technology, в случае с первой из них OpenAI даже может оказаться в числе её четырёх крупнейших клиентов. К слову, первые чипы OpenAI могут выпускаться TSMC по более зрелому 3-нм техпроцессу, а выбор технологии A16 уже сделан для последующих поколений.

Как отмечала TSMC ранее, 1,6-нм техпроцесс A16 по сравнению с ближайшим предшественником 2-нм N2P обеспечивает увеличение скорости переключения транзисторов на 8–10 % при неизменном напряжении, либо снижает энергопотребление на 15–20 % при том же уровне быстродействия. Плотность размещения транзисторов при этом удаётся увеличить на 10 %.

Стартап OpenAI имеет достаточно необычную для компаний, старающихся привлечь средства инвесторов, организационную структуру. Бизнесом руководит некоммерческая организация с собственным советом директоров, а коммерческое подразделение привлекает средства акционеров, но не гарантирует им получение прибыли. При нынешних масштабах бизнеса подобное несоответствие отпугивает инвесторов.

Источник изображения: OpenAI

Как сообщает Financial Times, руководство OpenAI сейчас обсуждает возможность преобразования собственной организационной структуры ради повышения привлекательности для инвесторов. С 2019 года Microsoft вложила в OpenAI около $13 млрд, и это всего лишь позволяет ей претендовать на получение 49 % прибыли стартапа, а фактически влиять на принимаемые советом директоров решения ключевой инвестор до сих пор не может. Высокие расходы на развитие бизнеса не позволяют рассчитывать на регулярное получение прибыли инвесторами, и фактически все принимаемые от инвесторов средства юридически оформляются OpenAI как добровольные взносы в капитал.

Одна из обсуждаемых идей подразумевает снятие ограничений на размер прибыли, получаемой инвесторами OpenAI. Представители компании эти слухи комментировать не стали, но пояснили, что «некоммерческая суть является основой нашей миссии, и она будет сохранена». Участники переговоров на условиях анонимности подчёркивают, что переход к более традиционной схеме инвестирования мог бы привлечь к бизнесу компании больше финансовых ресурсов.

Недавно стало известно о планах Apple и Nvidia присоединиться к Microsoft в числе инвесторов компании OpenAI, разработчика чат-бота ChatGPT с генеративным ИИ. Сообщившая об этом газета The Wall Street Journal (WSJ) предупредила о рисках этих инвестиций, поскольку OpenAI придётся столкнуться с более жёсткой чем когда-либо конкуренцией на рынке ИИ.

Источник изображения: Franz26/Pixabay

По словам WSJ, угроза исходит со стороны других стартапов, предлагающих услуги по более низким ценам, а также собственные ИИ-модели, более эффективные в решении более узких задач.

В частности, компания Meta✴ Platforms видит перспективы в новом поколении стартапов ИИ. Её гендиректор Марк Цукерберг (Mark Zuckerberg) позиционирует свою компанию как заступника простых людей, предлагая бесплатно сторонним разработчикам для использования передовую ИИ-модель Llama. Google также выпустила ИИ-модель с открытым исходным кодом.

В отличие от них, OpenAI взимает плату с конечных пользователей и компаний за доступ к своим самым мощным ИИ-моделям. Многие эксперты считают, что в конечном итоге пользователи будут полагаться на различные ИИ-модели — некоторые от поставщиков ПО с закрытым кодом, таких как OpenAI, другие на модели с открытым исходным кодом от их конкурентов, интересы которых отстаивает Цукерберг.

Тем временем ИИ с открытым исходным кодом уже догоняет по эффективности решения первопроходцев на рынке ИИ, особенно в повседневных бизнес-применениях, которые требуют стабильной производительности и низких затрат.

Meta✴ на этой неделе объявила, что версии ИИ-модели Llama были загружены почти 350 млн раз разработчиками ПО и пользователями, что в 10 раз больше, чем год назад. В свою очередь, OpenAI утверждает, что у сервиса ChatGPT сейчас 200 млн еженедельно активных пользователей.

По словам Жюльена Лоне (Julien Launay), главы стартапа Adaptive ML, для многих повседневных целей ИИ-модели, обученные для выполнения только определённых задач, будут лучше и дешевле в использовании. Стартап Adaptive ML использует модель Llama для обучения небольших, настраиваемых ИИ-моделей для компаний. Их гораздо легче настраивать, чем гигантские, закрытые ИИ, такие как ChatGPT, говорит Лоне. И число пользователей таких моделей растёт. Например, такие компании, как DoorDash, Shopify, Goldman Sachs и Zoom, заявили, что используют ИИ с открытым исходным кодом для различных задач, начиная с обслуживания клиентов и заканчивая подведением итогов совещаний.

Ещё один пример — Procore Technologies, разработчик платформы для управления сложными строительными проектами. В начале этого года Procore впервые запустила функции, использующие большие языковые модели, полагаясь на ChatGPT OpenAI с доступом через облачную платформу Microsoft. Затем Procore создала ПО, которое упрощает использование практически любого ИИ во всей её системе. И надобность в сервисе ChatGPT OpenAI отпала.

В подобных случаях удержание клиентов может стать проблемой для OpenAI. Большинство компаний не хотят быть привязанными к одному поставщику ИИ, и, по крайней мере, сейчас переключение между провайдерами услуг ИИ не составляет труда. Это делает ИИ-модели OpenAI конкурентами ИИ-решений, которые клиенты стартапа теперь могут разрабатывать самостоятельно.

В свою очередь, представитель OpenAI высказал мнение, что конкуренция со стороны ИИ с открытым исходным кодом увеличивает количество специалистов, которые знают, как использовать ИИ, что также приводит к росту спроса на услуги OpenAI.

Когда вопрос касается проблем безопасности, то мнения тоже резко отличаются. Сторонники закрытых систем говорят, что у них есть ресурсы и контроль, чтобы помочь предотвратить нецелевое использование технологии, и что инструментами с открытым исходным кодом могут воспользоваться злоумышленники. В свою очередь, сторонники решений с открытым исходным кодом наставивают на том, что в их системах проще обнаруживать проблемы и справляться с непреднамеренным вредом, который было бы трудно обнаружить в закрытых системах, поскольку они доступны для контроля общественности.

Когда накануне речь шла о намерениях OpenAI привлечь дополнительный капитал на своё развитие, помимо венчурного фонда Thrive Capital в качестве потенциальных инвесторов упоминалась только корпорация Microsoft, но теперь The Wall Street Journal утверждает, что к ним могут присоединиться Apple и Nvidia. Сумма инвестиций может измеряться несколькими миллиардами долларов США.

Источник изображения: Nvidia

Как уже отмечалось, Microsoft с 2019 года вложила в OpenAI примерно $13 млрд, что даёт ей право получать 49 % прибыли стартапа. И Nvidia, и Apple являются партнёрами OpenAI, поскольку первая снабжает стартап необходимыми для работы его больших языковых моделей ускорителями вычислений, а вторая заинтересована в развитии систем искусственного интеллекта в рамках собственной экосистемы Apple Intelligence. На первых порах она будет полагаться на ChatGPT, а позже должна развить собственные возможности в данной сфере.

Если Apple решится вложить средства в капитал OpenAI, для неё это будет нетипичный шаг, поскольку обычно она не инвестирует в стартапы. Зато в 2017 году Apple вложила $1 млрд в японский Vision Fund компании SoftBank, поскольку этот фонд занимался венчурными инвестициями, но напрямую в такой деятельности она не участвовала. В 2016 году Apple вложила $1 млрд в китайский стартап Didi, который по сути является агрегатором услуг такси. Тогда предполагалось, что такая инвестиция поможет Apple приблизить момент создания собственного автоматического такси, но в этом году проект был похоронен.

Как отмечает Bloomberg, в эту среду финансовый директор OpenAI Сара Фрайар (Sarah Friar) уведомила в рассылке сотрудников компании о поиске новых источников капитала. Подобные попытки, по данным источника, предпринимались с прошлого декабря. Вырученные деньги OpenAI намеревается потратить на увеличение вычислительных мощностей и покрытие прочих операционных расходов, как отметила финансовый директор.

Компания OpenAI сообщила, что число еженедельно активных пользователей ИИ-чат-бота ChatGPT теперь превышает 200 миллионов — это вдвое больше, чем год назад. Это достижение тем более интересно на фоне того, что конкуренция на рынке ИИ-чат-ботов только растёт.

Источник изображения: Levart_Photographer/Unsplash

ChatGPT остается лидером среди чат-ботов на основе генеративного искусственного интеллекта, но это крайне конкурентная среда, поскольку другие крупные игроки в сфере технологий ИИ также выпускают частые обновления для своих решений в надежде захватить долю рынка.

OpenAI также заявила, что 92 % компаний из списка Fortune 500 используют её продукты, а объёмы использования её автоматизированных API удвоились с июля, когда была представлена языковая модель GPT-4o.

«Теперь люди используют наши инструменты в своей повседневной жизни, внося реальные изменения в такие сферы, как здравоохранение и образование. Наши решения помогают в выполнении рутинных задач, решении сложных проблем или раскрытии творческих способностей», — прокомментировал глава OpenAI Сэм Альтман (Sam Altman) изданию Axios.

На рынке языковых моделей сохраняется жёсткая конкуренция среди таких компаний, как Microsoft, Google, OpenAI и Meta✴, каждая из которых старается для того, чтобы её ИИ-продуктами пользовались больше людей. Ранее Meta✴ отчиталась о значительном росте загрузок её языковых моделей Llama с открытым исходным кодом.

Компании OpenAI и Anthropic будут предоставлять правительству США доступ к своим новейшим большим языковым моделям искусственного интеллекта и до публичного релиза, «чтобы повысить их безопасность», пишет портал The Verge. Иными словами, власти США будут проверять, безопасно ли выпускать новые ИИ-модели в свет.

Источник изображения: Andrew Neel/unsplash.com

Обе компании подписали меморандум о взаимопонимании с Американским институтом безопасности ИИ, согласно которому они обязуются предоставлять доступ к моделям ИИ как до, так и после их публичного выпуска. По словам ведомства, этот шаг позволит совместными усилиями проводить оценки рисков безопасности и устранять потенциальные проблемы. Американское агентство добавило, что в этой работе также будет участвовать британский институт безопасности ИИ.

Как пишет The Verge, на этой неделе законодатели штата Калифорния одобрили принятие «Закона о безопасных и надёжных инновациях в области передовых моделей искусственного интеллекта». Этот закон требует от компаний, занимающихся разработкой ИИ в Калифорнии, принимать определённые меры предосторожности перед началом обучения передовых моделей искусственного интеллекта. К таким мерам, в частности, относится возможность быстрого и полного отключения модели ИИ, обеспечение защиты моделей ИИ от «небезопасных модификаций после обучения», а также оценка потенциальных рисков использования ИИ и его составляющих для «причинения критического вреда».

Документ не нашёл поддержки со стороны компаний, занимающихся технологиями ИИ. OpenAI и Anthropic выступили против его принятия, отметив, что новый закон может негативно сказаться на небольших компаниях, занимающихся созданием технологий ИИ на базе открытого исходного кода. Официально новый закон пока не принят и ожидает подписи губернатора Калифорнии Гэвина Ньюсома (Gavin Newsom).

Тем временем Белый дом работает над тем, чтобы стимулировать компании самостоятельно принимать и расширять меры безопасности, касающиеся технологий ИИ. Как сообщает The Verge, несколько ведущих фирм уже согласились инвестировать в исследования по вопросам кибербезопасности и дискриминации, а также заняться разработкой систем маркировки (водяных знаков) для контента, созданного ИИ.

Компания OpenAI не собираясь снижать своё влияние на рынке систем генеративного искусственного интеллекта, а для этого она намерена провести новый раунд сбора инвестиций. Аппетиты у компании немаленькие — планируется привлечь несколько миллиардов долларов. Как отмечает The Wall Street Journal, очередной раунд инвестиций должен оценить капитализацию OpenAI более чем в $100 млрд.

Источник изображения: OpenAI

По данным источника, новые финансовые вливания в капитал OpenAI обеспечат венчурный фонд Thrive Capital и остающаяся акционером стартапа корпорация Microsoft. Первый вложит около $1 млрд, величина инвестиций со стороны Microsoft не уточняется. В январе 2023 года эта компания вложила в OpenAI около $10 млрд. Предыдущий этап оценки бизнеса OpenAI пришёлся на конец прошлого года, когда сотрудники продавали её акции сторонним инвесторам. Тогда капитализация компании оценивалась в $86 млрд. Если же говорить о Thrive Capital, то с прошлого года этот фонд уже вложил в капитал OpenAI несколько сотен миллионов долларов США. Принято считать, что руководство фонда находится в доверительных отношениях с генеральным директором OpenAI Сэмом Альтманом (Sam Altman).

Кто ещё будет участвовать в новом раунде инвестиций, не уточняется. Конкуренция в сегменте искусственного интеллекта растёт, многие отраслевые гиганты либо самостоятельно развивают профильные компетенции, либо инвестируют в подшефные стартапы. Для Microsoft таковым формально является как раз OpenAI. По информации The Wall Street Journal, недавно некоторые акционеры OpenAI вели переговоры с инвесторами о продаже принадлежащих им акций компании по цене, которая соответствовала бы уровню капитализации в $103 млрд. Соответственно, в ходе новых переговоров оценка бизнеса вряд ли окажется ниже.

OpenAI полученные от инвесторов средства направит на своё развитие. Создание большой языковой модели GPT-4 потребовало от неё затрат в размере $100 млн. Уже сейчас ведётся работа над новой моделью, она наверняка окажется дороже в разработке. Пока сфера ИИ для большинства инвесторов подразумевает активные расходы, а вот финансовая отдача минимальна на краткосрочном горизонте. Сама OpenAI в этом году вышла на уровень в $3,4 млрд выручки в годовом выражении.

С 2019 года Microsoft вложила в капитал дочерней структуры OpenAI, которая отвечает за коммерческую составляющую бизнеса, около $13 млрд. Это позволяет программному гиганту претендовать на 49 % прибыли этой структуры. Обе компании считаются формальными конкурентами друг для друга, они не ограничивают себя в выборе альтернативных партнёров для развития широкого круга инициатив.

Несмотря на впечатляющие возможности больших языковых моделей (LLM), таких как GPT-4o и Claude, в написании эссе и решении уравнений за считанные секунды, они всё ещё несовершенны. Последний пример, ставший вирусным мемом, демонстрирует, что эти, казалось бы, всезнающие ИИ, не могут правильно посчитать количество букв «r» в английском слове «strawberry» (клубника).

Источник изображения: Olga Kovalski/Unsplash

Проблема кроется в архитектуре LLM, которая основана на трансформерах. Они разбивают текст на токены, которые могут быть полными словами, слогами или буквами, в зависимости от модели. «LLM основаны на этой архитектуре трансформеров, которая, по сути, не читает текст. Когда вы вводите запрос, он преобразуется в кодировку», — объясняет Мэтью Гуздиал (Matthew Guzdial), исследователь искусственного интеллекта и доцент Университета Альберты, в интервью TechCrunch. То есть, когда модель видит артикль «the», у неё есть только одно кодирование значения «the», но она ничего не знает о каждой из этих трёх букв по отдельности.

Трансформеры не могут эффективно обрабатывать и выводить фактический текст. Вместо этого текст преобразуется в числовые представления, которые затем контекстуализируются, чтобы помочь ИИ создать логичный ответ. Другими словами, ИИ может знать, что токены «straw» и «berry» составляют «strawberry», но не понимает порядок букв в этом слове и не может посчитать их количество. Если задать ChatGPT вопрос, «сколько раз встречается буква R в слове strawberry», бот выдаст ответ «дважды».

«Сложно определить, что именно должно считаться словом для языковой модели, и даже если бы мы собрали экспертов, чтобы согласовать идеальный словарь токенов, модели, вероятно, всё равно считали бы полезным разбивать слова на ещё более мелкие части, — объясняет Шеридан Фойхт (Sheridan Feucht), аспирант Северо-восточного университета (Массачусетс, США), изучающий интерпретируемость LLM. — Я думаю, что идеального токенизатора не существует из-за этой нечёткости». Фойхт считает, что лучше позволить моделям напрямую анализировать символы без навязывания токенизации, однако отмечает, что сейчас это просто невыполнимо для трансформеров в вычислительном плане.

Всё становится ещё более сложным, когда LLM изучает несколько языков. Например, некоторые методы токенизации могут предполагать, что пробел в предложении всегда предшествует новому слову, но многие языки, такие как китайский, японский, тайский, лаосский, корейский, кхмерский и другие, не используют пробелы для разделения слов. Разработчик из Google DeepMind Йенни Джун (Yennie Jun) обнаружил в исследовании 2023 года, что некоторым языкам требуется в 10 раз больше токенов, чем английскому, чтобы передать то же значение.

В то время как в интернете распространяются мемы о том, что многие модели ИИ не могут правильно написать или посчитать количество «r» в английском слове strawberry, компания OpenAI работает над новым ИИ-продуктом под кодовым названием Strawberry, который, как предполагается, окажется ещё более умелым в рассуждениях и сможет решать кроссворды The New York Times, которые требуют творческого мышления, а также решать сверхсложные математические уравнения.

OpenAI без громких анонсов обновила большую языковую модель GPT-4o, которая лежит в основе сервиса ChatGPT. Компания не перечислила, чем она отличается от предыдущих, но обмолвилась, что она научилась давать ещё более качественные ответы.

Источник изображения: Levart_Photographer / unsplash.com

«С прошлой недели в ChatGPT появилась новая модель GPT-4o. Надеемся, она вам уже пришлась по душе — попробуйте, если ещё не сделали этого. Думаем, вам понравится!» — сообщил официальный аккаунт ChatGPT в соцсети X. «Мы развернули обновление GPT-4o, которое, как мы обнаружили по результатам экспериментов и отзывам, предпочитают пользователи ChatGPT. Это не новая модель передового класса. Хотя мы и хотели бы рассказать вам, чем именно отличаются ответы модели, изучение того, как детально сопоставлять и рассказывать об улучшениях модели, остаётся в области исследований (над которой мы работаем!)», — написала после этого OpenAI в корпоративном блоге.

Первоначально пользователи предположили, что GPT-4o в ChatGPT научилась рассуждать но, как впоследствии пояснил представитель OpenAI, в реальности новых механизмов рассуждения не появилось, хотя ChatGPT может описать ход своих «мыслей» по специальному запросу. Люди также отметили, что качество ответов ChatGPT действительно улучшилось, и видимо, заработала генерация изображений силами самой GPT-4o — её предшественница, базовая версия GPT-4, не будучи мультимодальной, подключала для этого отдельную модель DALL-E 3. Но GPT-4o справляется с созданием изображений ещё лучше: она эффективнее понимает текстовые подсказки, а также более точно и реалистично создаёт иллюстрированный текст в изображениях.

Разработчики сторонних приложений также обратили внимание, что новая модель для ChatGPT ещё недоступна по умолчанию при работе через API. В OpenAI пояснили, что при работе через API можно вызвать её через «chatgpt-4o-latest», но лучше делать это только для тестирования, а в большинстве случаев для сторонних приложений пока рекомендуется вариант «gpt-4o-2024-08-06». Хотя новая версия, признали в компании, оптимизирована для работы в режиме чата и лучше всего раскрывает свои способности в диалоге.

Общение с ИИ-чат-ботом ChatGPT в новом голосовом режиме, когда его голос ничем не отличается от человеческого, может привести к появлению у пользователя зависимости от взаимодействия с ИИ, пишет ресурс CNN со ссылкой на отчёт OpenAI.

Источник изображения: Andrew Neel/unsplash.com

Как сообщает OpenAI, опубликовавшая в четверг отчёт по поводу безопасности использования расширенного голосового режима (Advanced Voice Mode, AVM) для сервиса ChatGPT, ставшего доступным для небольшого количества подписчиков ChatGPT Plus, голос чат-бота ChatGPT в режиме AVM звучит очень реалистично. Чат-бот реагирует в реальном времени, может подстраиваться под прерывание, воспроизводит звуки, которые люди издают во время разговора, например, посмеивается или хмыкает. Он также может судить об эмоциональном состоянии собеседника по тону его голоса.

После того, как OpenAI анонсировала эту функцию у мультимодальной модели генеративного ИИ GPT-4o, её начали сравнивать с цифровым помощником ИИ из вышедшего в 2013 году фильма «Она», в которого влюбляется главный герой.

Видимо у OpenAI вызывает опасения то, что вымышленная история оказалась близкой к реальности, после наблюдения за пользователями, которые разговаривают с ChatGPT в голосовом режиме на языке, «выражающем общие связи» с инструментом общения.

В итоге «пользователи могут формировать социальные отношения с ИИ, снижая свою потребность в человеческом взаимодействии — потенциально принося пользу одиноким людям, но, возможно, влияя на здоровые отношения», отметила OpenAI. В отчёте также указано, что получение информации от бота в голосовом режиме, звучащем как голос человека, может вызвать у пользователя больше доверия, чем следовало бы, учитывая склонность ИИ ошибаться.

OpenAI заявила, что взаимодействие пользователей с ChatGPT в голосовом режиме также может со временем отразиться на том, что считается нормой в социальных взаимодействиях. «Наши модели являются почтительными, позволяя пользователям прерывать и “брать микрофон” в любой момент, что, хотя и ожидаемо для ИИ, не является нормой в человеческих взаимодействиях», — сообщается в отчёте компании.

Вместе с тем OpenAI подчеркнула, что стремится создавать ИИ «безопасно» и планирует продолжить изучение потенциала «эмоциональной зависимости» пользователей от предлагаемых ИИ-решений.

OpenAI объявила о нововведении в своём сервисе ChatGPT. Теперь пользователи бесплатного тарифа смогут создавать до двух изображений в день с помощью модели DALL-E 3. Это изменение является частью стратегии компании по расширению функциональности своих продуктов.

Источник изображения: Levart_Photographer/Unsplash

Версия DALL-E 3, запущенная в сентябре 2022 года, изначально была доступна только подписчикам платного тарифа ChatGPT Plus. Теперь же сервис стал доступен более широкому кругу пользователей, хоть и с некоторыми ограничениями. Помимо расширения доступности сервиса, он также получил новые возможности. Если раньше необходимо было формулировать запросы для создания изображений самостоятельно, то теперь ChatGPT поможет в этом. Надо только попросить его написать тематическую подсказку. Например, Адитья Рамеш (Aditya Ramesh), ведущий исследователь и глава команды DALL-E, попросил ChatGPT помочь ему придумать логотип для кафе, расположенного вблизи гор. Затем, на основе этого короткого запроса, ChatGPT написал более длинную и подробную подсказку, а DALL-E предложил четыре варианта изображений.

OpenAI сообщила, что функция бесплатного создания изображений с DALL-E 3 находится в процессе развёртывания. Некоторые пользователи уже получили доступ к этой возможности. В частности, журналист из The Verge смог создать два изображения в приложении ChatGPT для Mac, прежде чем получил уведомление о достижении лимита созданий изображений на день.

OpenAI также сделала несколько других важных заявлений. Компания представила оценку безопасности своей модели GPT-4o, добавила нового члена в совет директоров, а генеральный директор Сэм Альтман (Sam Altman) получил письмо от демократов в Конгрессе США с требованием предоставить разъяснения по вопросам безопасности OpenAI.

Мобильное приложение ChatGPT от компании OpenAI установило новый рекорд по доходам. Согласно данным аналитической компании Appfigures, чистая выручка приложения за июль составила 28 миллионов долларов, что является самым высоким показателем за месяц с момента запуска приложения.

Источник изображения: Evgeny Opanasenko/Unsplash

Основной причиной такого роста стал выпуск новой модели GPT-4o в мае, которая значительно расширила возможности чат-бота. Новая версия способна обрабатывать текст, речь и видео, а также предлагает более быстрое время отклика и возможность прерывания диалога. Также новая нейросеть доступна как платным, так и бесплатным пользователям, что положительно сказывается на аудитории сервиса.

До вычета сборов магазинов приложений Apple App Store и Google Play, приложение ChatGPT заработало 28,9 млн долларов в мае, 34 млн долларов в июне и 39,9 млн долларов в июле. Интересно, что 83 % выручки приложения пришлось на App Store от Apple, что на 20 % больше по сравнению с июнем.

Источник изображения: Appfigures

По информации Appfigures, спрос на новую технологию способствовал росту выручки приложения на 40 % в мае, и хотя темпы роста немного замедлились, доходы продолжают расти стабильно. В результате, в июле ChatGPT удалось привлечь 2 миллиона новых платных подписчиков, что стало очередным рекордом для мобильного приложения.

В OpenAI ожидают, что с внедрением нового расширенного голосового режима, который сможет обеспечить реалистичное взаимодействие практически в реальном времени, интерес к GPT-4o будет только увеличиваться, соответственно рост доходов продолжится в ближайшие месяцы.

В 2017 году Intel имела возможность приобрести долю в OpenAI, но не воспользовалась этим шансом. Согласно данным Reuters, бывший генеральный директор компании Роберт Свон (Robert Swan) не верил, что модели искусственного интеллекта (ИИ) станут популярными в ближайшее время.

Источник изображения: Rubaitul Azad/Unsplash

В отличие от конкурентов, таких как Nvidia и AMD, компания Intel не выделялась на рынке ИИ-продуктов, за исключением некоторых чипов для ноутбуков с нейропроцессорами (NPU). Но теперь выяснилось, что в 2017 и 2018 годах Intel могла приобрести долю в OpenAI, которая в то время была небольшой некоммерческой исследовательской организацией. В обсуждениях фигурировали различные варианты инвестиций, включая покупку 15 % акций за 1 миллиард долларов или приобретение доли с одновременной продажей аппаратного обеспечения для OpenAI по себестоимости, пишет издание Tom's Hardware.

Однако, по словам информированных источников, Свон якобы отказался от сделки, поскольку не увидел перспектив быстрого выхода ИИ-моделей на массовый рынок, что, по его мнению, означало бы отсутствие возврата инвестиций. Кроме того, подразделение Intel по работе с центрами обработки данных «не хотело производить продукцию по себестоимости». Свон прогадал. В 2022 году OpenAI сумела запустить ChatGPT, который моментально вызвал огромный интерес и получил широкое признание.

Интересно, что для OpenAI сотрудничество с Intel означало бы меньшую зависимость от Nvidia, которая впоследствии стала лидером на рынке ускорителей вычислений для ИИ. Вместо Intel, Microsoft подсуетилась и инвестировала миллиарды долларов в OpenAI в 2019, 2021 и 2023 годах, превратив компанию в крупнейшего игрока на рынке ИИ.

В последнее время Intel испытывает финансовые трудности. Подразделение дата-центров и ИИ (DCAI) недавно сообщило о снижении выручки и операционного дохода. Тем не менее, процессоры Xeon Sierra Forest уже запущены в массовое производство, а поставки процессоров Xeon Granite Rapids начнутся в ближайшее время. Также Intel заявила, что её ускорители для ИИ Gaudi 3 будут запущены во второй половине года и уже более 20 клиентов готовы их закупить.

Напомним, будучи генеральным директором Intel с 2018 года по 2021 год, Роберт Свон часто подвергался критике за отсутствие технической хватки. Ранее он занимал должность финансового директора компании, уделяя больше внимания финансам, чем технологиям.