Юридическая компания Clarkson обратилась в федеральный суд северного округа Калифорнии с коллективным иском против OpenAI, разработчика популярного ИИ-бота ChatGPT. Заявитель считает, что разработчик нарушил права миллионов интернет-пользователей, используя их публично доступные данные для обучения больших языковых моделей, которые являются основой ИИ-алгоритмов.

Источник изображения: Pixabay

По словам управляющего партнёра Clarkson Райана Кларксона (Ryan Clarkson), компания хочет представлять в суде интересы «реальных людей, чьи данные были украдены и незаконно присвоены для создания этой очень мощной технологии». Согласно имеющимся сведениям, речь идёт об общедоступных данных пользователей, таких как комментарии в социальных сетях, сообщения в блогах, статьи в «Википедии» и др. Официальные представители OpenAI пока воздерживаются от комментариев по данному вопросу.

Судебный иск Clarkson затрагивает главную нерешённую проблему в сфере генеративных нейросетей, таких как ИИ-боты и генераторы изображений. Такие инструменты обучаются на огромном количестве данных, доступных в интернете. После завершения обучения большие языковые модели могут формировать ответы при общении с человеком, сочинять стихи или рассказы, вести сложные беседы и др. Однако люди, чьи данные используются при обучении нейросетей, не давали согласия на использование этой информации кем-то вроде OpenAI.

«Вся эта информация используется масштабно, хотя она никогда не предназначалась для обучения больших языковых моделей», — заявил Кларксон. Он также рассчитывает, что суд установит определённые ограничения в плане того, как могут обучаться ИИ-алгоритмы, и как люди могут получить компенсацию за использование их данных. По данным источника, у компании уже есть группа истцов, и она активно ищет новых клиентов.

Иск Clarkson к OpenAI является не первым случаем, когда разработчиков ИИ-алгоритмов обвиняют в незаконном использовании данных. В ноябре прошлого года был подан иск против OpenAI и Microsoft в связи с тем, что компании использовали программный код на платформе GitHub для обучения ИИ-инструментов. В феврале платформа Getty Images подала в суд на Stability AI, обвинив компанию в незаконном использовании изображений сервиса для обучения своей генеративной нейросети.

Глава Meta✴ Марк Цукерберг (Mark Zuckerberg) и гендиректор OpenAI Сэм Альтман (Sam Altman) выразили поддержку мер государственного надзора над технологиями искусственного интеллекта, которые продвигает Еврокомиссар по вопросам внутреннего рынка Тьерри Бретон (Thierry Breton).

Источник изображения: ALEXANDRE LALLEMAND / unsplash.com

Накануне Цукерберг и Бретон провели встречу, на которой согласовали меры госрегулирования технологий ИИ в части оценки рисков. Поддержку курсу ЕС выразил и Сэм Альтман, глава выпустившего ChatGPT стартапа OpenAI. «Мы рассчитываем на сотрудничество с вами — оно поможет предлагать в Европе услуги в соответствии с требованиями европейского рынка», — заверил Альтман Бретона.

На этой неделе Бретон нанёс визиты в штаб-квартиры технологических компаний. По итогам посещения офиса Meta✴ чиновник заявил, что владелец Facebook✴ и Instagram✴ достаточно подготовился к соблюдению строгих правил модерации контента в Европе, и в июле будет проведён стресс-тест систем компании. Согласие на эту меру дал лично Марк Цукерберг — он считает необходимым провести оценку того, как Meta✴ справится с соблюдением норм модерации контента. Сейчас над внедрением DSA в Meta✴ работают около тысячи человек.

Бретон также обсудил технологии ИИ с главой NVIDIA Дженсеном Хуангом (Jensen Huang) — эта компания лидирует на рынке ИИ-ускорителей. Хуанг заявил, что NVIDIA с большой вероятностью будет инвестировать в Европу. Наконец, европейский чиновник провёл встречу с владельцем Twitter Илоном Маском (Elon Musk) и новой главой соцсети Линдой Яккарино (Linda Yaccarino), после чего заявил журналистам, что платформе потребуется выделить дополнительные ресурсы для работы с контентом, если она хочет обеспечить соблюдение европейских нормативов до августа, когда они вступят в силу.

OpenAI, создатель ИИ-чат-бота ChatGPT, лоббировала в Евросоюзе использование более мягких подходов при разработке законодательства, регулирующего применение генеративного ИИ, пишет Time со ссылкой на полученные копии документов Еврокомиссии.

Источник изображения: Pixabay

По данным источника, OpenAI обратилась к европейским законодателям с просьбой внести несколько поправок в проект «Закона об искусственном интеллекте». В частности, она предложила не относить системы ИИ общего назначения (GPAI), такие, как OpenAI ChatGPT и DALL-E, к «высокорисковым», что налагало бы на них самые строгие обязательства по обеспечению безопасности и прозрачности. OpenAI утверждает, что только компании, явно применяющие ИИ в областях и задачах с высоким риском, должны соблюдать правила для этой категории. «Сама по себе GPT-3 не является системой высокого риска, но обладает возможностями, которые потенциально могут быть использованы в случаях использования с высоким риском», — указала OpenAI в официальном документе, направленном должностным лицам Еврокомиссии и Совета ЕС в сентябре 2022 года.

В июне 2022 года состоялась встреча представителей OpenAI и Европейской комиссии с целью уточнения категорий рисков, предложенных в проекте Закона об ИИ. «Они были обеспокоены тем, что системы ИИ общего назначения будут включены в список систем с высоким риском, а также тем, что большее количество систем по умолчанию будет отнесено к категории с высоким риском», — указано в официальном протоколе встречи. По словам источника Time в Еврокомиссии, на этой встрече представители OpenAI выразили обеспокоенность тем, что предполагаемое чрезмерное регулирование может повлиять на инновации в области ИИ.

Похоже, что лоббирование OpenAI было большей частью успешным — GPAI не относится к категории высокорисковых в окончательном проекте закона ЕС об ИИ, одобренном 14 июня. Однако в нём предъявляются более высокие требования к прозрачности «базовых моделей» — мощных систем ИИ, таких как GPT-3, которые можно использовать для разных задач. Это потребует от компаний проводить оценку рисков и раскрывать, использовались ли материалы, защищённые авторским правом, для обучения их моделей ИИ.

Представитель OpenAI сообщил Time, что OpenAI поддерживает включение в закон об ИИ «базовых моделей» в качестве отдельной категории несмотря на то, что компания предпочитает не разглашать источники данных для обучения своих моделей ИИ, опасаясь судебных исков о нарушении авторских прав.

До вступления «Закона ЕС об ИИ» в силу пройдёт ещё немало времени. Как ожидается, он будет одобрен в конце этого года, а на его вступление в силу может уйти до двух лет.

Группа исследователей из Нью-Йоркского государственного университета (NYU) успешно разработала полупроводниковый чип, не используя при этом язык описания аппаратуры (HDL). С помощью обычного английского языка и содержащихся в нём терминов и примеров команда смогла определить и описать часть полупроводникового процессора — обычно для этого служит специальный HDL-язык вроде Verilog.

Источник изображения: freepik

Чип, разработанный исследовательской группой с помощью ChatGPT, не был полноценным процессором — ничего общего с процессором Intel или AMD. Созданный полупроводник — это элемент процессора: логика, отвечающая за создание новой 8-битной микропроцессорной архитектуры на основе аккумуляторов — регистров (память), в которых результаты промежуточных вычислений хранятся до завершения основного вычисления.

Обычно команды работают в несколько этапов, чтобы довести чип до проектирования и производства. Один из таких этапов связан с переводом английского языка, описывающего чип и его возможности, на выбранный HDL, который представляет фактическую геометрию, плотность и общее расположение различных элементов внутри чипа, что необходимо для самого травления процессора.

В данном случае ChatGPT позволил инженерам пропустить стадию HDL. По словам исследователей, они ожидают, что в процессе перевода HDL будет меньше ошибок, вызванных человеческим фактором, что будет способствовать повышению производительности, сокращению времени проектирования и времени выхода чипов на рынок, а также позволит создавать более креативные проекты.

Источник изображения: NYU Tandon

Исследователи использовали коммерческие и общедоступные большие языковые модели (LLM) для работы над восемью примерами проектирования аппаратного обеспечения, прорабатывая текст на обычном английском языке до его эквивалента на языке Verilog (HDL) в режиме реального взаимодействия между инженерами и LLM. «Результатом этого исследования стало то, что мы считаем первым HDL, полностью сгенерированным ИИ, для изготовления физического чипа», — сказал доктор Хэммонд Пирс, доцент NYU Tandon и член исследовательской группы.

«Некоторые модели ИИ, такие как ChatGPT от OpenAI и Bard от Google, могут генерировать программный код на различных языках программирования, но их применение в проектировании аппаратного обеспечения ещё не было широко изучено. Это исследование показывает, что ИИ может принести пользу и в производстве оборудования, особенно если он используется в разговорном режиме для совершенствования конструкций» — дополнил Пирс.

Одна вещь, которая вызывает больше опасений — это желание устранить необходимость свободного владения HDL среди разработчиков микросхем. Будучи чрезвычайно специализированной и сложной областью, это относительно редкий навык, которым очень трудно овладеть. Конечно, автоматизация части этого процесса будет несомненным благом, так как она ускорит работу существующих специалистов, в то время как новые специалисты подтягиваются и обучаются. Однако есть риск поставить этот навык в полную зависимость от программного обеспечения, работа которого зависит от электричества и, в случае с ChatGPT, подключения к серверу.

Основанное на алгоритмах искусственного интеллекта приложение ChatGPT можно воспринимать двояко: как технологический прорыв и как объект, который в одночасье обрёл вирусную популярность. Его влияние на общественность теперь лишь отчасти зависит от разработавшего сервис стартапа OpenAI, а настоящим выгодоприобретателем является Microsoft, которая явно собирается занять в сфере ИИ доминирующее положение — или уже сделала это.

Источник изображения: efes / pixabay.com

Лежащие в основе ChatGPT нейросети работают в облачной инфраструктуре Microsoft — компания является крупнейшим инвестором и ключевым технологическим партнёром OpenAI. И Microsoft теперь преимущественно ответственна за реализацию бизнес-модели ChatGPT. Тем временем OpenAI, являясь самым популярными в Кремниевой долине стартапом, теперь уже больше похожа на дочернюю компанию в составе софтверного гиганта.

Ещё год назад присутствие Microsoft в сфере ИИ было не особо заметным — об этом направлении больше говорили в Google, но не спешили адаптировать свои исследования под коммерческие продукты. Microsoft же со своим приходом сюда взяла прямой курс на извлечение максимальной прибыли. Помогающий в программировании инструмент GitHub Copilot привлёк более 10 тыс. компаний в качестве клиентов. Следующим шагом стала поисковая система Bing с чат-ботом, а затем функции Copilot стали проникать в офисный пакет Microsoft 365 и ОС Windows. «Нет смысла продвигать технологии ради технологий. Все эти технологические прорывы полезны только тогда, когда они что-то делают в реальном мире», — прокомментировал позицию компании её глава Сатья Наделла (Satya Nadella).

Компания пока не раскрывает цен на предстоящие продукты в рамках направления Copilot, но едва ли здесь будет что-то бесплатное. Версия для GitHub стоит от $10 за пользователя в месяц — если предположить, что аналоги для офисных приложений получат тот же ценник, в ближайшие четыре года Microsoft увеличит свой годовой доход на $48 млрд только на этих решениях, подсчитали аналитики. А к 2027 году доход Microsoft от продукции на основе технологий OpenAI вырастет до $99 млрд. Инвестиции в OpenAI обещают окупиться с лихвой: с 2019 года корпорация вложила в стартап $13 млрд, и с момента выхода ChatGPT цена её акций выросла на 30 %.

Руководство Microsoft не понаслышке знает, чего стоит причастность к передовым технологиям. Исполнительный вице-президент корпорации Скотт Гатри (Scott Guthrie) сравнил её выход в сферу ИИ с эпохой Windows 95, когда американцы с ночи занимали очереди в магазинах, чтобы купить ОС. В итоге Windows 95 стала даже не столько технологическим прорывом, сколько средством доминирования на рынке — десять лет спустя Microsoft оказалась разработчиком главной программной платформы для ПК, и ей пришлось урегулировать этот вопрос с правительством США в рамках антимонопольного законодательства. Теперь стратегия преимущественно та же: внедрить ИИ повсюду и заработать на этом.

Источник изображения: ilgmyzin / unsplash.com

Microsoft работала над технологиями ИИ ещё до появления Windows 95, но каждая её крупная попытка их внедрить оборачивалась крахом. В девяностые Скрепыш (виртуальный ассистент Microsoft Office) мог прервать работу пользователя, доложить ему, что тот пишет письмо, и предложить свою помощь. В 2016 году компания запустила чат-бот Tay, который первоначально должен был вести себя как девочка-подросток в Twitter. Эксперимент пришлось прервать уже через сутки, когда ИИ превратился в «тролля» с нацистскими замашками.

Основная работа Microsoft в области ИИ носила академический характер. В корпорации было три подразделения с разными руководителями — их проекты были не связаны друг с другом, и у них не было бизнес-планов. Зато были издержки на $10 млрд, однажды поразившие высшее руководство, и тогда стало ясно, что пришла пора что-то менять. На тот момент крупнейшими игроками в сфере ИИ были китайская Baidu, а также американские Google и OpenAI. У Baidu, владеющей крупнейшей в Китае поисковой службой, просто не было возможностей избежать погружения в это направление. Google начала всерьёз прорабатывать технологии беспилотных автомобилей и поглотила стартап DeepMind. Исключением была основанная Сэмом Альтманом (Sam Altman) и Илоном Маском (Elon Musk) компания OpenAI — с многообещающими демонстрациями и отсутствием средств на продолжение работы. Иными словами, OpenAI нуждалась в партнёре, а Microsoft было необходимо догнать Google.

Microsoft никогда не доверяла разработку крупных решений сторонним игрокам, а Альтман заявил, что ему нужен $1 млрд на относительно крохотную лабораторию. Но за ним была революционная идея — так называемое «трансферное обучение» (transfer learning). Тогда большинство ИИ-стартапов пыталось обучить компьютер только одной узкой задаче. Идея трансферного обучения состоит в том, чтобы создать модель для выполнения одной задачи, например, созданию сводок для текстов, а затем применить её знания к решению новых, но отчасти схожих задач — сочинению песен или планированию поездок. И со временем спектр обучающей информации у модели расширяется.

В результате сделки в 2019 году Microsoft получила эксклюзивное право на размещение проектов OpenAI в собственной облачной инфраструктуре, а также право продавать услуги OpenAI собственным клиентам. Стартап же получил технические средства для реализации своих проектов — суперкомпьютер с десятками тысяч высокопроизводительных ускорителей NVIDIA, настроенный согласно спецификациям OpenAI. Тогда возможности моделей OpenAI были ограниченными: нейросеть GPT-2 могла проанализировать фрагмент текста и дописать несколько предложений, но до релиза дело не дошло — казалось, модель могла только сочинять спам и фишинговые письма. А исследователи ещё и сами не понимали, каким может быть коммерческий продукт. Ситуация начала меняться в 2021 году, когда новая версия модели легла в основу службы GitHub Copilot — она просматривала фрагмент программного кода и предлагала последующие строки.

Источник изображения: D koi / unsplash.com

К тому времени основатель Microsoft Билл Гейтс (Bill Gates) покинул совет директоров корпорации, но его мнение всё так же имело вес. И он выступал против сотрудничества с OpenAI, считая GPT ерундой. Гейтс потребовал устроить для него демонстрацию, которая доказала бы, что ИИ-модель сама понимает, о чём говорит. И добавил, что если она сдаст экзамен по биологии уровня Advanced Placement (выпускной в старших классах), он будет впечатлён. В конце прошлого года вице-президент Microsoft Скотт Гатри, технический директор Кевин Скотт (Kevin Scott) и Сэм Альтман приехали в особняк Гейтса для демонстрации GPT-4. Нейросеть не просто сдала экзамен по биологии, но и прошла собственную проверку Гейтса — её заставили общаться с пользователями, как будто с родителями больного ребёнка, и основателя Microsoft поразила способность ChatGPT проявлять сочувствие.

В последующие месяцы Microsoft вела с OpenAI переговоры о вложении дополнительных $10 млрд, значительная часть из которых должна вернуться инвестору. Команде Альтмана были необходимы значительные ресурсы для запуска серии проектов на основе GPT-4. Первым из них был чат-бот для Bing. На поисковую службу от Microsoft приходятся 3 % рынка поисковой рекламы, тогда как у Google их 91 %. Так Bing оказалась идеальным полигоном с минимальным риском, но значительными вложениями. В отличие от Apple в Microsoft не принято устанавливать режим секретности в отношении будущих продуктов, но этот случай был исключением: лишь около 15 сотрудников знали о новой инициативе.

Запуск поискового чат-бота обозначил революцию: поисковая система, дающая собственные ответы вместо ссылок — очевидная угроза для Google. В результате акции Microsoft выросли, а у Google упали. В Google объявили «красный код», предписав разработчикам в авральном режиме добавлять ИИ во все продукты в ближайшие месяцы. Чат-бот помог Bing нарастить частоту использования на 15 %, и это внушительный результат для рынка, который пребывал в застое около десяти лет. Пользователей не отвратила ни чушь, на которую иногда срывается чат-бот Bing, ни порой агрессивная реакция на попытки уличить его в этом. У Microsoft 365 около 400 млн платных подписчиков, включая крупнейшие мировые корпорации, вооружённые силы и правительства. Руководство компании не считает сбои в работе ИИ проблемой, подчёркивая, что его функции в офисном пакете носят название Copilot, то есть «второй пилот», и чрезмерно доверять им не стоит.

Имея в распоряжении ресурсы OpenAI, Microsoft может с полным правом претендовать на доминирующее положение в области ИИ — примерно тот же сценарий, что и в 1995 году. Сегодня программы Microsoft используются почти в каждом крупном учреждении на Земле, а у Наделлы и Альтмана — самый крупный рынок сбыта. Логично предположить, что рано или поздно Microsoft на правах старшего партнёра может попытаться перейти черту дозволенного, но руководители обеих компаний этот сценарий отвергают. Как утверждает Альтман, OpenAI остаётся преимущественно самостоятельной единицей, хотя он и признаёт, что, если Microsoft решит отключить партнёру серверы, работа OpenAI будет практически парализована. Наделла же подчёркивает, что на рынке есть и разработчики конкурирующих технологий в области ИИ — но соглашается, что Microsoft является несомненным лидером.

Европейский парламент принял проект «Закона об искусственном интеллекте», который серьёзно ограничит использование программного обеспечения с ИИ для распознавания лиц, а также потребует от создателей систем искусственного интеллекта, таких как чат-бот ChatGPT, раскрывать больше информации о данных, используемых для создания их решений. Ожидается, что окончательный вариант закона будет принят не ранее конца этого года.

Источник изображения: Pexels

Одной из основных областей дебатов по новому закону было использование системы распознавания лиц. Европейский парламент проголосовал за запрет использования распознавания лиц в реальном времени, но пока остаются вопросы о том, следует ли делать исключения для национальной безопасности и других правоохранительных целей.

Другое положение запрещает компаниям собирать биометрические данные из социальных сетей для создания баз данных для ИИ. Эта практика вызвала пристальное внимание после того, как её использовала компания Clearview AI, занимающаяся распознаванием лиц. Европарламентарии также добавили запрет на использование технологий распознавания эмоций правоохранительными органами, пограничными службами, на рабочих местах и в учебных заведениях.

Была расширена классификация систем ИИ высокого риска. В неё попали модели, которые, по мнению парламента, могут нанести существенный вред здоровью, безопасности, основным правам или социальной среде, а также системы ИИ, используемые для влияния на избирателей и исход выборов. Крупные платформы социальных сетей, которые используют алгоритмы для рекомендации контента, также были добавлены евродепутатами в список высокого риска.

Франсин Беннетт (Francine Bennett), исполняющая обязанности директора Института Ады Лавлейс — организации в Лондоне, которая выступала за принятие новых законов об ИИ — сказала, что предложение ЕС является «важной вехой». «Быстро развивающиеся и быстро перепрофилируемые технологии, конечно, трудно регулировать, когда даже компании, создающие технологию, не совсем понимают, как всё будет происходить. Однако для всех нас было бы определённо хуже продолжать работать при полном отсутствии адекватного регулирования» — дополнила она.

Технологические лидеры также пытаются повлиять на ход дебатов. Сэм Альтман (Sam Altman), исполнительный директор OpenAI, в последние месяцы посетил не менее 100 американских законодателей и других глобальных политиков в Южной Америке, Европе, Африке и Азии. Он призвал к регулированию ИИ, после чего дополнил, что предложение Евросоюза может оказаться непомерно сложным для выполнения.

Окончательный вариант закона будет согласован между представителями власти Европейского Союза — Европейского парламента, Европейской комиссии и Совета Европейского Союза. Официальные лица заявили, что они надеются достичь окончательного соглашения к концу года.

По мере роста конкуренции в сфере генеративных нейросетей один из лидеров направления в лице OpenAI представил обновлённые версии алгоритмов генерации текста, а также снизил стоимость их использования. Компания выпустила обновлённые версии языковых моделей GPT-3.5-turbo и GPT-4, которые обеспечат ещё больше возможностей для создания контента по сравнению с предыдущими версиями языковых моделей стартапа.

Источник изображения: Pixabay

Одним из любопытных нововведений стало появление инструмента, позволяющего разработчикам описывать программные функции естественным языком и получать полноценный код для их выполнения. Например, данный инструмент подходит для создания чат-ботов, которые отвечают на вопросы, вызывая внешние инструменты, преобразовывая естественный язык в запросы к базам данных и извлекая структурированные данные из текста. Обе модели способны определять, когда функция должна быть вызвана и отвечать в формате JSON, который соответствует сигнатуре функции. Это нововведение также позволит разработчикам получать более точные и структурированные данные.

Вместе с этим модель GPR-3.5-turbo получила расширенное контекстное окно (количество текста, учитываемое в процессе генерации). Увеличение контекстного окна позволяет модели лучше понимать смысл запросов и выдавать более соответствующие им ответы, не отклоняясь от темы. Модель GPR-3.5-turbo имеет контекстное окно в 16 тыс. токенов, что в четыре раза больше по сравнению с аналогичным показателем GPT-3.5. Также было объявлено, что в настоящее время OpenAI тестирует модель GPT-4 с контекстным окном в 32 тыс. токенов.

Стоимость использования стандартной версии GPT-3.5-turbo (без расширенного контекстного окна) снижена на 25 % до $0,0015 за 1 тыс. входных токенов и $0,002 за 1 тыс. выходных токенов, что соответствует примерно 700 страницам текста за $1. Стоимость использования модели text-embedding-ada-002, которая позволяет измерить сходство текстов, снижена на 75 % до $0,0001 за 1 тыс. токенов.

OpenAI предупреждала Microsoft о необходимости постепенного внедрения GPT-4 в поисковую систему Bing, чтобы избежать неточных и непредсказуемых ответов, с которыми компания в итоге столкнулась при запуске. В отчёте также упоминается то, что команда OpenAI предупреждала о негативных рисках, связанных со слишком ранним выпуском чат-бота Bing на базе ещё не вышедшей версии GPT-4.

Источник изображения: Microsoft/OpenAI

Через несколько дней после запуска Bing Chat в феврале пользователи обнаружили, что чат-бот непредсказуем и может оскорблять пользователей, лгать им, и даже утверждать, что опознает в собеседниках своих врагов. После этого Microsoft быстро ограничила ответы Bing Chat, чтобы не дать искусственному интеллекту стать неконтролируемым. Потребовались месяцы работы, чтобы привести чат-бота Bing к тому состоянию, когда он может вести долгий разговор с пользователем без неожиданных выпадов. Тем не менее, он все ещё часто ошибается. The Wall Street Journal сообщает, что OpenAI предупреждала Microsoft о том, что GPT-4 не готова для внедрения в Bing Chat

В отчёте новостного издания также описывается напряжённость в отношениях между двумя компаниями, которые работают вместе и конкурируют в области ИИ. Сообщается, что руководители Microsoft были обеспокоены запуском ChatGPT в прошлом году. По данным WSJ, OpenAI предупредила Microsoft за несколько недель о том, что начнёт публичное тестирование ChatGPT, как раз в тот момент, когда софтверный гигант начал интегрировать модели OpenAI в Bing.

Microsoft и OpenAI имеют довольно уникальное партнёрство, которое привело к некоторому конфликту за кулисами, поскольку две компании одновременно поддерживают и конкурируют друг с другом. Компания лицензирует технологии OpenAI для использования в Bing, Azure, Office, Windows и многих других продуктах.

Microsoft также является эксклюзивным облачным партнёром OpenAI, и облачные сервисы цифрового гиганта обеспечивают работу всех задач OpenAI, включая её продукты, API-сервисы и исследования. В то же время OpenAI разработала свои собственные продукты и API-услуги, которые привлекают тех же клиентов, что и Microsoft. Наконец, ChatGPT является прямым конкурентом Bing Chat.

Пообещав приостановить работу над преемницей нейросети GPT-4, компания OpenAI так и не приступила к обучению GPT-5. Мера вызвана общественным беспокойством по поводу потенциальной угрозы больших языковых моделей благополучию человечества.

Источник изображения: ilgmyzin / unsplash.com

«Нам предстоит проделать массу работы, прежде чем запустим эту модель. Мы прорабатываем новые идеи, которые, как мы думаем, для этого нужны, но к запуску мы пока не приблизились», — рассказал глава OpenAI Сэм Альтман (Sam Altman) на конференции, организованной индийской газетой Economic Times.

В конце марта более тысячи представителей общественности и экспертного сообщества, включая Илона Маска (Elon Musk) и Стива Возняка (Steve Wozniak), подписали открытое письмо с призывом ко всем лабораториям искусственного интеллекта как минимум на 6 месяцев приостановить обучение систем мощнее GPT-4. Позже Альтман отметил, что в документе «отсутствует большинство технических нюансов по поводу того, где нам нужно сделать паузу», но добавил, что OpenAI так и не начала обучение GPT-5 и не планирует делать это ещё какое-то время.

Глава компании отверг некоторые предостережения в отношении потенциальных угроз систем ИИ, заявив, что OpenAI и сама способна провести их всестороннюю оценку с привлечением сторонних экспертов, имитацией полномасштабных кибератак и прочими тестами на безопасность. И даже по завершении работы над GPT-4 потребовались ещё полгода для выпуска платформы в открытый доступ, напомнил Альтман. Он также выступил против мер госрегулирования для небольших стартапов в области ИИ — предложив эту меру на слушаниях в Сенате, он имел в виду саму OpenAI и более крупных игроков.

Компания Microsoft предложила большие языковые модели (LLM), разработанные компанией OpenAI, федеральным ведомствам США, пользующимся облачными сервисами Azure. Об этом компания объявила в официальном блоге.

Источник изображения: Josh Riemer/unsplash.com

Как сообщает Reuters, Microsoft добавила в облаке Azure Government поддержку как GPT-3, так и новейших и сложнейших вариантов LLM, стоящих за мультимодальной моделью GPT-4.

Бум использования LLM наблюдается с тех пор, как компания OpenAI, поддерживаемая Microsoft и во многом находящаяся под контролем последней, представила вариант ChatGPT с невиданными ранее характеристиками «общительности» — чат-бот способен поддерживать вполне «осмысленный» диалог, и теперь бизнесы всех размеров — от стартапов до крупных корпораций — пытаются представить сопоставимые решения и схожие функции в своих сервисах.

Microsoft впервые предоставляет GPT-технологии в облаке Azure Government, обеспечивающем сервисы многим государственным ведомствам Соединённых штатов — это первая известная попытка крупных компаний предоставить услугу подобного рода государственным структурам.

Впрочем, Microsoft уже предлагает подобную функциональность коммерческим пользователям Azure, обеспечивая доступ к Azure OpenAI Services. По данным на май 2023 года, имелось уже 4,5 тыс. клиентов.

В Microsoft заявили, что государственные клиенты могут давать ИИ различные задачи, включая генерацию контента, преобразование текстовых команд в программный код или, например, составление резюме объёмных материалов.

Стоит отметить, что сервисы на основе LLM до сих пор могут страдать от «галлюцинаций» и давать откровенно неверные ответы, а эксперты и лидеры отрасли неоднократно предупреждали об опасности ИИ и необходимости регулирования подобных разработок и решений и даже назвали свои продукты угрозой, сравнимой с пандемией и ядерной войной.

OpenAI спровоцировала бум генеративного ИИ в прошлом году, когда выпустила чат-бота ChatGPT, который за два месяца приобрёл аудиторию в 100 млн ежемесячных пользователей, установив рекорд самого быстрорастущего приложения. На данный момент остро встала проблема дезинформирования пользователей искусственным интеллектом, и для борьбы с этим явлением компания предложила своё решение. Некоторые независимые эксперты выразили скептицизм по поводу того, насколько эффективным будет предложенный метод.

Источник изображения: pixabay

Дезинформирование, или «галлюцинации» ИИ возникают, когда модели, подобные ChatGPT или Google Bard, полностью фабрикуют информацию, ведя себя так, как будто они излагают факты. «Даже самые современные ИИ-модели склонны выдавать ложные сведения. Они демонстрируют тенденцию выдумывать факты в моменты неопределённости, — пишут исследователи OpenAI в своём отчёте. — Эти галлюцинации вызывают много проблем в областях, требующих многоступенчатых рассуждений, поскольку одной логической ошибки достаточно, чтобы сорвать гораздо более масштабное решение».

Новая стратегия OpenAI по борьбе с выдумками заключается в том, чтобы обучать модели ИИ вознаграждать себя за каждый отдельный, правильный шаг рассуждений, когда они приходят к ответу, вместо того чтобы вознаграждать только за правильный окончательный вывод. Исследователи назвали этот подход «контроль процесса». По их мнению, он может привести к созданию более логичного ИИ, поскольку эта стратегия побуждает модели следовать «цепочке мыслей», подобной человеческой.

«Обнаружение и смягчение логических ошибок модели, или галлюцинаций, является критическим шагом на пути к созданию согласованного AGI [искусственного интеллекта общего назначения]» — сказал Карл Коббе (Karl Cobbe), штатный математик OpenAI, отметив, что, хотя компания не изобрела подход, основанный на наблюдении за процессом, но она помогает его продвигать. По словам Коббе, OpenAI открыла доступ к сопроводительному набору данных из 800 000 меток, которые она использовала для обучения специальной модели, упомянутой в исследовательской работе.

Бен Уинтерс (Ben Winters), старший советник Информационного центра электронной конфиденциальности и руководитель проекта «ИИ и права человека», выразил свои сомнения по поводу исследования, заявив, что хотел бы изучить полный набор данных и сопутствующие примеры. «Я просто не думаю, что исследование само по себе значительно смягчает опасения по поводу дезинформации и неверных результатов, когда ИИ действительно используется в реальной жизни», — сказал Уинтерс.

Управляющий директор Института AI Now Сара Майерс Вест (Sarah Myers West), сказала, что OpenAI не предоставила основных деталей о данных, использованных для обучения и тестирования GPT-4. «Таким образом, все ещё существует огромная непрозрачность, которая препятствует любым значимым усилиям по обеспечению подотчётности в области ИИ, даже когда эти системы уже непосредственно влияют на людей», — отметила она.

OpenAI не планирует покидать Европу, заявил генеральный директор компании Сэм Альтман (Sam Altman). Ранее на этой неделе он говорил о том, что компания покинет европейский рынок, если станет слишком сложно соблюдать грядущие законы о регулировании систем на базе искусственного интеллекта.

Источник изображения: pixabay

ЕС работает над проектом первого в мире свода правил для регулирования искусственного интеллекта, и Альтман ранее заявил, что текущий проект закона ЕС об искусственном интеллекте является «чрезмерно регулирующим». Угроза Альтмана покинуть Европу вызвала критику со стороны главы промышленности ЕС Тьерри Бретона (Thierry Breton) и ряда других законодателей. Альтман провёл последнюю неделю в поездке по Европе, встречаясь с ведущими политиками во Франции, Испании, Польше, Германии и Великобритании, чтобы обсудить будущее ИИ и прогресс ChatGPT. Он назвал свою поездку «очень продуктивной неделей разговоров в Европе о том, как лучше регулировать ИИ».

Чат-бот ChatGPT, работающий на базе ИИ и поддерживаемый Microsoft, создал новые возможности вокруг технологии, а опасения по поводу его потенциала вызвали волнение и тревогу, что в итоге привело к конфликту с регулирующими органами. OpenAI впервые столкнулась с регуляторами в марте, когда итальянский регулятор данных Garante запретил приложение на внутреннем рынке, обвинив OpenAI в нарушении европейских правил конфиденциальности. ChatGPT был разблокирован после того, как компания ввела новые меры по обеспечению конфиденциальности для пользователей.

Вчера OpenAI заявила, что выделит 10 грантов из фонда размером в 1 миллион долларов на эксперименты по определению того, как именно должно регулироваться программное обеспечение с ИИ. Альтман назвал эти гранты «демократическим путём решения проблемы о поведении систем ИИ».

Несмотря на то, что приложение ChatGPT от OpenAI доступно пока только в 12 странах и на iOS, его старт был очень успешным. По оценкам компании data.ai, программу уже скачали полмиллиона раз за первые шесть дней после запуска. Это делает её одним из самых успешных новых продуктов на рынке.

Источник изображения: OpenAI

По мере роста потребительского спроса на чат-боты с искусственным интеллектом в App Store появилось множество клонов ChatGPT, которые, по большей части, пытаются обманом заставить потребителей платить за дорогие подписки, чтобы получить доступ к ИИ. Такая конкурентная среда среди приложений чат-ботов с искусственным интеллектом могла бы создать более сложный рынок для официального приложения ChatGPT, но, как оказалось, это не так.

Источник изображений: data.ai

Приложение ChatGPT от OpenAI превзошло большинство своих конкурентов, включая другие популярные приложения ИИ и чат-боты, а также приложения Bing и Edge от Microsoft, которые одними из первых предложили сторонние приложения с технологией GPT-4 от OpenAI. Хотя Bing и Edge, безусловно, выиграли от интереса к ChatGPT во время своего дебюта, получив 340 000 и 335 000 загрузок на iOS и Android в лучшие пятидневные периоды в феврале, приложение ChatGPT от OpenAI легко превзошло их, обеспечив 480 000 установок в первые пять дней после запуска в США, когда приложение было доступно только для iOS.

Анализ Data.ai также показал, что это приложение опережает другие чат-боты с искусственным интеллектом в США, многие из которых были обобщённо названы словами «ИИ» и «чат-бот», чтобы извлечь выгоду из потребительского поиска по ключевым словам в App Store. Здесь ChatGPT от OpenAI оказался в первой пятёрке по количеству загрузок, если сравнивать с лучшими пятидневными периодами других приложений в 2023 году в App Store и Google Play.

Data.ai отмечает, что только 1 % лучших приложений за первые пять дней в США смогли достичь более 10 600 загрузок, а 0,1 % — более 45 000. Оценивались данные примерно 39 000 приложений, которые были запущены в США на iOS с начала 2022 года и в какой-то момент за этот период заняли первые места в чартах. Конечно, установки — это лишь один из способов измерения потребительского спроса, и он не так надёжен, как анализ того, сколько людей затем зарегистрировались и стали активными пользователями приложения.

Поскольку с момента выхода ChatGPT прошло менее недели, data.ai пока не имеет точных оценок по таким показателям, как ежедневные или ежемесячные активные пользователи, так как для этого может потребоваться ещё несколько недель.

Microsoft призвала США и другие государства учредить собственные ведомства для регулирования сферы ИИ. Президент компании Брэд Смит (Brad Smith) представит 41-страничный доклад, посвящённый контролю за ИИ на фоне опасений, что технология будет подрывать стабильность общества тем или иным путём.

Источник изображения: TheDigitalArtist/unsplash.com

Смит заявил, что некоторые законы могут применяться и уже существующими правительственными агентствами и судами, им просто необходим опыт в применении существующих законов к ИИ-программам. Тем не менее, он подчеркнул отсутствие систем сдерживания для более умных и автономных ИИ-программ, которые появятся в следующем десятилетии. По его словам, позже понадобится разработать новые законы и правила, а лучше всего их применением может заняться новое правительственное ведомство. По словам Смита, для регулирования более производительных ИИ-систем необходимо не только принимать новые законы, но и лицензировать дата-центры, в которых будут базироваться высокопроизводительные ИИ-модели. Известно, что аналогичную идею продвигал среди членов Конгресса США глава OpenAI — партнёра Microsoft, Сэм Альтман (Sam Altman).

Смит подчеркнул, что компания Microsoft одобряет его призыв и поддерживает учреждение нового регулятора для внедрения режима лицензирования. Подобные лицензии, в частности, должны быть необходимы для использования ИИ-программ, управляющих критической инфраструктурой страны. Кроме того, операторы должны делать резервные копии данных. Также должна быть предусмотрена возможность человека вмешаться, если ИИ начнёт вести себя не так, как следует.

Источник изображения: Microsoft

Предлагая новые правила, Смит подчеркнул, что властям необходимо избежать ошибок, допущенных при появлении социальных сетей. По его словам, если чуть более десяти лет назад представители IT и политики были в восторге от их роли в распространении демократии (в качестве примера он привёл т.н. «Арабскую весну»), то уже через пять лет выяснилось, что социальные медиа могут выступать и в роли оружия, якобы нацеленного на саму демократию.

Так или иначе, введение новых законов, стандартов и правил, скорее, поможет Microsoft преуспеть в разработках ИИ, чем будет препятствовать им — компания имеет достаточно ресурсов для того, чтобы обеспечить соответствие высоким стандартам, заданным в докладе. Более мелким компаниям в этом случае придётся намного сложнее.

Впрочем, сама Microsoft может опасаться более жёстких правил обращения с ИИ, уже разрабатываемых в ЕС. Вчера Сэм Альтам выразил обеспокоенность по этому поводу — по его словам, OpenAI попытается соответствовать новому закону, когда тот будет принят, но если не сможет, то ей придётся уйти из Евросоюза.

TikTok тестирует новую функцию для своего мобильного приложения — чат-бот по имени Tako, который может отвечать на вопросы и вести беседы с пользователями приложения. На вопрос о назначении чат-бота представитель компании ответил, что компания пробует «новые способы усиления TikTok» на отдельных рынках.

Источник изображения: Pixabay

TikTok, принадлежащий китайской компании ByteDance, делает шаг в сторону ИИ в спорное для себя время. Политики в США и Европе стремятся пресечь или ограничить деятельность приложения, опасаясь, что данные могут быть использованы китайским правительством. В этом месяце Монтана стала первым штатом США, который одобрил меру по запрету TikTok. Вскоре после этого сервис коротких видео подал в суд на решение властей штата.

Источник изображений: Watchful.ai

На данный момент Tako отображается в виде маленького значка в виде приведения в правом верхнем углу экрана приложения. После нажатия на этот значок пользователи попадают в мессенджер, где они могут задавать вопросы. Чат-бот также может давать рекомендации по контенту на основе интересов и предпочтений пользователей. Несмотря на наличие у TikTok собственной команды искусственного интеллекта, любая информация, которую пользователи вводят в Tako, собирается и передаётся неназванным «сторонним поставщикам услуг», чтобы «предоставить вам ответы на ваши вопросы», согласно условиям конфиденциальности. Поэтому Tako доступен только пользователям TikTok старше 18 лет, отметили в компании.

Пользователи могут удалить свои данные, но их предупреждают, чтобы они не делились с чат-ботом никакой личной информацией. Им также рекомендуется не полагаться исключительно на бот в вопросах медицинских, юридических или финансовых консультаций, поскольку «обратная связь от Tako генерируется искусственным интеллектом и может быть неправдивой или неточной».