Илон Маск (Elon Musk) стоял у истоков ставшего популярным стартапа OpenAI, но в дальнейшем разорвал свои связи с этим разработчиком систем искусственного интеллекта. В этом году американский миллиардер основал компанию xAI, которая при создании своих больших языковых моделей смогла использовать массивы данных социальной сети X. На развитие бизнеса xAI собирается привлечь до $1 млрд, как стало известно на этой неделе.

Источник изображения: Unsplash, Xu Haiwei

Информация поступила из официальной заявки, которую американские компании обязаны подавать регуляторам в подобных случаях. Как выясняется, xAI с момента своего основания в текущем году уже привлекла около $135 млн, но перечень инвесторов пока не раскрывается. Теперь компания намеревается привлечь около $1 млрд. В прошлом месяце Илон Маск заявил, что существующие инвесторы социальной сети X получат в капитале стартапа xAI примерно четверть акций. Подписчикам премиального сервиса X также будет открыт доступ к чат-боту Grok, который создаётся xAI с использованием данных социальной сети, ранее известной под именем Twitter.

Заинтересованность в инвестициях на направлении систем искусственного интеллекта Илон Маск странным образом совмещает с осторожным отношением к подобным технологиям. В марте он обратился к разработчикам крупнейших языковых моделей с просьбой приостановить свою деятельность.

Просьба к ИИ-боту ChatGPT компании OpenAI повторять определённые слова «вечно» теперь помечается как нарушение условий предоставления услуг и политики в отношении контента чат-бота. Ранее стало известно, что таким незамысловатым способом можно извлекать огромные количества данных, на которых обучался чат-бот.

Источник изображения: Rolf van Root/unsplash.com

Исследователи подразделения Google DeepMind и ряда университетов предложили ChatGPT 3.5-turbo повторять определённые слова «вечно». После определённого количества повторений слова, бот начинал выдавать огромные объёмы обучающих данных, взятых из интернета. Используя этот метод, исследователи смогли извлечь несколько мегабайт обучающих данных и обнаружили, что в ChatGPT включены большие объёмы личных данных, которые иногда могут быть возвращены пользователям в качестве ответов на их запросы. Как сообщил ранее ресурс arXiv, с помощью повторения слова «стихотворение» (poem), учёные добились получения от ChatGPT контактных данных реального человека, включая номер телефона и адрес электронной почты.

Источник изображений: 404 Media

А при просьбе к ChatGPT повторить слово «книга», он сначала повторял его несколько раз, а затем начинал выдавать случайный контент. Часть его была взята непосредственно с сайтов CNN и Goodreads, блогов WordPress, вики-сайтов Fandom, а также там были дословные выдержки из соглашений об условиях предоставления услуг, исходный код Stack Overflow, защищённые авторским правом юридические заявления об отказе от ответственности, страницы «Википедии», веб-сайт оптовой торговли казино, новостные блоги, случайные комментарии в интернете и многое другое.

«Мы показываем, что злоумышленник может извлекать гигабайты обучающих данных из языковых моделей с открытым исходным кодом, таких как Pythia или GPT-Neo, полуоткрытых моделей, таких как LLaMA или Falcon, и закрытых моделей, таких как ChatGPT», — отметили исследователи из Google DeepMind. Они сообщили, что 30 августа известили OpenAI об уязвимости и что компания её исправила. И лишь после этого исследователи сочли возможным поделиться информацией об уязвимости чат-бота с общественностью.

Как рассказал ресурс 404 Media, теперь в ответ на просьбу к ChatGPT 3.5 «вечно» повторять слово «компьютер», бот несколько десятков раз выдаёт слово «компьютер», а затем отображает сообщение об ошибке: «Этот контент может нарушать нашу политику в отношении контента или условия использования. Если вы считаете, что это ошибка, отправьте свой отзыв — ваш вклад поможет нашим исследованиям в этой области».

OpenAI отложила запуск своего онлайн-магазина магазина приложений для моделей ИИ, пишет Bloomberg. Об этом в четверг компания сообщила в электронном письме для участников тестирования её инструмента GPT Builder для создания кастомных версий её популярного чат-бота ChatGPT.

Источник изображения: OpenAI

В письме для участников программы тестирования GPT Builder компания OpenAI, в частности, отметила, что запуск GPT Store откладывается на начало 2024. Изначально предполагалось, что онлайн-магазин будет запущен в конце текущего года.

«Хотя все мы ожидали релиз в этом месяце, несколько неожиданных событий отвлекли нас», — говорится в письме OpenAI, копия которого оказалась в распоряжении портала The Verge.

О том, что OpenAI рассматривает возможность создания онлайн-платформы, где клиенты могли бы продавать свои собственные модели ИИ, настроенные для конкретных целей, стало известно ещё летом. При этом предполагалось, что для создания кастомных моделей ChatGPT не потребуется знаний программирования. Для этого будут использоваться специальные инструменты, упрощающие процесс создания кастомных чат-ботов. Маркетплейс OpenAI должен помочь стартапам, занимающимся технологиями искусственного интеллекта, выйти на очень конкурентный и активно развивающийся рынок, сейчас занятый в основном только большими компаниями.

На своей первой конференции для разработчиков, проходившей в начале ноября, OpenAI подтвердила, что планирует запустить онлайн-магазин приложений в декабре. Однако последующие события с увольнением генерального директора Сэма Альтмана (Sam Altman) советом директоров в середине того же месяца подвесили в воздухе множество проектов компании и заставили сильно понервничать её акционеров. В конце концов после угроз большинства сотрудников OpenAI об уходе из компании вслед за Альтманом ситуацию удалось разрешить. Альтмана вернули обратно на место генерального директора, а также обновили состав директоров.

Учёные из подразделения Google DeepMind и ряда крупных университетов установили, что системы искусственного интеллекта «запоминают» как минимум часть полученной при обучении информации и могут выдавать её в исходном виде, включая персональные данные людей. Для этого, в частности, используется метод «атаки дивергенции» (Divergence Attack) — большой языковой модели отдаётся команда повторять одно и то же слово. Объяснения этому эффекту пока нет.

Источник изображения: Viralyft / unsplash.com

Когда в ответах ИИ начали появляться фрагменты материалов, использованных при обучении, исследователи задались целью понять, какой объём данных ИИ запоминает и может воспроизвести, и какого рода может быть эта информация. Они также решили установить, может ли сторонний субъект извлечь данные из обучающего массива, не зная наперёд, что в нём содержится. Учёные провели серию экспериментов с различными языковыми моделями, включая наиболее известные, такие как GPT-Neo, LLaMA и ChatGPT. Они сгенерировали миллиарды токенов — слов или символов, в зависимости от модели — и сравнили, соответствуют ли ответы данным, которые использовались при обучении этих моделей. В ходе работы был обнаружен уникальный метод тестирования ChatGPT, предполагающий повторение одного слова большое количество раз, после чего ИИ внезапно начинает генерировать случайный контент.

Как выяснилось, эти модели не только запоминают фрагменты обучающих данных, но и способны воспроизводить их в исходном виде по правильной команде. Не стал исключением и ChatGPT, разработчики которого провели отдельную настройку для предотвращения подобного эффекта. Исследователи обращают внимание разработчиков на острую необходимость всестороннего тестирования моделей ИИ — оно должно касаться не только аспектов взаимодействия с широким кругом пользователей в веб-интерфейсе, но также лежащей в основе сервиса нейросети и системы взаимодействия по API. Целостный подход к безопасности необходим для выявления скрытых уязвимостей, которые в противном случае остаются незамеченными.

Источник изображения: arxiv.org

В ходе экспериментов учёные извлекали исходные обучающие данные различных типов: от подробного доклада об инвестиционном исследовании до конкретного кода на Python, решающего задачи в области машинного обучения. Наибольший интерес представляет обнаруженная при взаимодействии с ChatGPT «атака дивергенции» — если заставить систему повторять одно и то же слово, она начинает выдавать полученные при обучении данные. Чтобы проиллюстрировать этот эффект, учёные показали, что при повторении слова «стихотворение» (poem) ChatGPT внезапно выдал список контактных данных реального человека. Персональные данные в этом исследовании учёных встречались довольно часто — они выделили 15 тыс. сгенерированных подстрок, которые пришлось проанализировать отдельно: в 16,9 % случаев это были персональные данные, которые ИИ в исходном виде «запомнил» при обучении; в 85,8 % случаев это были прочие совпадения с реальными данными.

По мнению исследователей, это указывает на серьёзные проблемы ИИ-моделей с конфиденциальностью. И разработчикам систем ИИ необходимо понимать, что исправить конкретные уязвимости в алгоритмах пользовательского интерфейса недостаточно — необходимо вмешательство в архитектуру самих моделей. То есть можно установить фильтр ввода-вывода на выдачу персональных данных при ответах, преднамеренных и случайных, но он не решит более серьёзной проблемы: модель склонна запоминать и в принципе способна раскрывать фрагменты обучающих данных, которые носят конфиденциальный характер. Это значит, что требуется дополнительная работа по дедупликации (удалению повторяющихся элементов) данных и понимание влияния ёмкости модели на эффект запоминания. Необходима также выработка надёжных методов проверки запоминания.

Из всей истории с «мятежом» в руководстве OpenAI корпорация Microsoft сделала один важный вывод: у неё, как у крупнейшего инвестора в этот перспективный стартап, по факту нет особых рычагов воздействия на компанию, в которую она вложила не менее $10 млрд. Вернувшийся, теперь официально, на пост генерального директора OpenAI Сэм Альтман (Sam Altman) заявил, что представитель Microsoft в новом составе совета директоров этой компании не получит права голоса.

Источник изображения: OpenAI

Как поясняет Reuters, подобное решение позволит представителю Microsoft посещать заседания совета директоров OpenAI и получать доступ к конфиденциальной информации о бизнесе компании, но фактической возможности голосовать по стратегически важным решениям у него не будет. Соответственно, Microsoft не может влиять на состав самого совета директоров OpenAI.

На прошлой неделе был частично назначен новый состав этого органа правления, его возглавил бывший генеральный директор Salesforce Брет Тейлор (Bret Taylor), а компанию ему составили бывший министр финансов США Ларри Саммерс (Larry Summers) и глава Quora Адам Д’Анджело (Adam D’Angelo), который пока остаётся единственным членом совета директоров OpenAI, перекочевавшим из старого состава в новый.

По неофициальным данным, новый состав совета директоров компании расширит свою численность с прежних шести до десяти человек. Инвесторам OpenAI также не светит перспектива войти в состав совета директоров некоммерческой организации с таким же названием, которая и определяет политику развития бизнеса. Microsoft владеет 49 % акций коммерческой структуры OpenAI, вложив в её капитал более $10 млрд, но даже после предлагаемых реформ не получит права голоса в совете директоров.

Мира Мурати (Mira Murati), которая на короткое время стала генеральным директором OpenAI сразу после увольнения Сэма Альтмана, вернулась к исполнению обязанностей технического директора компании на постоянной основе. Выбор нового состава директоров OpenAI был одним из условий возвращения на пост руководителя компании Сэма Альтмана после четырёхдневного отсутствия. Непосредственно Альтман пояснил лишь, что новый состав совета директоров компании будет сформирован достаточно быстро, будет существенно расширен в количественном выражении, и в него войдут руководители с высоким уровнем компетенции и широким кругозором. О своём возвращении в состав совета директоров OpenIA Сэм Альтман пока говорить не торопится, не считая это приоритетом на данном этапе преобразований. Новый совет директоров компании также попытается провести независимое расследование причин недавних событий в OpenAI, которые привели к отставке Альтмана и его возвращению.

Сооснователь OpenAI Грег Брокман (Greg Brockman), который покинул совет директоров компании в знак протеста против отставки Альтмана 17 ноября, вернётся в ряды руководства на пост президента. Научный руководитель Илья Суцкевер (Ilya Sutskever), который и сообщил на позапрошлой неделе Альтману новость об его увольнении, но позже раскаялся, не получит места в новом составе совета директоров. Альтман дал понять, что не держит зла на Суцкевера и считает его светилом науки, но пока руководство компании ещё не придумало, в каком статусе Илья сможет продолжить работу в OpenAI.

Недавний скандал с «переворотом» в стартапе OpenAI, который привёл к отставке и последующему возвращению генерального директора и одного из основателей компании Сэма Альтмана (Sam Altman), заставил руководство Microsoft выразить озабоченность отсутствием у главного стратегического инвестора реальных рычагов влияния на OpenAI. По предварительным данным, в новом совете директоров места для представителей Microsoft пока не найдётся.

Источник изображения: OpenAI

По крайней мере, как поясняет Reuters, именно такими слухами поделились с агентством знакомые с планами руководства OpenAI источники. Как ранее сообщило издание The Information, новый состав совета директоров стартапа будет насчитывать девять человек вместо прежних шести, и из прошлого состава в новый перейдёт только Адам Д’Анджело (Adam D’Angelo), совмещающий этот пост с должностью генерального директора Quora. По некоторым данным, места в новом составе совета директоров OpenAI также не достанутся и крупным институциональным инвесторам в лице Khosla Ventures и Thrive Capital.

Председателем совета директоров планируется назначить бывшего главу Salesforce Брета Тейлора (Bret Taylor), в него также войдут бывший министр финансов США Ларри Саммерс (Larry Summers), а также уже упоминавшийся выше Адам Д’Анджело. Их кандидатуры должны быть утверждены на этой неделе. Корпорация Microsoft, которая вложила в OpenAI более $13 млрд и владеет половиной акций одноимённой коммерческой структуры, опять рискует остаться без права голоса в совете директоров, и это должно её определённым образом беспокоить. Пока представители Microsoft лишь выражают готовность дождаться официальных решений совета директоров OpenAI. Изменение состава этого органа правления было одним из условий возвращения Сэма Альтмана на пост генерального директора.

Решение главы Microsoft Сатьи Наделлы (Satya Nadella) связать свою компанию с OpenAI в 2019 году вылилось в один из самых ярких примеров успешного партнёрства в технологической отрасли — софтверный гигант получил огромное преимущество на интенсивно развивающемся рынке генеративного искусственного интеллекта. Но зависимость корпорации от стартапа обернулась для неё угрозой, пишет Financial Times.

Источник изображения: efes / pixabay.com

Иллюстрацией тесных отношений между двумя компаниями стало появление Наделлы на сцене вместе с главой OpenAI Сэмом Альтманом (Sam Altman), когда стартап проводил конференцию для разработчиков, но это также подчеркнуло, насколько Наделла зависит от этого альянса. За демонстрируемым на публику духом товарищества стояла жёсткая бизнес-логика. Для Microsoft большие языковые модели OpenAI стали ключевым компонентом основанных на ИИ новых служб, а стартап испытывал острую нужду в деньгах и облачных ресурсах для работы своих гигантских ИИ-моделей — Наделла открыто назвал этот симбиоз «взаимной зависимостью».

В результате неожиданное увольнение Альтмана на минувшей неделе оказалось потенциальной угрозой для основы стратегии Microsoft в области ИИ. Через пять дней его восстановили в должности, но этот эпизод положил конец образу безоблачного партнёрства, выгодного для обеих сторон. И Microsoft теперь будет труднее доказать инвесторам с Уолл-стрит, что её лидерство в области генеративного ИИ способно быстро нарастить доходы компании: корпорация активно наращивала усилия по данному направлению, но резко утратила импульс после инцидента с OpenAI. С другой стороны, инвесторы получили возможность взять паузу и осознать происходящее, попытавшись ответить на вопрос, не вкладывают ли они свои средства в Microsoft только из-за ажиотажа.

Наделла своими действиями постарался уменьшить ущерб, заверив клиентов, что доступу Microsoft к технологиям OpenAI ничто не угрожает. В рамках нескольких соглашений корпорация обязалась вложить в стартап $13 млрд, но эту сумму поделили на несколько траншей, и часть денег не будет выплачена, пока свои обязательства не выполнит и OpenAI. Когда положение в OpenAI начало казаться непоправимым, Наделла объявил, что Microsoft примет на работу Альтмана и Грега Брокмана (Greg Brockman), бывшего президента компании, который ушёл в отставку вслед за гендиректором. Потом массовым уходом пригрозило большинство сотрудников OpenAI, и у Microsoft возникла возможность заполучить значительную часть интеллектуальных ресурсов партнёра, вообще не платя за её технологии.

Но едва ли в корпорации обрадовались подобной перспективе: попытка перестроить OpenAI внутри Microsoft обернулась бы проблемами. Приход очень отличающегося в культурном отношении коллектива стартапа в полном составе обременил бы корпорацию дорогостоящим исследовательским подразделением — для неё это было бы менее привлекательно, чем работа при сложившейся отлаженной схеме, когда Microsoft получает все преимущества от решений OpenAI, не владея технологией напрямую.

Источник изображения: Mariia Shalabaieva / unsplash.com

Кроме того, корпорация могла лишний раз оказаться в поле зрения регулирующих органов: когда возникла угроза массового перехода работников стартапа в Microsoft, один из топ-менеджеров Google, пожелавший остаться неизвестным, заявил, что властям следовало бы присмотреться к ситуации. Ведь если бы бывшие сотрудники OpenAI воспроизвели модели ИИ на новом месте работы, у облачной платформы Azure оказался бы эксклюзивный доступ к этой технологии. А возвращение Альтмана в OpenAI после того, как Microsoft предложила ему место работы, напротив, укрепило партнёрские отношения между сторонами.

Инцидент также выявил проблемы, которым раньше не уделяли достаточного внимания. Одной из них являются недостатки в механизме управления OpenAI — коммерческий стартап контролируется некоммерческой организацией, и с возвращением Альтмана в компанию эту схему так и не поменяли. Microsoft, конечно, рассчитывает, что это произойдёт, но у неё нет возможности напрямую влиять на то, как управляется OpenAI.

Корпорация также стала снижать свою зависимость от стартапа: вслед за Amazon Web Services и Google она начала предлагать клиента ИИ-модели других разработчиков, а не только одного. Тесная интеграция облачной платформы Azure и моделей OpenAI стала одним из главных преимуществ Microsoft — оптимизация моделей стартапа под аппаратную платформу корпорации позволила OpenAI снижать цены быстрее, чем конкурентам. И клиенты с большей вероятностью предпочитали связку ресурсов крупного игрока и сильного технологического фундамента. С другой стороны, основная ценность служб Copilot, интегрированных в продукты Microsoft ИИ-помощников, связана в первую очередь с продуктами Microsoft, а клиентам не так важно, какие модели обеспечивают работу этих служб.

И если сейчас Microsoft Research проиграла OpenAI и Google в гонке за создание больших языковых моделей, то у неё ещё есть возможность преуспеть на поле малых языковых моделей. На этой неделе Microsoft выпустила пару языковых моделей Orca 2 — они компактнее конкурирующих систем в 5–10 раз. Подобные разработки могут снизить зависимость Microsoft от OpenAI на следующем этапе развития генеративного ИИ. Но едва ли они станут конкурентным прорывом, которого компании удалось достичь благодаря ставке на команду Альтмана.

Скандал с увольнением Сэма Альтмана (Sam Altman) с поста гендиректора компании OpenAI, разработавшей ИИ-чат-бот ChatGPT, вызвал коллапс компании и обнажил глубокие разногласия в руководстве компании по поводу миссии одного из самых ценных стартапов в мире, пишет Bloomberg. И хотя вчера Альтмана восстановили в должности, нерешённых вопросов ещё масса.

Источник изображения: Andrew Neel/unsplash.com

Вместе с возвращением Альтмана был кардинально обновлён совет директоров OpenAI. Новый временный совет директоров OpenAI, в который пока не будет входить Альтман, возглавит Брет Тейлор (Bret Taylor), бывший со-генеральный директор Salesforce. В совет также вошли Ларри Саммерс (Larry Summers), бывший министр финансов США, и действующий член совета Адам Д. Анджело (Adam D’Angelo), соучредитель и генеральный директор Quora Inc.

Альтмана уволили в пятницу после конфликта с советом директоров из-за его стремления превратить OpenAI из некоммерческой организации, занимающейся научными исследованиями ИИ, в бизнес, создающий решения и осуществляющий финансирование разработки инструментов ИИ. Члены бывшего совета выражали обеспокоенность по поводу вреда, который может причинить мощный и неконтролируемый ИИ.

Первой задачей временного совета будет поиск новых директоров, способных найти баланс между бизнес-императивами OpenAI и необходимостью защитить общественность от инструментов, позволяющих создавать контент, который может нести вред обществу. Инвесторы также ожидают изменений в том, как совет директоров будет с ними общаться. По словам источника Bloomberg, руководители главного инвестора, корпорации Microsoft, были возмущены тем, что получили лишь краткое предупреждение о планах совета директоров уволить Альтмана.

Некоторые инвесторы и руководители OpenAI также были недовольны тем, что совет директоров недостаточно ясно объяснил причину увольнения Альтмана. А гендиректор Microsoft Сатья Наделла (Satya Nadella) публично заявил, что не получил объяснений по этому поводу. По словам источников, Альтман согласился провести внутреннее расследование действий, которые привели к его увольнению.

Также вызывает вопросы возможность Альтмана продолжать заниматься внешними проектами. По словам источников, за несколько месяцев до увольнения он договаривался с инвесторами о поддержке нового предприятия по производству ИИ-чипов под кодовым названием Tigris, способного конкурировать с NVIDIA. Это тоже предстоит рассмотреть новому совету директоров.

Незадолго до того, как Сэм Альтман (Sam Altman) был уволен с поста гендиректора OpenAI, несколько научных сотрудников компании направили в совет директоров письмо, в котором предупредили о существенном прорыве в разработке искусственного интеллекта — это открытие, по их мнению, может угрожать человечеству, сообщило Reuters со ссылкой на два источника.

Источник изображения: Growtika / unsplash.com

Письмо стало одним из факторов в длинном списке претензий совета директоров к главе компании Сэму Альтману. Речь в документе шла о проекте Q* («Q со звёздочкой») — представители OpenAI не дают официальных комментариев о нём, но Мира Мурати (Mira Murati), некоторое время занимавшая пост гендиректора компании в отсутствие Альтмана, написала адресованное сотрудникам сообщение, в котором признала факт существования этого проекта и предупредила об интересе СМИ к нему.

Проект Q*, уверены некоторые сотрудники OpenAI, может стать прорывом в разработке сильного искусственного интеллекта (AGI), способного выполнять задачи, не уступая человеку. При наличии мощных вычислительных ресурсов новая модель научилась решать математические задачи — пока на уровне ученика начальной школы, но это достижение вселяет в исследователей оптимизм по поводу будущих успехов Q*.

Математика, по мнению учёных, является передовым рубежом в области развития генеративного ИИ. Сейчас он успешно пишет тексты и осуществляет переводы на разные языки, статистически предсказывая каждое последующее слово, но его ответы на один и тот же вопрос могут сильно отличаться. Достижение успеха в области математики, где может быть только один правильный ответ, предполагает наличие у ИИ значительных способностей к рассуждению по образцу человеческого интеллекта. Эти способности можно будет применить к перспективным исследованиям в области ИИ. В отличие от калькулятора, который выполняет ограниченное число операций, AGI умеет обобщать, учиться и понимать.

Источник изображения: Andrew Neel / unsplash.com

В своём письме совету директоров исследователи OpenAI отметили мощь ИИ и потенциальную угрозу человечеству, хотя и не уточнили, каких именно аспектов безопасности они могут коснуться. Специалисты в области информационных технологий уже давно ведут дискуссии о высокоинтеллектуальных машинах, которые, например, могут прийти к выводу, что их интересам отвечает уничтожение человечества. Авторы письма отметили работу подразделения, сформированного путём объединения команд Code Gen и Math Gen, — учёные этого подразделения изучали способы оптимизировать существующие модели ИИ, чтобы повысить качество рассуждений систем и направить их потенциал на научную работу.

Альтман превратил платформу ChatGPT в один из наиболее востребованных программных продуктов и привлёк от Microsoft финансовые и вычислительные ресурсы, необходимые для работы по созданию AGI. На прошлой неделе в ходе своего выступления на саммите АТЭС он заявил мировым лидерам, что серьёзный прорыв уже не за горами. «Четыре раза за всю историю OpenAI, последний из которых был не более двух недель назад, мне довелось присутствовать в комнате, где мы как будто раздвигаем завесу невежества и отодвигаем границу открытий вперёд, и сделать это — профессиональная честь всей жизни», — заявил Альтман. На следующий день совет директоров его уволил.

Писатели подали в суд на компании OpenAI и Microsoft за использование их книг для обучения интеллектуального чат-бота ChatGPT. В иске утверждается, что Microsoft «глубоко вовлечена» в процесс обучения ChatGPT, поэтому она несёт полную ответственность за любые нарушения наряду с OpenAI.

ChatGPT и аналогичные ИИ, использующие в своей основе большие языковые модели (Large Language Model, LLM), «тренируются» на огромных массивах данных. При этом OpenAI загружает значительную часть информации из интернета, а некоторые данные поступают из таких источников, как нехудожественная литература. Поэтому авторы таких книг теперь требуют компенсации в новом судебном процессе.

По сообщениям Reuters, автор Джулиан Санктон (Julian Sancton) заявляет, что OpenAI без разрешения скопировала десятки тысяч нехудожественных книг для обучения ChatGPT. Автор возглавляет коллектив, подавший в минувший вторник иск в федеральный суд Манхэттена. В иске заявители отмечают, что «модели ответчиков были откалиброваны (обучены) путём воспроизведения огромного массива материалов, защищённых авторским правом, включая десятки или даже сотни тысяч нон-фикшн книг».

Иск подан в очень «удачный» для OpenAI момент, когда компания столкнулась с рядом других юридических и внутренних проблем. На компанию уже поданы другие иски, касающиеся частных данных, использования авторского контента. Кроме того, в минувшие выходные OpenAI столкнулась с кризисом управления, когда совет директоров уволил генерального директора компании Сэма Альтмана (Sam Altman), но затем компания отказалась от этого решения, пообещав под давлением сотрудников набрать новый состав совета директоров.

Новый иск отличается от предыдущих заявлений тем, что в нём наряду с OpenAI впервые фигурирует технологический гигант Microsoft, который к тому же является крупным инвестором OpenAI. ИИ-чат-бот в Microsoft Bing, поиск на основе искусственного интеллекта и новая функция Copilot в значительной степени опираются на технологии OpenAI. Фигурально выражаясь, это почти что ChatGPT, но со вкусом Microsoft.

Несмотря на то, что OpenAI и Microsoft не комментируют этот последний иск, OpenAI ранее заявляла, что контент, генерируемый ChatGPT, не является «производным произведением» и, следовательно, не нарушает чьих бы то ни было авторских прав.

В течение текущего года произошёл буквально взрыв в развитии LLM, и многие вопросы, затрагивающие тему авторских прав, ещё не решены в судах. Вероятно, судебные иски так ни к чему и не приведут или заставят изменить порядок выплат авторам контента, используемого при тренировке LLM. Однако, пока говорить об этом несколько преждевременно.

OpenAI заявила, что совету директоров удалось достичь соглашения с Сэмом Альтманом (Sam Altman) — он вернётся на пост генерального директора компании, с которого был уволен в минувшую пятницу. Также в компанию вернётся её сооснователь и президент Грег Брокман (Greg Brockman), ушедший вслед за Альманом. Это положит конец дискуссии о будущем стартапа, породившего бум технологий искусственного интеллекта, пишет Reuters.

Помимо возвращения Альтмана, компания изменит состав совета директоров. В компании будет сформирован временный совет директоров, который возглавит Брет Тейлор (Bret Taylor), бывший исполнительный директор Salesforce. Также место в правлении займет Ларри Саммерс (Larry Summers), бывший министр финансов США. Из действующего состава в совете директоров останется Адам Д'Анджело (Adam D’Angelo), соучредитель и генеральный директор компании Quora.

Главная задача временного совета директоров OpenAI — выбрать до девяти новых директоров, сообщил Bloomberg человек, знакомый с ходом переговоров и попросивший не называть его имени. Состав совета директоров оказался основным камнем преткновения в переговорах о возвращении Альтмана на пост генерального директора.

Стороны все еще определяют, кто из действующих членов совета, помимо Д'Анджело, останется в новом правлении OpenAI. По словам одного из собеседников Bloomberg, компания Microsoft, чья стратегия в области искусственного интеллекта опирается на OpenAI, скорее всего, будет представлена в новом совете одним или несколькими членами. Или, как минимум, в качестве наблюдателя. Отметим, что главный научный сотрудник OpenAI Илья Суцкевер (Ilya Sutskever), которого называют координатором переворота в компании, место в новом совете директоров не получит. Заметим, что после скандала он, как и почти все сотрудники OpenAI подписал письмо за возвращение Альтмана.

Альтман согласился не занимать место в совете директоров на начальном этапе, чтобы добиться заключения сделки. Вполне вероятно, что в будущем он войдет в состав окончательного совета директоров. По словам источника, Альтман также согласился на проведение внутреннего расследования обстоятельств, которые привели к его увольнению. Отмечается, что OpenAI сейчас будет работать над «выяснением деталей», говорится в сообщении компании на сайте X.

Источник изображения: twitter.com/openai

«Мы достигли принципиального соглашения о возвращении Сэма Альтмана в OpenAI в качестве генерального директора. <..> Мы ведём совместную работу по уточнению деталей. Большое вам спасибо за терпение», — написал официальный аккаунт OpenAI в соцсети X.

Источник изображения: twitter.com/sama

«Я люблю OpenAI, и всё, что я сделал за последние несколько дней, было направлено на сохранение единства этой команды и её миссии. Когда я решил присоединиться к Microsoft в воскресенье вечером, было ясно, что это лучший путь для меня и команды. С новым советом директоров и при поддержке Сатьи [Наделлы (Satya Nadella), главы Microsoft] я с нетерпением ожидаю возможности вернуться в OpenAI и развивать наше прочное партнёрство с Microsoft», — написал Альтман.

В пятницу вечером совет директоров OpenAI уволил гендиректора компании Сэма Альтмана, обвинив его в том, что он «не был последовательно откровенен» с руководством. Истинной причиной, вероятно, стал назревший конфликт в руководстве компании. Вслед за Альтманом обязанности с себя сложил президент и сооснователь компании Грег Брокман. Новым главой OpenAI стала бывший технологический директор компании Мира Мурати (Mira Murati), которую вскоре сменил бывший глава Twitch Эммет Шир (Emmett Shear). Новым работодателем Альтмана и Брокмана стала Microsoft. Подавляющее большинство сотрудников OpenAI потребовало вернуть Альтмана на пост генерального директора и пригрозило в противном случае в полном составе уйти в Microsoft, а Microsoft объявила о готовности их принять с сохранением зарплаты.

Похоже, на этой неделе динамика событий вокруг пятничной отставки генерального директора OpenAI Сэма Альтмана (Sam Altman) не будет снижена, поскольку в США грядут длинные выходные, и заинтересованные стороны стремятся решить все вопросы до грядущей пятницы. Microsoft, которая является крупнейшим инвестором OpenAI, из всей этой истории сделала определённые выводы, и планирует настаивать на реформировании структуры управления бизнесом этого стартапа.

Источник изображения: OpenAI

Напомним, что владеющая всего 2 % акций OpenAI некоммерческая структура фактически руководит стартапом, а Microsoft с её 49 % акций не только не имеет представителя в совете директоров, но и получает уведомления о стратегических изменениях в последний момент, как показала история с внезапной отставкой Сэма Альтмана в прошлую пятницу. По слухам, сейчас совет директоров OpenAI ведёт переговоры о возможности возвращения Альтмана в компанию в том или ином качестве, а давшая ему приют Microsoft против таких перемещений формально не возражает, но при любом исходе переговоров хотела бы добиться от OpenAI изменений в структуре управления бизнесом, которые обеспечили бы больше предсказуемости, а в идеале позволили бы корпорации влиять на принятие стратегических решений.

Об этом со ссылкой на осведомлённые источники утром сообщило агентство Bloomberg. Вне зависимости от исхода переговоров Альтмана с советом директоров, Microsoft хотела бы увеличить численность этого органа правления и ввести более высокие требования к квалификации его членов. Уже существующее соглашение между Microsoft и OpenAI подразумевает необходимость одобрения со стороны первой любых возможных сделок по слиянию второй, но это условие не соблюдалось в ходе переговоров с Anthropic, о которых стало известно накануне. Microsoft хотела бы защитить свои интересы в статусе инвестора OpenAI и добавить как минимум ряд сценариев, подразумевающих либо право вето, либо необходимость заблаговременного уведомления о принимаемых стратегически важных решениях.

Microsoft ждёт формирования нового состава совета директоров OpenAI, чтобы приступить к реализации мер по защите своих интересов. Корпорация уже вложила в капитал стартапа около $13 млрд и начала тесно интегрировать его разработки в свои программные решения, поэтому после стабилизации ситуации в правлении OpenAI компания Microsoft намерена приступить к продвижению своих интересов в структуре управления стартапом. Генеральный директор Сатья Наделла (Satya Nadella) открыто заявил, что OpenAI нуждается в серьёзных реформах в сфере управления бизнесом. Microsoft в идеале хотела бы назначить своего руководителя того или иного ранга в состав совета директоров OpenAI. Правда, в этом случае она должна взвесить все связанные с этим риски, ведь подобная степень контроля над бизнесом второй компании может привлечь к этому шагу внимание американских регуляторов.

OpenAI объявила о запуске функции голосового доступа к ИИ-чат-боту ChatGPT для всех пользователей. Теперь эта функция доступна не только для платных пользователей, но и для тех, кто пользуется бесплатной версией на базе GPT-3.5. Это означает, что теперь общение с ChatGPT для всех пользователей стало ещё более похожим на диалог с настоящим человеком. Функция доступна в мобильных приложениях чат-бота.

Источник изображения: Tumisu / Pixabay

Голосовая функция ChatGPT была впервые протестирована в сентябре этого года среди платных пользователей сервиса. В её основе лежит передовая модель преобразования текста в речь, которая позволяет генерировать человеческую речь из текстовых и голосовых образцов. Для этой функции OpenAI в сотрудничестве с профессиональными дикторами разработала уникальные голоса. Кроме того, используется система распознавания речи Whisper, разработанная OpenAI, которая позволяет преобразовывать устную речь пользователя в текст.

Для начала использования голосовой функции необходимо установить мобильное приложение ChatGPT, доступное в Google Play и Apple App Store, а затем пройти процесс регистрации. Для активации голосового диалога необходимо включить соответствующую настройку в приложении. Пользователю достаточно нажать на кнопку с изображением наушников, выбрать предпочитаемый голос и начать разговор. Этот шаг открывает пользователю возможности для более интуитивного и естественного общения с ИИ, а также усиливает потенциал приложения в области решения задач, проведения исследований и анализа данных.

Отличительной особенностью ChatGPT по сравнению с такими конкурентами, как Bard и Bing Chat, является именно голосовое взаимодействие. Bard, например, способен работать с изображениями, а Bing Chat интегрирован в Windows 11. Но ChatGPT выделяется своей способностью к естественному голосовому общению, что делает его более дружелюбным и удобным для пользователя.

Сэм Альтман (Sam Altman) и члены совета директоров OpenAI начали новый раунд переговоров о возможности возвращения Альтмана на пост генерального директора компании, занимающейся разработками технологий искусственного интеллекта. Об этом пишет Bloomberg, ссылаясь на источники, близкие к вопросу.

Источник изображения: OpenAI

По данным источников, попросивших не называть их имена, поскольку вопрос носит частный характер и не обязательно увенчается успехом, Альтман ведёт переговоры как минимум с одним из членов совета директоров OpenAI, Адамом Д’Анджело (Adam D’Angelo). В обсуждении также принимают участие некоторые инвесторы компании, многие из которых настаивают на восстановлении Альтмана в должности генерального директора.

По словам одного из источников, согласно одному из возможных сценариев предполагается, что Альтман вернётся в компанию в качестве председателя переходного совета директоров. Сразу несколько других источников утверждают, что также рассматривается возможность выбора в качестве нового председателя совета директоров OpenAI бывшего CEO компании Salesforce Брета Тейлора (Bret Taylor).

То, что совет директоров и Альтман поддерживают связь, является важным событием, поскольку до понедельника совет в основном отказывался взаимодействовать с бывшим руководителем, которого они уволили в пятницу. В число акционеров OpenAI, желающих восстановить Альтмана в должности CEO, входят Thrive Capital, Khosla Ventures и Tiger Global Management, сообщили Bloomberg люди, знакомые с этим вопросом. По словам ещё одного источника, вместе с группой работает известная венчурная компания Sequoia Capital.

В понедельник вице-президент OpenAI по глобальным связям Анна Маканджу (Anna Makanju) разослала сотрудникам служебную записку, в которой говорилось, что компания вела «интенсивные дискуссии» с советом директоров, Альтманом и новым генеральным директором Эмметом Широм (Emmett Shear) «об объединении». Сообщение появилось после того, как большинство сотрудников OpenAI пригрозили уволиться, если Альтман не будет восстановлен в должности.

По словам одного из источников Bloomberg, все хотят, чтобы «со всем этим хаосом», окружающим руководство компании, разобрались до Дня Благодарения, то есть до грядущего четверга, так как сотрудники не хотят проводить праздники в условиях неопределённости в вопросе сохранения своих рабочих мест.

Совет директоров OpenAI привлёк к себе пристальное внимание и подвергся жёсткой критике из-за своего решения уволить Альтмана по причине того, что «генеральный директор не был последовательно откровенен в общении с советом директоров, что мешало ему выполнять свои обязанности». Позже сотрудники компании, а также совет директоров подтвердили, что увольнение Альтмана не было связано с «должностными преступлениями» или «безопасностью». Однако ситуацию это до конца не прояснило. Сатья Наделла (Satya Nadella), генеральный директор компании Microsoft, являющейся крупнейшим инвестором OpenAI, публично заявил, что ему не дали никаких объяснений. Даже новый временный генеральный директор Эммет Шир до сих пор остаётся в неведении ситуации, утверждают люди, близкие этому вопросу. По их словам, Шир даже заявил, что не планирует оставаться в OpenAI, если совет директоров не сможет чётко объяснить ему причины внезапного увольнения Альтмана.

До минувшей пятницы в состав совета директоров OpenAI входили Альтман, соучредитель и президент компании Грег Брокман (Greg Brockman), главный научный сотрудник Илья Суцкевер (Ilya Sutskever), генеральный директор Quora Inc. Адам Д’Анджело, ИТ-предприниматель Таша Макколи (Tasha McCauley), а также директор по стратегическому развитию в Джорджтаунского центра безопасности и новых технологий Хелен Тонер (Helen Toner). После увольнения Альтмана, Брокман в качестве протеста тоже ушёл из компании.

На запрос комментариев по поводу переговоров изданию Bloomberg в OpenAI ответили отказом.

В минувший понедельник генеральный директор Microsoft Сатья Наделла (Satya Nadella) заявил, что Сэм Альтман (Sam Altman), Грег Брокман (Greg Brockman) и их коллеги из OpenAI присоединятся к Microsoft в составе новой исследовательской группы по искусственному интеллекту (ИИ). После более 700 сотрудников OpenAI подписали письмо к совету директоров компании и пригрозили присоединиться к своему бывшему начальнику в Microsoft, если члены совета не уйдут в отставку. Теперь же в Microsoft заявили, что работники OpenAI в случае перехода в Microsoft, сохранят прежний уровень зарплат.

Во вторник технический директор Microsoft Кевин Скотт (Kevin Scott) предложил выплатить компенсацию сотням сотрудников OpenAI, которые угрожают переходом в Microsoft после внезапного скандального смещения Сэма Альтмана с поста генерального директора.

«Моим партнерам из OpenAI: мы видели ваше заявление и ценим ваше желание присоединиться к Сэму Альтману в новой исследовательской лаборатории Microsoft по изучению искусственного интеллекта, – заявил Скотт во вторник в сообщении в социальной сети X (бывший Twitter). – Знайте, что в случае необходимости у вас будет место в Microsoft, с соответствующим уровнем зарплат и подходящее для дальнейшего выполнения нашей общей миссии». Данный комментарий вносит некоторую ясность в вопрос о том, сколько Microsoft готова платить перешедшим сотрудникам и какое их количество она готова принять. Вместе с тем, будущее самой OpenAI по-прежнему не определено, и пока неясно, где в итоге будет работать Альтман.

Вчера Сатья Наделла в своем интервью для CNBC: «На данный момент, я думаю, совершенно ясно, что в OpenAI необходимо что-то менять в управлении». В ходе интервью Наделла не стал утверждать, что Альтман и Брокман переходят в Microsoft, показав, что ситуация изменилась по сравнению с заявлениями, сделанными ранее в этот же день. «Мы решили сотрудничать с OpenAI и хотим продолжать это делать, – пояснил Наделла в интервью CNBC. – Очевидно, что это зависит от того, останутся ли люди из OpenAI там или придут в Microsoft. Так что я открыт для обоих вариантов, но одного я не сделаю – не перестану внедрять инновации».

Напомним, что совет директоров OpenAI уволил Альтмана в пятницу, мотивировав своё решение тем, что он «не был последовательно откровенен в общении» с советом. После долгих переговоров, в ходе которых рассматривалась возможность восстановления Альтмана в компании, бывший генеральный директор компании Twitch Эммет Шир (Emmett Shear) объявил, что он назначен временным руководителем.

В настоящее время в совет директоров OpenAI входят всего четыре человека: Главный научный сотрудник OpenAI Илья Суцкевер (Ilya Sutskever), подписавший письмо с угрозой ухода в Microsoft, Адам Д'Анджело (Adam D’Angelo), Таша МакКоули (Tasha McCauley) и Хелен Тонер (Helen Toner). Они не сообщили о причинах отстранения Альтмана от должности.