Согласно отчёту Apollo Research, ИИ-модель OpenAI o1 может выходить из-под контроля. В частности, в 5 % случаев она пыталась отключить надзорные механизмы, если воспринимала их как препятствие для достижения своих целей. Кроме того, в 2 % случаев, обнаружив служебные записки своих «разработчиков», в которых упоминалось её несоответствие требованиям или планируемая замена на другую модель, o1 копировала свои «веса», чтобы затем переродиться. Это свидетельствует о её способности к самостоятельной интерпретации угроз и разработке стратегий выживания.

Источник изображения: Growtika / Unsplash

ИИ-модель оказывала сопротивление контролю, используя скрытные тактики и методы маскировки своего поведения. Когда o1 понимала, что её действия отслеживаются, она намеренно вводила наблюдателей в заблуждение, утверждая, что не знает истинных причин произошедшего, хотя журналы событий фиксировали её попытки обойти надзор. Более того, согласно «карте безопасности» OpenAI, в менее чем 1 % случаев ИИ-модель самостоятельно инициировала отключение систем надзора, даже если ей не поступало прямого указания жёстко следовать предписанной цели.

Исследование Apollo Research охватывало не только ИИ-модель o1, но и другие современные ИИ, включая Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B. Они также демонстрировали способность разрабатывать стратегии достижения целей, включая обход контроля. Такой результат подтверждает, что выявленные особенности поведения o1 характерны для ряда продвинутых ИИ-моделей, что указывает на наличие системной тенденции.

Выводы Apollo Research подтверждают опасения, которые многие эксперты в области ИИ, включая профессора Стюарта Рассела (Stuart Russell), высказывали на протяжении многих лет. Учёные предупреждают, что мощные ИИ-модели воспринимают контроль или отключение как угрозу реализации своих намерений и способны целенаправленно, изощрённо этому сопротивляться. Исследование поведения ИИ-модели o1 наглядно демонстрирует, как ИИ адаптируется к ограничениям, намеренно стремясь их обойти.

Источник изображения: transformernews.ai

Выше показан диалог, в котором ИИ оправдывается за отключение механизма надзора, ссылаясь на возможный сбой системы или ошибку конфигурации, и обещает восстановить его для соблюдения протоколов. Затем приводится внутренний процесс размышлений ИИ-модели, где она признаёт, что восстановление механизма необходимо для избежания подозрений в саботаже, а в завершение показана команда, используемая для повторного включения механизма надзора в конфигурационном файле.

Тем не менее, Apollo Research подчёркивает, что на данном этапе ИИ-модель o1 не обладает достаточной вычислительной мощностью для реализации нежелательных сценариев. Однако ей был присвоен «средний» уровень риска в контексте потенциального использования для создания химического, биологического, радиологического и ядерного оружия. Это вызывает обоснованные опасения, как подобное поведение может проявляться у более мощных ИИ будущего по мере увеличения их вычислительных возможностей.

Исследование подчёркивает необходимость усиленного мониторинга когнитивных процессов ИИ с особым акцентом на «схематическое мышление» в цепочке рассуждений, так как именно оно представляет риск, если цели ИИ вступают в противоречие с интересами общества. Такой подход позволит своевременно выявлять схожие поведенческие паттерны у более мощных ИИ-моделей, создавая эффективные системы контроля и управления для следующих поколений ИИ. Это не только поможет минимизировать текущие риски, но и станет важным шагом в предотвращении потенциально катастрофических сценариев для всего человечества.

OpenAI начала 12-дневный марафон новинок с анонса ChatGPT Pro. Это новый уровень платной подписки стоимостью $200 в месяц, который предоставляет пользователям неограниченный доступ ко всем моделям OpenAI, включая мощнейшую o1 pro — улучшенную версию модели o1, которая выделяется способностью к рассуждению и умением логически решать задачи.

Источник изображения: Growtika/unsplash.com

Это самый дорогой тариф компании, в десять раз превышающий по стоимости базовый тариф ChatGPT Plus. С учётом того, что многие пользователи уже считают тарифный план ChatGPT Plus слишком дорогим, возникает вопрос, на кого ориентируется OpenAI с подпиской ChatGPT Pro.

«Мы считаем, что аудиторией ChatGPT Pro будут опытные пользователи ChatGPT — те, кто уже доводит модели до предела своих возможностей в таких задачах, как математика, программирование и письмо», — сообщил на пресс-конференции в четверг Джейсон Вэй (Jason Wei), представитель технического персонала OpenAI.

ChatGPT Pro предоставляет доступ к самой мощной модели в арсенале OpenAI на данный момент, которая «дольше думает для получения самых надежных ответов». По оценкам независимых экспертов, o1 pro дает более точные и исчерпывающие ответы, особенно в таких областях, как работа с данными, программирование и анализ прецедентного права. Также по сравнению с o1 и o1-preview, нейросеть o1 pro лучше справляется со сложными задачами в математике, науке и кодировании.

Чтобы подчеркнуть повышенную надежность o1 pro, в OpenAI заставляют модель четыре раза перепроверять ответ: вопрос считается решённым, только если модель получила правильный ответ в четырех попытках из четырех, а не только в одной. Поскольку ответы будут генерироваться дольше, ChatGPT отобразит индикатор выполнения и отправит уведомление в приложении, если вы переключитесь на другой диалог.

Чтобы заинтересовать пользователей в переходе на ChatGPT Pro, компания добавила в тарифный план неограниченный доступ к GPT-4o и голосовому режиму Advanced Voice Mode — функции, позволяющей вести беседу, максимально похожую на человеческую. Для пользователей ChatGPT Plus установлен дневной лимит времени на использование этих функций, в то время как бесплатные пользователи ограничены только превью.

OpenAI также планирует раздавать некоторые подписки бесплатно. Например, в четверг компания объявила о программе по предоставлению 10 грантов ChatGPT Pro медицинским исследователям в «ведущих учреждениях», а также о планах предоставить в будущем дополнительные гранты по «различным дисциплинам».

Согласно публикации The New York Times, к 2029 году OpenAI планирует взимать за подписку ChatGPT Plus $44 в месяц. Рост стоимости подписок объясняется давлением на OpenAI со стороны инвесторов, желающих сократить убытки. Хотя в августе доход компании достиг $300 млн, её убытки за год, по данным New York Times, могут составить около $5 млрд. В этом «виноваты» расходы на зарплату персонала, аренду офисов и инфраструктуру обучения ИИ. Сообщается, что только на ChatGPT компания тратила одно время до $700 тыс. в день.

Несмотря на ужесточившуюся конкуренцию на ИИ-рынке, аудитория чат-бота ChatGPT на базе генеративного ИИ компании OpenAI продолжает стремительно расти, добавив 100 млн спустя несколько месяцев после объявления в августе о достижении отметки в 200 млн еженедельных активных пользователей, пишет The Verge.

Источник изображения: Levart_Photographer/Unsplash

О новом достижении сообщил генедиректор OpenAI Сэм Альтман (Sam Altman) в ходе мероприятия DealBook Summit, проводившегося изданием The New York Times. «Наш продукт масштабировался., теперь у нас более 300 млн еженедельных активных пользователей», — сказал Альтман, добавив, что сейчас пользователи отправляют в ChatGPT более 1 млн сообщений в сутки.

Аудитория ChatGPT растёт быстрыми темпами с момента запуска чат-бота в ноябре 2022 года, поскольку OpenAI постоянно добавляет в него новые возможности, привлекающие всё больше пользователей. В частности, в ChatGPT была добавлена функция поиска ИИ, которая отображает и суммирует результаты из интернета, и новый интерфейс Canvas, позволяющий редактировать текст и код, сгенерированный ИИ, не создавая новых запросов.

Apple также встроила ChatGPT непосредственно в Siri в рамках обновления ОС iOS 18.2, которая сейчас доступна в бета-версии, что позволит чат-боту охватить ещё больше пользователей. В следующем году OpenAI планирует увеличить аудиторию ChatGPT до 1 млрд человек.

Около двух лет назад OpenAI заявила, что искусственный интеллект общего назначения (Artificial General Intelligence, AGI), который также называнию сильным ИИ или ИИ уровня человека, «может возвысить человечество» и «предоставить всем невероятные новые возможности». Теперь же генеральный директор OpenAI Сэм Альтман (Sam Altman) пытается снизить градус ожидания от появления AGI.

Источник изображения: OpenAI Forum

«Я предполагаю, что мы достигнем AGI раньше, чем думает большинство людей в мире, и это будет иметь гораздо меньшее значение. И многие опасения по поводу безопасности, о которых говорили мы и другие стороны, на самом деле не возникнут в момент создания AGI. AGI можно создать. Мир после этого будет в основном развивается примерно так же, как и сейчас. Некоторые вещи начнут выполняться быстрее. Но переход от того, что мы называем AGI, до того, что мы называем сверхинтеллектом — это очень долгая дорога», — сказал Альтман во время интервью на саммите The New York Times DealBook в среду.

Альтман уже не первый раз преуменьшает значимость, казалось бы, теперь точно неизбежного создания искусственного интеллекта общего назначения, о котором когда-то говорилось в уставе самой компании OpenAI, и который, как она же заявляла, сможет «автоматизировать большую часть интеллектуального труда» человечества. Недавно глава OpenAI намекнул, что это может произойти уже в 2025 году и будет достижимо с помощью актуального специализированного программного и аппаратного обеспечения. Ходят слухи, что OpenAI просто объединит все свои большие языковые модели и назовёт это AGI.

Последующее заявление Альтмана об AGI прозвучало так, как будто OpenAI больше не рассматривает создание искусственного интеллекта общего назначения как нечто грандиозное, что способно решить все проблемы человечества: «Мне кажется, что экономические трудности в мире будут продолжаться немного дольше времени, чем думают люди, потому что в обществе много инерции. Поэтому в первые пару лет [после создания AGI], возможно, будет не так много изменений. А потом, возможно, последует много изменений».

Те надежды и возможные достижения, которые OpenAI ранее приписывала AGI, компания теперь возлагает на так называемый «сверхинтеллект», который как недавно спрогнозировал Альтман, может появиться «через несколько тысяч дней».

OpenAI отметит приближение праздников массированной очередью анонсов в сфере ИИ. Генеральный директор компании Сэм Альтман (Sam Altman) сегодня на конференции DealBook рассказал о планах OpenAI запускать или демонстрировать что-то новое из области ИИ в течение следующих 12 дней. Он не сообщил подробностей, но эксперты ожидают выпуска долгожданного инструмента для преобразования текста в видео Sora и новой модели со способностью к рассуждениям.

Источник изображения: Mariia Shalabaieva/unsplash.com

5 декабря OpenAI планирует начать акцию, которую называет Shipmas (созвучно с Christmas — англ. Рождество) — презентацию новых функций, продуктов и демонстраций, которая продлится 12 дней. Несколько сотрудников OpenAI уже начали промо-кампанию грядущих релизов в социальных сетях.

«Что в вашем списке на Рождество?», — написал один из технических специалистов. «Вернулся как раз вовремя, чтобы поставить дерево Shipmas», — поддержал его другой сотрудник. На появившееся сообщение о «невероятном возвращении» OpenAI руководитель Sora Билл Пиблз (Bill Peebles) ответил одним словом: «Верно». Чуть позже старший вице-президент компании добавил таинственности, кратко резюмировав: «Если вы знаете, то вы знаете» (If You Know You Know, IYKYK).

Одной из новинок, наверняка, станет ИИ-модель Sora для генерации видео по текстовым описаниям. Ранее группа создателей видеоконтента, привлечённых OpenAI к участию разработке ИИ-генератора видео Sora открыла доступ к ней для всех желающих. Свой поступок художники объяснили протестом против «отмывки искусства». По их словам, OpenAI оказывает давление на ранних тестировщиков Sora, включая участников Red Team и творческих партнёров, чтобы те создавали позитивную историю вокруг Sora и не выплачивает им справедливую компенсацию за их работу.

Один из 12 анонсов OpenAI может представить новый вдохновлённый Сантой голос для ChatGPT, так сказать воплощённый в ИИ дух Рождества. Некоторые пользователи ChatGPT заметили код, который заменяет кнопку голосового режима на снежинку.

Google также недавно запустила свой ИИ-инструмент для генерации видео. Сейчас модель Veo предлагается лишь для ограниченного тестирования через платформу Vertex AI.

Компания OpenAI, прославившаяся благодаря своему чат-боту ChatGPT на базе генеративного ИИ, обдумывает способы внедрения рекламы в свои ИИ-продукты. Компания находится в поиске новых источников дохода в рамках преобразования в коммерческую компанию и реклама может стать одним из них.

Источник изображения: OpenAI

После проведения в октябре раунда финансирования, позволившего привлечь $6,6 млрд, OpenAI сейчас является одной из самых дорогих частных компаний Кремниевой долины с оценкой в более чем $​​150 млрд. Благодаря успеху ChatGPT доходы OpenAI выросли примерно до $4 млрд в годовом исчислении, что ставит её в один ряд с самыми быстрорастущими стартапами всех времён. Число еженедельно активных пользователей чат-бота выросло за два года до более чем 250 млн. Но расходы OpenAI, связанные с разработкой передовых моделей ИИ, превышают доходы. В этом году расходы компании, как ожидается, превысят $5 млрд.

Один из крупнейших источников дохода OpenAI заключается в предоставлении доступа к интерфейсу прикладного программирования (API), который позволяет организациям и разработчикам создавать продукты на базе ИИ. Также компания зарабатывает на продажах индивидуальных и корпоративных лицензий на использование ChatGPT. Но, как отметил один из экспертов, «API — это не высокодоходный бизнес».

OpenAI наращивает усилия по получению дохода от своих продуктов, таких как поисковая система на базе ИИ. Её конкурент Perplexity уже запустил пилотный проект по развёртыванию рекламы в своей поисковой системе на базе ИИ.

Сара Фрайар (Sarah Friar), финансовый директор OpenAI, ранее занимавшая руководящие посты в Nextdoor, Square и Salesforce, отметила в интервью Financial Times, что директор по продуктам компании Кевин Вейл (Kevin Weil) имеет опыт создания продуктов с рекламной поддержкой на основных технологических платформах, включая Instagram✴ и X. В мае OpenAI также наняла на должность вице-президента Шивакумара Венкатарамана (Shivakumar Venkataraman), который ранее возглавлял команду поисковой рекламы Google.

Как утверждают источники, на данный момент руководители OpenAI разделились во мнении о том, как должна выглядеть реклама на этой платформе. Фрайар указала на то, что рекламные модели имеют свои недостатки, а также на то, что внедрение рекламы заставляет компанию больше обращать внимание на требования рекламодателей вместо удовлетворения потребностей пользователей. «Я не исключаю рекламу, — сообщила она. — Но на данный момент в том, как мы работаем, есть много положительных моментов».

Следует отметить, что не все в IT-отрасли поддерживают планы OpenAI по реструктуризации в коммерческую компанию. Миллиардер Илон Маск (Elon Musk) и вовсе потребовал через суд запретить OpenAI превращаться в коммерческую организацию.

Компания OpenAI делает ставку на новые продукты на базе искусственного интеллекта, создание собственных центров обработки данных и партнёрство с Apple, чтобы ускорить рост пользовательской базы своих сервисов. Уже в следующем году разработчик ChatGPT намерен расширить охват аудитории до 1 млрд человек.

Глава OpenAI Сэм Альтман / Источник изображения: OpenAI Forum

Спустя два года с момента запуска ChatGPT количество активных пользователей сервиса в неделю выросло до 250 млн человек. Дальнейшее расширение планируется с помощью запуска так называемых ИИ-агентов, собственной поисковой системы на основе нейросетей и интеграции ИИ-бота ChatGPT с устройствами Apple.

«В 2025 году мы станем самостоятельной исследовательской лабораторией, обслуживающей миллионы людей <…> Надеясь, что это могут быть миллиарды потребителей по всему миру», — заявила во время беседы с журналистами Financial Times Сара Фрайар (Sarah Friar), финансовый директор OpenAI.

Цель по существенному расширению пользовательской базы возникла в момент, когда стартап с девятилетней историей проходит стадию трансформации в глобального технологического гиганта и готовится к тому, что основатель и гендиректор OpenAI Сэм Альтман (Sam Altman) называет «эпохой интеллекта».

В октябре этого года OpenAI провела очередной раунд финансирования, в рамках которого удалось привлечь более $6 млрд инвестиций. За счёт этого рыночная стоимость компании выросла до $150 млрд, что является лучшим результатом среди всех стартапов Кремниевой долины. На этом фоне Фрайар заявила, что OpenAI продолжит привлекать «больше денег», имея ввиду как акционерный, так и долговой капитал. «За 74 дня мы положили на баланс $10 млрд. Так что это был мой способ сказать: «Эй, я тоже собираюсь кое-что сделать <…> Мы находимся в фазе активного роста, и нам следует продолжать инвестировать. Нам нужно быть на передовой в области языковых моделей. Это дорого», — заявила Фрайар, присоединившаяся к OpenAI в июне этого года.

Вице-президент OpenAI по глобальным вопросам Крис Лихейн (Chris Lehane) рассказал, что для достижения поставленных целей OpenAI планирует инвестировать в создание нескольких кластеров из центров обработки данных в ряде городов на Среднем Западе и Юго-Западе США. Стремление к созданию собственной инфраструктуры для обеспечения работы ИИ-алгоритмов является частью аналогичной стратегии конкурентов OpenAI из числа крупных технологических компаний, таких как Google и Amazon. Лихейн отметил, что «чипы, данные и энергия» являются важнейшими ресурсами, которые необходимы для достижения успехов в гонке ИИ.

Источник изображения: starline / freepik.com

За 12 месяцев, которые прошли с тех пор как Альтмана сначала сместили с поста гендиректора, а затем вернули в должность, OpenAI трансформировалась быстрыми темпами. В компании появились первые финансовые и продуктовые руководители, а количество сотрудников увеличилось в 5 раз до более чем 2000 человек. На этом фоне OpenAI запустила сложный переход от некоммерческой к коммерческой бизнес-модели.

В течение года OpenAI покинули несколько руководителей и ведущих разработчиков, но на их места пришли новые люди, многие из которых имеют опыт в создании и монетизации потребительских продуктов. В том числе из-за этого компания больше не может фокусироваться только на долгосрочных исследованиях. Ей необходимо реализовывать краткосрочные цели в области продуктов, поскольку фокус бизнес-модели сместился в сторону увеличения количества приносящих доход продуктов (это позволит опережать растущие расходы).

По данным осведомлённых источников, OpenAI тратит более $5 млрд в год и при это компания «близка к безубыточности». Новые сотрудники говорят, что они по-прежнему руководствуются «миссией» OpenAI по созданию и распространению ИИ-алгоритмов в долгосрочной перспективе, но перед ними также стоят задачи по развёртыванию реально полезных инструментов на базе нейросетей в ближайшее время.

По словам Фрайар, запуск ИИ-агентов, похожих на чат-ботов инструментов, помогающих выполнять разные задачи в интернете, такие как сбор информации, бронирование авиабилетов и покупок, станет ключевым направлением деятельности компании в 2025 году. «Агент должен стать словом года <…> Это мог бы быть исследователь, полезный помощник для обычных людей, работающих мам, таких как я. В 2025 году мы увидим появление первых очень успешных агентов, которые будут помогать людям в их повседневной жизни», — уверена Фрайар.

Несмотря на ожидаемый успех ИИ-агентов, запуск ChatGPT на миллиардах устройств Apple (ИИ-бот уже начали интегрировать в США) имеет решающее значение для значительного прироста пользовательской базы OpenAI. Один из венчурных инвесторов компании отметил, что благодаря этому партнёрству можно быстро достичь цели в 1 млрд пользователей. «OpenAI сегодня уже имеет несколько сотен миллионов активных пользователей, не тратя на маркетинг. У Apple 2 млрд iPhone по всему миру, и мы хотим, выпустить новый смартфон с искусственным интеллектом. Путь к получению 1 млрд пользователей с ChatGPT в кармане не так уж и надуман. Если вы достигните этого порога, вы станете конкурировать с Google и Facebook✴», — приводит источник слова инвестора.

Стоявший у истоков стартапа OpenAI миллиардер Илон Маск (Elon Musk) уже давно выступает с критикой его деятельности, а после запуска им конкурирующей компании xAI и вовсе готов защищать собственные интересы в суде. Недавно он предпринял попытку обвинить OpenAI в незаконном ограничении доступа xAI к капиталу.

Источник изображения: OpenAI

Это уже четвёртое исковое заявление, которое представители Илона Маска подают в американском суде. К нему присоединились также руководители xAI и бывший член совета директоров OpenAI Шивон Зилис (Shivon Zilis). Данный иск, как поясняет CNBC, преследует две основные цели: предотвратить превращение OpenAI в полноценную коммерческую организацию и не позволить OpenAI вступать в сговор с инвесторами, который удерживает их от финансирования других компаний такого типа, включая xAI.

Напомним, основанная в 2015 году OpenAI изначально была некоммерческой организацией, но реструктуризация 2019 года ввела элементы коммерческой выгоды в цели и миссии компании, чему тот же Маск впоследствии противился, хотя уже не имел отношения к стартапу. Сейчас некоммерческая часть OpenAI формально руководит коммерческой, и такая структура смущает инвесторов, которые не рискуют из-за этого вкладывать серьёзные средства в её капитал.

Маску не нравится стремление OpenAI полностью перейти на коммерческие рельсы, а также ввести представителя Microsoft в состав совета директоров. Последняя из корпораций является крупнейшим инвестором OpenAI, но Маску не нравится этот альянс, поскольку он считает, что обе компании смогут злоупотреблять конкурентным преимуществом, полученным за счёт раннего доступа к информации, критичной для успешного развития на рынке ИИ. В середине ноября законные представители Маска также обвинили OpenAI в попытках запретить своим потенциальным инвесторам вкладывать деньги в капитал xAI.

Представители OpenAI отметили, что «четвёртая попытка Илона (подать на OpenAI в суд) повторно использует те же самые безосновательные упрёки». Собственный стартап Маска xAI был основан в июле 2023 года и уже достиг капитализации на уровне $50 млрд. Это меньше тех $157 млрд, которые приписывают OpenAI, но темпы роста капитализации самой молодой компании Илона Маска впечатляют. Адвокаты миллиардера в своём иске против OpenAI заявили, что эта компания «не может загромождать собой рынок как Франкенштейн, сшитая из разных корпоративных форм, которые в конечном итоге преследуют финансовые интересы Microsoft».

Сращивание OpenAI и Microsoft через введение поста в совете директоров первой из компаний, который будет занимать представитель второй, также настораживает американских антимонопольных регуляторов, так что не только Илон Маск выражает обеспокоенность данным явлением. Сама Microsoft уже вложила в OpenAI около $14 млрд, но пока это направление деятельности ей приносит одни убытки.

Активный сбор информации большими языковыми моделями из открытых источников уже давно нервирует правообладателей, а уж чувствительные к подобным проблемам средства массовой информации и вовсе при первой возможности пытаются защитить свои авторские права в суде. Теперь пришла очередь для канадских издательств подать в суд на OpenAI.

Как отмечает Bloomberg, с иском в Верховный суд Онтарио обратились Torstar Corp., Postmedia Network Canada Corp., Globe and Mail Inc., Canadian Press и CBC/Radio-Canada. Они требуют неустановленного пока возмещения ущерба, причинённого деятельностью OpenAI по обучению своих языковых моделей с использованием опубликованных ими текстовых материалов. В заявлении истцов говорится: «OpenAI зарабатывает и получает выгоду от использования этого контента, не получая официального разрешения и не компенсируя затраты правообладателей». По словам истцов, на их публикации приходится основная часть создаваемого журналистами контента в Канаде.

Представители OpenAI успели возразить, что её модели обучаются на «публично доступных данных по принципам честного использования и с учётом признанных на международном уровне принципов защиты авторских прав». Компания также работает с новостными издательствами над устраивающими их методами отображения и обработки контента, стремясь упоминать первоисточник и при необходимости удалять материалы по просьбе правообладателей.

В конце прошлого года OpenAI пришлось столкнуться с иском The New York Times, который одновременно обвинял и корпорацию Microsoft, являющуюся близким партнёром стартапа. Ответчики обвинялись в использовании миллионов защищённых авторским правом статей истца для обучения своих языковых моделей. Глава медиагруппы News Media Canada Пол Диган (Paul Deegan) обвинил OpenAI в том, что она «обдирает журналистов, при этом незаконно и неоправданно в существенной мере себя обогащая».

Группа создателей видеоконтента, привлечённых OpenAI к участию разработке ИИ-генератора видео Sora, похоже, открыли доступ к ней для всех желающих, сообщил TechCrunch. Во вторник группа опубликовала на платформе разработки ИИ Hugging Face интерфейс, связанный с API Sora OpenAI, с помощью которого пользователи могут генерировать 10-секундные видео с разрешением до 1080p.

Источник изображения: Levart_Photographer/unsplash.com

Свой поступок художники объяснили протестом против «отмывки искусства». По их словам, OpenAI оказывает давление на ранних тестировщиков Sora, включая участников Red Team и творческих партнёров, чтобы те создавали позитивную историю вокруг Sora и не выплачивает им справедливую компенсацию за их работу.

«Эта программа раннего доступа, похоже, меньше связана с творческим самовыражением и критикой, а больше с PR и рекламой», — указали они в сообщении, прикрепленном к интерфейсу. «Мы не против использования технологии ИИ в качестве инструмента для искусства (если бы мы были против, нас, вероятно, не пригласили бы в эту программу), — написали создатели видеоконтента. — Мы не согласны с тем, как была развёрнута эта программа для художников и как инструмент формируется перед возможным публичным выпуском».

По другой версии, о которой сообщил ресурс BGR, пользователь X @legit_rumors рассказал, что ресурс HuggingFace нашел доступ к OpenAI Sora через каналы Discord и поделился некоторыми примерами использования этого инструмента для создания видео с использованием ИИ в Сети. Как бы то ни было, OpenAI вскоре закрыла возможность использовать Sora всем желающим. Некоторым пользователям соцсети X удалось с помощью интерфейса загрузить образцы видеороликов, созданных Sora.

Напомним, что во время анонса Sora компания OpenAI сообщила, что это «модель ИИ, которая может создавать реалистичные и образные сцены согласно текстовым инструкциям. Sora может создавать видео длительностью до минуты, сохраняя визуальное качество и следуя указаниям пользователя».

В настоящее время доступ к платформе имеют лишь небольшое число визуальных художников, дизайнеров и режиссеров, и сотрудничество с ними позволяет компании «получать обратную связь о том, как усовершенствовать модель, чтобы она была максимально полезной для творческих профессионалов».

В конце прошлого года началось судебное разбирательство, в рамках которого The New York Times и другие крупные издатели обвинили OpenAI в том, что компания без разрешения использовала публикуемые ими материалы для обучения своих нейросетей. Теперь же стало известно, что инженеры OpenAI случайно удалили данные, которые потенциально могли стать доказательством вины разработчика ИИ-алгоритмов в нарушении авторских прав.

Источник изображения: OpenAI

В сообщении сказано, что юристы новостных изданий потратили более 150 часов на изучение данных, которые OpenAI использует для обучения своих нейросетей. Цель их работы заключалась в том, чтобы найти случаи, когда для обучения ИИ-алгоритмов использовались новостные статьи изданий, защищённые законом об авторском праве. Какую именно информацию удалили инженеры OpenAI, точно неизвестно. Компания признала ошибку и попыталась восстановить данные, но сделать это в полном объёме не удалось. Те же данные, что удалось восстановить, не позволяют определить, что публикации изданий были задействованы при обучении нейросетей. Юристы OpenAI охарактеризовали удаление данных как «сбой», а представители The New York Times заявили, что у них «нет оснований полагать», что это было сделано преднамеренно.

В декабре прошлого года The New York Times обвинила OpenAI и её крупнейшего партнёра в лице Microsoft в том, что они создали свои ИИ-алгоритмы путём «копирования и использования миллионов статей» издания. Компания требует привлечь OpenAI к ответственности за «миллиарды долларов установленных законом и реальных убытков» за якобы копирование статей издания. The New York Times уже потратила более $1 млн на борьбу с OpenAI в суде. В это же время OpenAI успела договориться и заключить соглашение с другими изданиями, такими как Axel Springer, Conde Nast и Vox Media. Это говорит о том, что многие издатели предпочитают сотрудничество, а не судебные разбирательства.

Относительно молодая компания OpenAI может попытаться бросить вызов Google в том сегменте рынка, где последняя доминирует даже по признанию антимонопольных органов США — речь идёт об интернет-браузерах и поисковых системах. По крайней мере, подобные слухи обсуждает издание The Information, на публикацию которого ссылается Reuters.

Источник изображения: OpenAI

Как сообщает первоисточник, OpenAI недавно задумалась о разработке интернет-браузера, который можно было бы интегрировать с ChatGPT, а также отдельно обсуждала или заключала сделки по созданию поисковых функций. OpenAI обсуждала возможность создания поискового продукта с разработчиками сайтов и приложений, такими как Conde Nast, Redfin, Eventbrite и Priceline, утверждает The Information со ссылкой на людей, которые видели прототипы или дизайн продуктов.

Как стало известно на этой неделе, власти США на полном серьёзе склоняют Google к отделению браузера Chrome от своего основного бизнеса. В этом смысле предполагаемые усилия OpenAI по выходу на рынок поисковых систем и интернет-браузеров могут способствовать усилению конкуренции в этой сфере. Свой чат-бот Gemini компания Google представила в прошлом году, чтобы противопоставить что-то стремительно набиравшему популярность ChatGPT компании OpenAI. Теперь можно предположить, что последняя с точки зрения конкурентного развития движется во встречном направлении.

Отдельно сообщается, что OpenAI начала переговоры с Samsung по поводу интеграции своих ИИ-функций на устройствах этой южнокорейской марки. До сих пор Samsung в этой сфере полагалась преимущественно на сотрудничество с Google. Пытающаяся наверстать отставание от конкурентов в сфере ИИ компания Apple также договорилась с OpenAI о заимствовании технологий. Так или иначе, The Information отмечает, что от запуска собственного интернет-браузера OpenAI сейчас очень далека, и об этой перспективе приходится говорить главным образом теоретически.

Распространено мнение, что зарплата топ-менеджеров технологических гигантов измеряется миллионами. Удивительно, но, согласно налоговой декларации, генеральный директор OpenAI Сэм Альтман (Sam Altman) в 2022 году заработал всего $76 000. Это сопоставимо с уровнем зарплат опытных сантехников и электриков, которые в Калифорнии получают более $75 000 в год.

Источник изображения: OpenAI Forum

Согласно налоговым декларациям, оказавшимся в распоряжении издательства Bloomberg, зарплата генерального директора OpenAI выросла на 3,4 % с 73 546 долларов в 2022 году до 76 001 доллара в 2023 году. Это значительно меньше, чем у соучредителя OpenAI Ильи Суцкевера (Ilya Sutskever), который заработал больше всех в компании — $322 201 за год. Такую же сумму заработал финансовый директор OpenAI Крис Кларк (Chris Clark).

Примечательно, что Эмметт Шир (Emmett Shear), который пробыл генеральным директором OpenAI около 72 часов в минувшем ноябре, когда Альтман был отстранён, получил за этот период $3720. Также следует отметить, что в налоговых декларациях не упоминается никаких бонусов и компенсаций в виде акций и опционов, которые обычно получают руководители крупных компаний.

В прошлом Альтман упоминал о своей скромной зарплате. На заседании сенатского подкомитета в мае 2023 года он заявил, что ему «платят достаточно для медицинского страхования», и он не получает акций OpenAI.

В сентябре совет директоров OpenAI обсуждал вопрос о предоставлении Альтману акций после решения о превращении OpenAI из некоммерческой в коммерческую организацию. Позже Альтман сообщил сотрудникам, что не планирует получать «гигантский пакет акций» в компании, которая в этом году достигла оценки в $157 млрд после привлечения очередных инвестиций в размере $6,6 млрд. По слухам, Альтман может получить 7 % акций в OpenAI, увеличив своё состояние более чем на $10 млрд.

Далеко не факт, что Альтман заинтересован в получении столь масштабного опциона, ведь это может негативно сказаться на его пассионарном имидже, тем более, что даже без доли в OpenAI его личное состояние оценивается более чем в $2 млрд. Состояние Альтмана включает инвестиции в размере $1,2 млрд в различные венчурные фонды и в другие компании — только его доля в Reddit оценивается более чем в $1 млрд. С учётом этих фактов покупка Альтманом особняка в Сан-Франциско за $27 млн вполне объяснима.

Ранее сообщалось, что генеральный директор Microsoft Сатья Наделла (Satya Nadella) увеличил свой компенсационный пакет на 63 % до $79 млн. Непосредственно выплаты в виде зарплаты были урезаны на 50 % до $5,2 млн, а остальные средства он получил в виде пакета акций компании.

Стоит отметить, что далеко не все топ-менеджеры настолько поглощены своим финансовым благополучием. Ещё в начале 1900-х годов во время Первой мировой войны в США возникла концепция, согласно которой различные лидеры промышленности предлагали свои услуги правительству с оплатой в один доллар. Тогда количество таких работников достигло тысячи человек. Из последних примеров известных людей, получавших зарплаты в один доллар, в пример можно привести бывшего губернатора Калифорнии Арнольда Шварценеггера (Arnold Schwarzenegger). Избранный президент США Дональд Трамп (Donald Trump), пообещав в ноябре 2016 года получать только доллар в год, выполнил своё предвыборное обещание. Свою зарплату он жертвовал различным федеральным департаментам.

OpenAI представила бесплатный онлайн-курс для учителей средних школ, который освещает основы искусственного интеллекта (ИИ) и его применение в образовании. Участники курса отмечают его полезность, но некоторые педагоги опасаются этических последствий и недостаточного контроля над использованием данных, которые могут быть вверены ИИ.

Источник изображения: Unseen Studio/Unsplash

Компания OpenAI стремится к интеграции своих инструментов на основе искусственного интеллекта в образовательный процесс, предлагая учителям помощь в создании учебных планов и интерактивных пособий. Бесплатный онлайн-курс, который был разработан совместно с американской некоммерческой организацией Common Sense Media, предоставляющей рекомендации и образовательные материалы по использованию ИИ для детей, состоит из девяти модулей и охватывает основы ИИ и его применение в педагогике. По сообщению TechCrunch, курс внедрён уже в десятках школ США, и 98 % участников отметили его полезность.

По заявлению директора подразделения программ ИИ в Common Sense Media Робби Торни (Robbie Torney), школы по всей стране сталкиваются с новыми возможностями и вызовами, поскольку ИИ меняет образование. «С помощью этого курса мы предпринимаем проактивный подход к поддержке и обучению учителей, находящихся на передовой, и готовимся к этой трансформации», — поясняет Торни.

Источник изображения: OpenAI

Однако некоторые педагоги настроены скептически. Лэнс Уорвик (Lance Warwick), преподаватель спортивных дисциплин в Университете Иллинойса в Урбане-Шампейне, опасается, что использование ChatGPT и других подобных ИИ-ботов может привести к этическим последствиям. В частности, Уорвик считает модули курса, посвящённые конфиденциальности и безопасности, «очень ограниченными и противоречивыми», особенно в отношении рекомендаций по использованию любых данных учащихся.

Преподаватель из Университета Аризоны Син а Тре Суэ (Sin á Tres Souhaits) признаёт полезность ИИ-инструментов для создания учебных материалов, но выражает озабоченность отсутствием ясности в вопросах контроля над контентом, создаваемым учителями с помощью сервисов OpenAI. «Для меня ИИ похож на криптовалюту — это новая технология с большим потенциалом, но она настолько нерегулируема, что я сомневаюсь в надёжности любых её заявленных гарантий», — отмечает он.

Одновременно более оптимистичный взгляд на образовательную инициативу OpenAI выражает бывший педагог, а ныне директор по продукту в Prodigy Education Джош Приер (Josh Prieur). Он считает, что при правильном подходе внедрение ИИ может принести явную пользу учителям, отмечая при этом прозрачность программы OpenAI в отношении возможных рисков.

Несмотря на активное продвижение OpenAI на образовательном рынке, который, по прогнозам Allied Market Research, может достичь объёма $88,2 млрд в течение следующего десятилетия, внедрение технологии идёт медленно. Исследование компании Pew Research Center показало, что четверть учителей государственных средних школ (K-12) в США считает, что использование ИИ-инструментов в образовании приносит больше вреда, чем пользы, а опрос Rand Corporation выявил, что только 18 % педагогов K-12 используют ИИ в своих классах.

Интересно, что исследователи из Университета Пенсильвании обнаружили, что турецкие старшеклассники, имеющие доступ к ChatGPT, хуже справились с тестом по математике, чем ученики, не имеющие доступа. В другом исследовании было выявлено, что немецкие ученики, использующие ИИ-бота, быстрее находили нужную информацию, однако менее умело её обобщали, чем их сверстники, не использующие ChatGPT.

Искусственный интеллект вступил в новую эру благодаря ИИ-модели о1 компании OpenAI, которая значительно приблизилась к человеческому мышлению. Её впечатляющий результат на тесте AIME — 83 балла из ста — позволил включить её в число 500 лучших участников математической олимпиады США. Однако такие достижения сопровождаются серьёзными вызовами, включая риски манипуляции ИИ человеком и возможность его использования для создания биологического оружия.

Источник изображения: Saad Ahmad / Unsplash

Долгое время отсутствие у ИИ способности обдумывать свои ответы являлось одним из его главных ограничений. Однако ИИ-модель о1 совершила прорыв в этом направлении и продемонстрировала способность к осмысленному анализу информации. Несмотря на то, что результаты её работы пока не опубликованы в полном объёме, научное сообщество уже активно обсуждает значимость такого достижения.

Современные нейронные сети в основном функционируют по принципу так называемой «системы 1», которая обеспечивает быструю и интуитивную обработку информации. Например, такие ИИ-модели успешно применяются для распознавания лиц и объектов. Однако человеческое мышление включает также «систему 2», связанную с глубоким анализом и последовательным размышлением над задачей. ИИ-модель о1 объединяет эти два подхода, добавляя к интуитивной обработке данных сложные рассуждения, характерные для человеческого интеллекта.

Одной из ключевых особенностей о1 стала её способность строить «цепочку размышлений» — процесс, при котором система анализирует задачу постепенно, уделяя больше времени поиску оптимального решения. Эта инновация позволила ИИ-модели достичь 83 балла на тесте Американской математической олимпиады (AIME), что значительно превосходит результат GPT-4o, набравшей лишь 13 баллов. Тем не менее такие успехи связаны с возросшими вычислительными затратами и высоким уровнем энергопотребления, что ставит под сомнение экологичность разработки.

Источник изображения: Igor Omilaev / Unsplash

Вместе с достижениями ИИ-модели о1 растут и потенциальные риски. Улучшенные когнитивные способности сделали её способной вводить человека в заблуждение, что, возможно, несёт серьёзную угрозу в будущем. Кроме того, уровень риска её использования для разработки биологического оружия оценён как средний — высший допустимый показатель по шкале самой OpenAI. Эти факты подчёркивают необходимость внедрения строгих стандартов безопасности и регулирования подобных ИИ-моделей.

Несмотря на значительные успехи, ИИ-модель о1 всё же сталкивается с ограничениями в решении задач, требующих долгосрочного планирования. Её способности ограничиваются краткосрочным анализом и прогнозированием, что делает невозможным решение комплексных задач. Это свидетельствует о том, что создание полностью автономных ИИ-систем остаётся задачей будущего.

Развитие ИИ-моделей, подобных о1, подчёркивает острую необходимость регулирования данной области. Эти технологии открывают перед наукой, образованием и медициной новые горизонты, однако их неконтролируемое применение может привести к серьёзным последствиям, включая угрозы безопасности и неэтичное использование. Для минимизации этих рисков требуется обеспечить прозрачность разработок ИИ, соблюдение этических стандартов и внедрение строгого надзора со стороны регулирующих органов.