OpenAI представила бесплатный онлайн-курс для учителей средних школ, который освещает основы искусственного интеллекта (ИИ) и его применение в образовании. Участники курса отмечают его полезность, но некоторые педагоги опасаются этических последствий и недостаточного контроля над использованием данных, которые могут быть вверены ИИ.

Источник изображения: Unseen Studio/Unsplash

Компания OpenAI стремится к интеграции своих инструментов на основе искусственного интеллекта в образовательный процесс, предлагая учителям помощь в создании учебных планов и интерактивных пособий. Бесплатный онлайн-курс, который был разработан совместно с американской некоммерческой организацией Common Sense Media, предоставляющей рекомендации и образовательные материалы по использованию ИИ для детей, состоит из девяти модулей и охватывает основы ИИ и его применение в педагогике. По сообщению TechCrunch, курс внедрён уже в десятках школ США, и 98 % участников отметили его полезность.

По заявлению директора подразделения программ ИИ в Common Sense Media Робби Торни (Robbie Torney), школы по всей стране сталкиваются с новыми возможностями и вызовами, поскольку ИИ меняет образование. «С помощью этого курса мы предпринимаем проактивный подход к поддержке и обучению учителей, находящихся на передовой, и готовимся к этой трансформации», — поясняет Торни.

Источник изображения: OpenAI

Однако некоторые педагоги настроены скептически. Лэнс Уорвик (Lance Warwick), преподаватель спортивных дисциплин в Университете Иллинойса в Урбане-Шампейне, опасается, что использование ChatGPT и других подобных ИИ-ботов может привести к этическим последствиям. В частности, Уорвик считает модули курса, посвящённые конфиденциальности и безопасности, «очень ограниченными и противоречивыми», особенно в отношении рекомендаций по использованию любых данных учащихся.

Преподаватель из Университета Аризоны Син а Тре Суэ (Sin á Tres Souhaits) признаёт полезность ИИ-инструментов для создания учебных материалов, но выражает озабоченность отсутствием ясности в вопросах контроля над контентом, создаваемым учителями с помощью сервисов OpenAI. «Для меня ИИ похож на криптовалюту — это новая технология с большим потенциалом, но она настолько нерегулируема, что я сомневаюсь в надёжности любых её заявленных гарантий», — отмечает он.

Одновременно более оптимистичный взгляд на образовательную инициативу OpenAI выражает бывший педагог, а ныне директор по продукту в Prodigy Education Джош Приер (Josh Prieur). Он считает, что при правильном подходе внедрение ИИ может принести явную пользу учителям, отмечая при этом прозрачность программы OpenAI в отношении возможных рисков.

Несмотря на активное продвижение OpenAI на образовательном рынке, который, по прогнозам Allied Market Research, может достичь объёма $88,2 млрд в течение следующего десятилетия, внедрение технологии идёт медленно. Исследование компании Pew Research Center показало, что четверть учителей государственных средних школ (K-12) в США считает, что использование ИИ-инструментов в образовании приносит больше вреда, чем пользы, а опрос Rand Corporation выявил, что только 18 % педагогов K-12 используют ИИ в своих классах.

Интересно, что исследователи из Университета Пенсильвании обнаружили, что турецкие старшеклассники, имеющие доступ к ChatGPT, хуже справились с тестом по математике, чем ученики, не имеющие доступа. В другом исследовании было выявлено, что немецкие ученики, использующие ИИ-бота, быстрее находили нужную информацию, однако менее умело её обобщали, чем их сверстники, не использующие ChatGPT.

Компания OpenAI запустила голосовой интерфейс Advanced Voice Mode в веб-версии сервиса ChatGPT. Об этом через свою страницу в соцсети X сообщил директор по продуктам компании Кевин Вейл (Kevin Weil). Продвинутый голосовой интерфейс по-прежнему доступен только платным пользователям ChatGPT.

Источник изображения: Mariia Shalabaieva / unsplash.com

Голосовой интерфейс Advanced Voice Mode стал доступен для владельцев подписок Plus, Enterprise, Teams или Edu теперь и в веб-версии сервиса ChatGPT. С момента своего дебюта в сентябре продвинутый интерфейс был доступен только в мобильной версии ChatGPT для iOS и Android.

Голосовой интерфейс Advanced Voice Mode использует аудиовозможности ИИ-модели GPT-4o, предлагая естественное общение в реальном времени между пользователем и ChatGPT. Чат-бот способен понимать и реагировать на невербальные сигналы пользователя, включая такие вещи, как скорость речи. Кроме того, он может реагировать с «эмоциями».

Для начала разговора в веб-версии чат-бота необходимо выбрать значок «Голос» в правом нижнем углу у поля ввода запросов к ChatGPT. Затем необходимо предоставить браузеру разрешение на доступ к микрофону вашего компьютера. После начала голосового чата пользователь попадёт на экран с синим шаром в центре.

Функция предлагает на выбор один из девяти голосов для ChatGPT, каждый из которых имеет свой собственный тон и характер. Например, можно выбрать «лёгкий и универсальный стиль Arbor» или «уверенный и оптимистичный Ember».

По словам Вайля, OpenAI планирует «в ближайшие недели» внедрить голосовой формат общения с ChatGPT и для бесплатных пользователей. Владельцы подписок Plus и Team могут использовать голосовой формат Advanced Voice Mode лишь определённое количество времени в сутки.

Система уведомит, когда у пользователя останется последние 15 минут ежедневного доступа к голосовому общению с ИИ-ботом. Бесплатным пользователям будет предлагаться доступ на непродолжительное время для знакомства с функцией.

ChatGPT и другие чат-боты на базе искусственного интеллекта постепенно становятся частью повседневной жизни многих людей. Поспособствует этому и то, что приложение ChatGPT для Windows стало доступно для всех желающих. Ранее им могли пользоваться только платные подписчики сервиса. Скачать приложения ChatGPT можно в магазине цифрового контента Microsoft Store.

Источник изображения: OpenAI

По всей видимости, приложение ChatGPT для Windows во-многом похоже на Android-версию, хотя в десктопном приложении удобнее вводить большие объёмы текста и добавлять изображения. Реализована поддержка общения посредством чата, а также поддержка нескольких голосовых команд. Однако процесс бесплатного взаимодействия с сервисом остаётся таким же ограниченным, как в ChatGPT для других платформ. Достигнуть выделенного лимита бесплатный пользователь может всего за несколько минут.

Для премиальных подписчиков ChatGPT, которые оплачивают тариф от $20 в месяц, приложение для Windows будет существенно более полезным. Десктопная версия ChatGPT во многом напоминает веб-версию сервиса, но, вероятно, наличие отдельного окна на рабочем столе позволит лучше оптимизировать рабочие процессы и взаимодействие с чат-ботом.

Три ведущие компании в области искусственного интеллекта столкнулись с ощутимым снижением отдачи от своих дорогостоящих усилий по разработке новых систем ИИ. Новая модель OpenAI, известная как Orion, не достигла желаемой компанией производительности, предстоящая итерация Google Gemini не оправдывает ожиданий, а Anthropic столкнулась с отставанием в графике выпуска своей модели Claude под названием 3.5 Opus.

Источник изображения: unsplash.com

После многих лет стремительного выпуска всё более сложных продуктов ИИ три ведущие в этой сфере компании наблюдают убывающую отдачу от дорогостоящих усилий по созданию новых моделей. Становится все труднее находить свежие, ещё неиспользованные источники высококачественных данных для обучения более продвинутых систем ИИ. А нынешних весьма скромных улучшений недостаточно, чтобы окупить огромные затраты, связанные с созданием и эксплуатацией новых моделей, как и оправдать ожидания от выпуска новых продуктов.

Так, OpenAI утверждала, что находится на пороге важной вехи. В сентябре завершился начальный раунд обучения для новой масштабной модели Orion, которая должна была приблизится к созданию мощного ИИ, превосходящего людей. Но ожидания компании, по утверждению осведомлённых источников, не оправдались. Orion не смогла продемонстрировать прорыва, который ранее показала модель GPT-4 по сравнению с GPT-3.5.

Источник изображения: Pixabay

Anthropic, как и её конкуренты, столкнулась с трудностями в процессе разработки и обучения 3.5 Opus. По словам инсайдеров, модель 3.5 Opus показала себя лучше, чем старая версия, но не так значительно, как ожидалось, учитывая размер модели и затраты на её создание и запуск.

Эти проблемы бросают вызов утвердившемуся в Кремниевой долине мнению о масштабируемости ИИ. Приверженцам глобального внедрения ИИ приходится признать, что бо́льшая вычислительная мощность, увеличенный объём данных и более крупные модели пока не прокладывают путь к технологическому прорыву в области ИИ.

Источник изображения: Nvidia

Эксперты высказывают обоснованные сомнения в окупаемости крупных инвестиций в ИИ и достижимости всеобъемлющей цели, к которой стремятся разработчики ИИ-моделей, — создания общего искусственного интеллекта (AGI). Этот термин обычно применяется к гипотетическим ИИ-системам, способным соответствовать или превосходить человека в большинстве интеллектуальных задач. Руководители OpenAI и Anthropic ранее заявляли, что AGI может появиться уже через несколько лет.

Технология, лежащая в основе ChatGPT и конкурирующих ИИ-чат-ботов, была создана на основе данных из социальных сетей, онлайн-комментариев, книг и других источников из интернета. Этих данных хватило для создания продуктов, генерирующих суррогатные эссе и поэмы, но для разработки систем ИИ, которые превзойдут интеллектом лауреатов Нобелевской премии — как надеются некоторые компании, — могут потребоваться другие источники данных, помимо сообщений в Википедии и субтитров YouTube.

Источник изображения: unsplash.com

OpenAI была вынуждена заключить соглашения с издателями, чтобы удовлетворить хотя бы часть потребности в высококачественных данных, а также адаптироваться к растущему юридическому давлению со стороны правообладателей контента, используемого для обучения ИИ. Отмечается высокий спрос на рынке труда на специалистов с высшим образованием, которые могут маркировать данные, связанные с их областью компетенции. Это помогает сделать обученные ИИ-системы более эффективными в ответах на запросы.

Подобные усилия обходятся дороже и требуют на порядок больше времени, чем простое индексирование интернета. Поэтому технологические компании обращаются к синтетическим данным, таким как сгенерированные компьютером изображения или текст, имитирующие контент, созданный людьми. Однако у такого подхода есть свои ограничения, так как трудно добиться качественного улучшения при использовании подобных данных для обучения ИИ.

Тем не менее компании ИИ продолжают следовать принципу «чем больше, тем лучше». В стремлении создавать продукты, приближающиеся к уровню человеческого интеллекта, технологические компании увеличивают объём вычислительной мощности, данных и времени, затрачиваемых на обучение новых моделей, что приводит к росту расходов. Генеральный директор Anthropic Дарио Амодеи (Dario Amodei) заявил, что в этом году компании потратят $100 млн на обучение новейших моделей, а в ближайшие годы эта сумма может достичь $100 млрд.

Источник изображения: unsplash.com

Безусловно, потенциал для улучшения моделей ИИ, помимо масштабирования, существует. Например, для своей новой модели Orion OpenAI применяет многомесячный процесс пост-обучения. Эта процедура включает использование обратной связи от людей для улучшения ответов и уточнения «эмоциональной окраски» взаимодействия с пользователями.

Разработчики ИИ-моделей оказываются перед выбором: либо предлагать старые модели с дополнительными улучшениями, либо запускать чрезвычайно дорогие новые версии, которые могут работать ненамного лучше. По мере роста затрат растут и ожидания — стремительное развитие ИИ на начальном этапе создало завышенные ожидания как у специалистов, так и у инвесторов.

Глядя на череду увольнений из OpenAI влиятельных теперь в сфере искусственного интеллекта фигур, которые стояли у истоков этого стартапа, можно было подумать, что из начального состава компании в её штате осталось не более двух человек. Между тем, президент OpenAI Грег Брокман (Greg Brockman), взявший в августе длительный отпуск, недавно вернулся к исполнению своих обязанностей.

Источник изображения: OpenAI Developer Forum

Как показывает опыт Раджи Кодури (Raja Koduri), который несколько лет назад после длительного отпуска перешёл из AMD в конкурирующую Intel, подобные перерывы в активной деятельности руководителей далеко не всегда благоприятно заканчиваются для работодателей, но в случае с Грегом Брокманом всё обошлось. Агентство Bloomberg смогло подтвердить у представителей OpenAI, что Брокман на днях вернулся к исполнению своих обязанностей президента компании. Сотрудники стартапа на этой неделе получили соответствующее уведомление.

Попутно Брокман сообщил сотрудникам OpenAI, что вместе с генеральным директором Сэмом Альтманом (Sam Altman) работает над определением своей новой роли внутри компании, которая позволила бы ей легче справляться с техническими трудностями, возникающими на её пути. Брокман сыграл важную роль в событиях прошлой осени, когда совет директоров OpenAI принял решение отправить Альтмана в отставку. Брокман тогда на время покинул компанию в знак протеста против увольнения Альтмана, но вернулся после его восстановления в должности генерального директора. Продолжительный отпуск понадобился Брокману в августе этого года для восстановления сил и попытки впервые расслабиться после основания OpenAI девять лет назад.

Некоторое время назад OpenAI покинули бывший технический директор Мира Мурати (Mira Murati) и ведущий научный специалист Илья Суцкевер, которые уже успели основать собственные стартапы в области искусственного интеллекта. Джон Шульман (John Schulman), который также ушёл из OpenAI, в новой активности на этом направлении пока замечен не был. В общей сложности, из начальной группы основателей OpenAI в штате компании остаются три человека, включая Сэма Альтмана и Грега Брокмана.

Один из ключевых специалистов OpenAI, Лилиан Венг (Lilian Weng), объявила о своём уходе. Венг проработала в компании 7 лет, занимая должность главы отдела систем разработки безопасности, а в августе этого года получила повышение. В своём заявлении на платформе X она отметила, что покидает OpenAI, чтобы «начать всё сначала и попробовать что-то новое».

Источник изображения: Levart_Photographer/Unsplash

Как сообщает TechCrunch, последним рабочим днём Венг станет 15 ноября, однако о своих дальнейших планах она не сообщила. «Я приняла крайне трудное решение покинуть OpenAI», — призналась Венг. «Оглядываясь на то, чего мы достигли, я очень горжусь каждым членом команды по системам безопасности и полностью уверена, что команда продолжит процветать».

Венг — не единственный специалист, который покинул компанию. За последний год оттуда ушли исследователи в области безопасности, а также руководители, обвинившие компанию в приоритете коммерческих продуктов над безопасностью ИИ. Ранее в этом году OpenAI покинули Илья Суцкевер (Ilya Sutskever) и Ян Лейке (Jan Leike) — руководители расформированной команды «Superalignment», которая занималась разработкой методов управления сверхразумными системами ИИ.

Венг присоединилась к OpenAI в 2018 году, начав свою карьеру в команде робототехники, которая создала роботизированную руку, способную собирать кубик Рубика за считаные секунды. С переходом OpenAI к парадигме GPT, Венг присоединилась к команде прикладных исследований ИИ в 2021 году. После запуска GPT-4 в 2023 году она возглавила команду по разработке систем безопасности, в которой работает более 80 человек.

OpenAI сообщает, что руководство ищет замену Венг. «Мы глубоко ценим вклад Лилиан в прорывные исследования в области безопасности и создание надёжных технических гарантий, — говорится в заявлении официального представителя OpenAI. — Мы уверены, что команда по системам безопасности продолжит играть ключевую роль в обеспечении надёжности наших систем, обслуживающих сотни миллионов людей по всему миру».

Стоит отметить, что в октябре компанию покинул Майлз Брандейдж (Miles Brundage), работавший над политикой в сфере ИИ, после чего OpenAI объявила о роспуске команды AGI Readiness. В тот же день газета New York Times опубликовала интервью с бывшим исследователем OpenAI Сучиром Баладжи (Suchir Balaji), который заявил, что тоже покинул компанию, поскольку считает, что её технологии принесут обществу больше вреда, чем пользы.

Пока аналитики и инвесторы лишь гадают, как бесплатный сервис Apple Intelligence, официально запущенный всего несколько недель назад, повлияет на продажи iPhone 16. Но бета-версия iOS 18.2 раскрыла способ монетизации сервиса искусственного интеллекта в устройствах Apple без необходимости взимания с пользователей оплаты.

Источник изображения: Apple

На протяжении последних лет Apple активно подчёркивала важность доходов от своих услуг и сервисов, поскольку циклы обновления аппаратных устройств с каждым годом удлиняются, влияя на их продажи. Именно сервисы являются той категорией бизнеса, которая обеспечивает Apple стабильный доход. Это привело к предположениям, что будущие функции Apple Intelligence также войдут в сегмент платных сервисов. Однако, как сообщает 9to5Mac, последняя бета-версия операционной системы iOS 18.2 показала, что компания нашла способ монетизировать Apple Intelligence, не взимая за это плату.

Источник изображения: Apple, 9to5mac.com

В настройках OC обнаружена новая опция «Upgrade to ChatGPT Plus». По сути, это говорит о том, что Apple рекламирует платную подписку своего партнёра OpenAI, за которую будет получать процент от продаж. Это даст возможность пользоваться базовыми функциями ИИ бесплатно, а за более продвинутые опции придётся заплатить.

Источник изображения: Google

В iOS 18.2 в разделе «Extensions» (расширения) пока представлен сервис только от ChatGPT, но в будущем появятся и другие ИИ-инструменты, например Google Gemini. Пользователи также смогут выбирать между бесплатной базовой версией и премиум-подпиской каждого варианта ИИ. Таким образом, Apple сохранит за собой имидж компании, предоставляющей бесплатные ИИ-услуги, при этом её доходы от сервисов продолжат расти.

Компания OpenAI, разработчик чат-бота ChatGPT, приобрела домен chat.com, предположительно, за $15,5 миллионов. Chat.com является одним из старейших доменных имён в интернете, зарегистрированных в сентябре 1996 года. Владелец продал его в прошлом году техническому директору компании HubSpot за $10 млн, который затем перепродал домен OpenAI.

Источник изображения: OpenAI

О приобретении стало известно только после того, как генеральный директор OpenAI Сэм Альтман (Sam Altman) опубликовал вчера ссылку на этот домен в социальной сети X (Twitter). Ранее, как информирует издание The Verge, домен принадлежал Дармешу Шаху (Dharmesh Shah), основателю американской компании-разработчика программных продуктов HubSpot.

В начале 2023 года Шах приобрёл этот домен за $10 млн, объяснив покупку тем, что считает чат-интерфейсы следующим значительным шагом в развитии программного обеспечения. «Я купил chat.com, потому что считаю, что чатовые UX-интерфейсы (#ChatUX) — это будущее, потому что общение с компьютерами посредством естественного языка гораздо удобнее и интуитивнее», — написал он в своём посте на LinkedIn.

Через несколько месяцев после покупки Шах продал домен, не раскрывая подробностей, кто стал новым владельцем и за какую сумму «ушло» имя. Однако он подтвердил, что продал домен дороже, чем купил. Согласно данным базы продаж доменов NameBio, chat.com был продан за $15,5 млн в марте 2023 года, что совпадает по времени с публикацией Шаха в мае, в которой он сообщил о продаже. Покупатель и продавец отказались комментировать сделку для прессы.

Как отмечает The Verge, приобретение домена совпало с усилиями OpenAI по ребрендингу. Так, в сентябре текущего года компания анонсировала новую серию моделей, которые способны к рассуждениям, под названием «o1», что, по словам бывшего руководителя отдела исследований, Боба Макгрю (Bob McGrew), является шагом к более «понятным» названиям для продуктов компании. Однако, несмотря на использование домена chat.com, который пока служит только для автоматического перенаправления пользователей на сайт ChatGPT, OpenAI пока не изменила официальное название своего продукта.

В мире технологий покупка дорогих доменов не является большой редкостью. Например, буквально несколько месяцев назад стартап Friend приобрёл домен friend.com за $1,8 млн после привлечения инвестиций на сумму $2,5 млн. А на фоне недавно полученных OpenAI $6,6 млрд сумма в $15,5 млн кажется незначительной.

Бывший руководитель отдела разработки очков дополненной реальности (AR) компании Meta✴, Кейтлин Калиновски (Caitlin Kalinowski), перешла в OpenAI. На своей странице в LinkedIn она сообщила, что возглавит направление робототехники и потребительских устройств в OpenAI. Компания также подтвердила её назначение, подчеркнув, что опыт Калиновски поможет вывести ИИ в реальный мир, расширяя его возможности для массового использования.

Источник изображения: caitlinkalinowski.com

Калиновски пришла в Meta✴ в 2022 году, где возглавила работу над проектом AR-очков Orion, представленных на ежегодной конференции Meta✴ Connect. В течение девяти лет она также руководила проектами по разработке устройств виртуальной реальности. До работы в Meta✴ Калиновски трудилась в Apple, где занималась проектированием аппаратного обеспечения для MacBook, приобретая ценный опыт в создании высококачественной потребительской электроники.

Калиновски прокомментировала своё назначение в OpenAI так: «С радостью сообщаю, что присоединяюсь к команде OpenAI в качестве руководителя направлений робототехники и потребительского оборудования. На новом посту я сосредоточусь на проектах OpenAI в области робототехники и развитии партнёрских отношений, чтобы внедрить искусственный интеллект в физическую реальность и раскрыть его возможности на благо человечества».

Предполагается, что Калиновски будет работать совместно с Джони Айвом (Jony Ive), бывшим топ-менеджером Apple, который сейчас возглавляет LoveFrom и разрабатывает вместе с OpenAI новое аппаратное ИИ-решение. В сентябре Айв подтвердил, что их совместное устройство будет «менее социально деструктивным, чем iPhone». Это партнёрство позволит OpenAI и LoveFrom объединить усилия для создания принципиально нового формата взаимодействия пользователей с ИИ.

OpenAI также объявила о поиске инженеров-исследователей для новой команды по робототехнике. Команда призвана помочь партнёрам компании интегрировать мультимодальные технологии OpenAI в физические устройства. Это возрождение робототехнического направления OpenAI знаменательно, ведь в 2018 году компания приостановила подобные исследования, сосредоточив усилия на разработке программного обеспечения (ПО). В частности, одним из достижений той эпохи стала роботизированная рука, способная обучаться самостоятельному захвату объектов.

Технологии OpenAI уже активно внедряются в современные устройства. Так, Apple планирует интегрировать ChatGPT в iPhone до конца года, расширяя возможности пользователей «яблочных» устройств. Кроме того, робототехническая компания Figure использует технологии OpenAI: её робот-гуманоид Figure 01 может вести естественные диалоги благодаря встроенному ПО OpenAI. Эти примеры подтверждают растущую значимость ИИ в улучшении его взаимодействия с человеком.

Приход Кейтлин Калиновски в OpenAI — значимый шаг для компании, стремящейся воплотить ИИ в физическом мире. Её опыт и знания в области разработки потребительских устройств могут дать новый импульс аппаратным проектам компании, обеспечивая ИИ более широкое проникновение в повседневную жизнь и делая его неотъемлемой частью нашей привычной реальности.

В июле этого года OpenAI запустила бета-версию собственного интернет-поисковика SearchGPT. Теперь же компания объявила, что функция поиска в интернете становится частью ИИ-бота ChatGPT. Платные подписчики ChatGPT уже на этой неделе смогут оценить нововведение, а для бесплатных пользователей, корпоративных клиентов и образовательных учреждений он станет доступен в ближайшие недели.

Источник изображения: Mariia Shalabaieva / unsplash.com

OpenAI не намерена выпускать SearchGPT в качестве отдельного продукта. Вместо этого разработчики интегрировали поисковик со своим чат-ботом ChatGPT. Алгоритм самостоятельно определяет, когда следует задействовать веб-поиск на основании пользовательских запросов, но при необходимости эту функцию можно запустить вручную. Интеграция веб-поиска в ChatGPT устранит ключевой конкурентный разрыв с такими соперниками OpenAI на рынке, как Microsoft Copilot и Google Gemini, которые уже давно предлагают клиентам доступ к веб-поиску в режиме онлайн. На фоне этой новости акции Alphabet, материнской компании Google, снизились в цене примерно на 1 %.

Источник изображения: OpenAI

По данным OpenAI, поиск в ChatGPT предоставляет доступ к самым свежим спортивным результатам, котировкам акций, данным о погоде и другой информации за счёт веб-поиска в режиме онлайн. Во время демонстрации возможностей SearchGPT представитель OpenAI показал, как можно легко в режиме онлайн следить за курсом акций Apple, параллельно получая доступ к сопутствующим новостям. Вся выдаваемая пользователю информация сопровождается ссылками на первоисточники. В дополнение к этому есть боковая панель с источниками и кратким описанием статей.

Новая функция поиска будет доступна на всех платформах присутствия ChatGPT, включая Android и iOS, а также macOS и Windows. По словам разработчиков, функция поиска разрабатывалась на основе «комбинации поисковых технологий», включая поисковик Microsoft Bing. Первоначально SearchGPT стал доступен для 10 тыс. тестовых пользователей, а теперь компания делает поисковик доступным для всех пользователей ChatGPT.

OpenAI планирует выпустить новую ИИ-модель, которая сейчас известна под кодовым именем Orion, ко второй годовщине ChatGPT. На первом этапе доступ к Orion получат партнёры OpenAI, что позволит им разрабатывать на её основе собственные продукты и функции. В отличие от предыдущих ИИ-моделей GPT-4o и o1, новинка не будет сразу интегрирована в ChatGPT для широкой аудитории.

Источник изображения: Mohamed_hassan / Pixabay

Инженеры Microsoft, главного партнёра OpenAI, уже готовятся развернуть Orion на облачной платформе Azure, и её запуск может состояться уже в ноябре. Внутри OpenAI эту модель считают продолжением GPT-4, однако пока неясно, будет ли она официально называться GPT-5. Вопрос о названии новинки остаётся открытым, а сроки её выхода могут измениться. OpenAI и Microsoft пока воздерживаются от комментариев.

Один из руководителей OpenAI заявил, что Orion может быть до 100 раз мощнее, чем GPT-4, что подчёркивает амбициозность проекта. Orion разрабатывается как самостоятельный ИИ и стоит особняком от «думающей» большой языковой модели (LLM) o1, вышедшей в сентябре. Цель OpenAI — со временем объединить все свои LLM для создания более мощной ИИ-модели, которая приблизит компанию к созданию ИИ общего назначения (Artificial General Intelligence, AGI).

Источник изображения: Sam Altman / X

По словам источников, для обучения Orion компания использовала синтетические данные, сгенерированные o1, а её тренировка завершилась ещё в сентябре. В то же время генеральный директор OpenAI Сэм Альтман (Sam Altman) опубликовал в соцсети X загадочное сообщение о том, что «с нетерпением ждёт скорого восхода зимних созвездий» Ориона, наблюдаемых с ноября по февраль, вероятно, намекая на декабрьский запуск. Это подтверждает и сам ChatGPT o1-preview, который на вопрос о том, что скрывает пост Альтмана, отвечает, хоть и с элементами галлюцинации, что тот намекает на слово Orion.

Источник изображения: Tom Warren / The Verge

Запуск новой LLM происходит на фоне серьёзных кадровых изменений в OpenAI, недавно привлёкшей рекордные $6,6 млрд и получившей статус коммерческой организации. О своём уходе недавно объявили технический директор Мира Мурати (Mira Murati), главный научный сотрудник Боб МакГрю (Bob McGrew) и президент по исследованиям Баррет Зоф (Barret Zoph).

Компания OpenAI начала тестировать приложение ChatGPT для Windows, но пока работать с ними могут только обладатели платных подписок. Предварительная версия клиента доступна для загрузки в Microsoft Store.

Источник изображения: x.com/OpenAI

Как и версия для macOS, приложение ChatGPT для Windows позволяет в специальном окне задавать вопросы чат-боту с искусственным интеллектом — его можно держать открытым совместно с другими программами. Быстрый запуск приложения производится при помощи сочетания клавиш Alt + Space. Оно позволяет загружать в ChatGPT фотографии и другие файлы, есть доступ к способной «рассуждать» модели OpenAI o1. Некоторые функции, впрочем, отсутствуют, в том числе расширенный голосовой режим.

Приложение ChatGPT для macOS вышло в июне, а вскоре после этого в нём обнаружилась неприятная уязвимость: переписка с чат-ботом сохранялась в виде открытого текста. OpenAI устранила эту проблему, и теперь сохраняемые приложением локально данные шифруются. Пока клиентом ChatGPT для Windows могут пользоваться только подписчики платных тарифных планов ChatGPT Plus, Enterprise, Team и Edu, но уже в этом году OpenAI обещает сделать его доступным для всех.

Исследователи Apple обнаружили, что большие языковые модели, такие как ChatGPT, не способны к логическому мышлению и их легко сбить с толку, если добавить несущественные детали к поставленной задаче, сообщает издание TechCrunch.

Источник изображения: D koi/Unsplash

Опубликованная статья «Понимание ограничений математического мышления в больших языковых моделях» поднимает вопрос о способности искусственного интеллекта к логическому мышлению. Исследование показало, что большие языковые модели (LLM) могут решать простые математические задачи, но добавление малозначимой информации приводит к ошибкам.

Например, модель вполне может решить такую задачу: «Оливер собрал 44 киви в пятницу. Затем он собрал 58 киви в субботу. В воскресенье он собрал вдвое больше киви, чем в пятницу. Сколько киви у Оливера?». Однако, если при этом в условие задачи добавить фразу «в воскресенье 5 из этих киви были немного меньше среднего размера», модель скорее всего вычтет эти 5 киви из общего числа, несмотря на то, что размер киви не влияет на их количество.

Источник изображения: Copilot

Мехрдад Фараджтабар (Mehrdad Farajtabar), один из соавторов исследования, объясняет, что такие ошибки указывают на то, что LLM не понимают сути задачи, а просто воспроизводят шаблоны из обучающих данных. «Мы предполагаем, что это снижение [эффективности] связано с тем фактом, что современные LLM не способны к подлинному логическому рассуждению; вместо этого они пытаются воспроизвести шаги рассуждения, наблюдаемые в их обучающих данных», — говорится в статье.

Другой специалист из OpenAI возразил, что правильные результаты можно получить с помощью техники формулировки запросов (prompt engineering). Однако Фараджтабар отметил, что для сложных задач может потребоваться экспоненциально больше контекстных данных, чтобы нейтрализовать отвлекающие факторы, которые, например, ребёнок легко бы проигнорировал.

Означает ли это, что LLM не могут рассуждать? Возможно. Никто пока не даёт точного ответа, так как нет чёткого понимания происходящего. Возможно, LLM «рассуждают», но способом, который мы пока не распознаём или не можем контролировать. В любом случае эта тема открывает захватывающие перспективы для дальнейших исследований.

OpenAI подверглась нападению китайских киберпреступников, которые отправляли вредоносное ПО сотрудникам OpenAI в архивных файлах. «Мы пресекли деятельность предполагаемого китайского злоумышленника SweetSpecter, который безуспешно занимался фишинговыми атаками на личные и корпоративные адреса электронной почты сотрудников OpenAI», — заявили в OpenAI. Примечательно, что хакеры из группы SweetSpecter использовали инструменты OpenAI для проведения своих операций.

Источник изображения: pexels.com

OpenAI заблокировала неуказанное количество учётных записей, которые, по её мнению, связаны с хакерской группой SweetSpecter. Сообщается, что киберпреступники используют инструменты OpenAI для таких целей, как «разведка, исследование уязвимостей, поддержка сценариев, уклонение от обнаружения аномалий и разработка».

В процессе фишинговой атаки хакеры отправляли сотрудникам OpenAI официальные письма об обнаруженных недостатках в работе ChatGPT с вложениями в виде zip-файлов, в которых якобы находилось подробное описание «проблемы» отправителя. При открытии zip-файла появлялся документ с фальшивым списком сообщений об ошибках ChatGPT, а в это время в фоновом режиме вредоносная программа SugarGh0st RAT захватывала контроль над ПК, позволяя хакерам похищать данные и получать доступ к компьютеру.

По данным OpenAI, эти атаки были безуспешными — письма блокировались внутренними системами безопасности OpenAI и не попадали в корпоративные почтовые ящики. Компания особо отметила, что эти атаки не имеют отношения к успешному взлому учётной записи OpenAI Newsroom X в прошлом месяце, когда хакерам удалось запустить криптофишинговую аферу, которая опустошала кошельки жертв.

Фишинговые электронные письма — настоящая проблема как для обычных потребителей, так и для сотрудников технологических компаний. Фишинговые атаки могут привести к масштабным утечкам корпоративных данных или потере средств и могут осуществляться по электронной почте, телефону или при помощи текстовых сообщений. Противостоять им помогает изучение наиболее распространённых методов и типов атак и элементарная цифровая гигиена.

Согласно данным американской компании по кибербезопасности Palo Alto Networks, ранее группа SweetSpecter в интересах китайского правительства атаковала посольства, министерства, правительственных чиновников и другие политические организации.

Данные берутся из публикации ИИтоги сентября 2024 г.: реалисты против оптимистов