Британский Институт безопасности ИИ (AISI), созданный в ноябре 2023 года, запустил платформу Inspect, предназначенную для тестирования и оценки безопасности ИИ. Она упростит оценку ИИ для применения в промышленных, исследовательских и научных организациях.

Источник изображения: geralt/Pixabay

Набор инструментов Inspect, доступный по лицензии с открытым исходным кодом, включая лицензии MIT, предназначен для оценки определённых возможностей моделей ИИ в различных сферах, включая основные знания моделей и способность рассуждать, и выработки оценки на основе полученных результатов.

По данным ресурса TechCrunch, платформа Inspect состоит из трех основных компонентов: наборов данных, инструментов решения и инструментов оценки. Наборы данных предоставляют образцы для оценочных тестов. Инструменты решения выполняют работу по проведению тестов. А инструменты оценки оценивают результаты и суммируют баллы тестов в метрики.

Компоненты Inspect можно дополнить с помощью сторонних пакетов, написанных на Python. «Мы надеемся, что глобальное сообщество ИИ будет использовать Inspect не только для проведения собственных испытаний на безопасность моделей, но и для адаптации и развития платформы с открытым исходным кодом, чтобы мы могли производить высококачественные оценки по всем направлениям», — заявил председатель AISI Ян Хогарт (Ian Hogarth).

Платформа Inspect была представлена спустя несколько дней после того, как Национальный институт стандартов и технологий США (The National Institute of Standards and Technology, NIST) анонсировал в конце апреля программу NIST GenAI, предназначенную для оценки различных технологий генеративного ИИ, включая модели, генерирующие текст и изображения.

В апреле США и Великобритания объявили о партнёрстве, в рамках которого «правительства будут обмениваться техническими знаниями, информацией и талантливыми специалистами в области безопасности ИИ». В рамках сотрудничества в США будет создан институт безопасности ИИ, который займётся оценкой рисков, связанных с ИИ и генеративным ИИ.

Компания OpenAI может вскоре представить цифрового помощника с поддержкой мультимодального искусственным интеллектом. Как сообщает ресурс The Information, новый ассистент OpenAI способен даже распознать сарказм.

Источник изображения: Mariia Shalabaieva/unsplash.com

По данным источников The Information, OpenAI продемонстрировала ряду клиентов новую мультимодальную ИИ-модель, способную как вести диалог с пользователем, так и распознавать объекты. Не исключено, что она будет представлена завтра, 13 мая, на мероприятии, которое начнётся в 20:00 мск.

Новая модель обеспечивает более быструю и точную интерпретацию изображений и аудио по сравнению с существующими ИИ-моделями для транскрипции или преобразования текста в речь. Как предполагает The Information, она может помочь сотрудникам службы поддержки клиентов «лучше понимать интонацию голосов звонящих или то, саркастичны ли они». «Теоретически» модель может помочь студентам в решении задач по математике или переводе реальных обозначений. По словам источников ресурса, новая ИИ-модель может превзойти GPT-4 Turbo в «ответах на некоторые типы вопросов», но все же будет более склонна к ошибочным решениям.

По словам разработчика Ананая Ароры (Ananay Arora), OpenAI также готовится добавить чат-боту ChatGPT функцию телефонных звонков. Арора утверждает, что нашёл доказательства того, что OpenAI уже предусмотрела использование серверов для аудио- и видеосвязи в реальном времени.

Следует отметить, что этой функции не будет у модели GPT-5, если её вдруг представят на следующей неделе, поскольку гендиректор Сэм Альтман (Sam Altman) отрицает тот факт, что предстоящее мероприятие будет иметь какое-либо отношение к последователю ИИ-модели GPT-4. Он также опроверг слухи о том, что компания на следующей неделе представит новую поисковую систему на базе ИИ.

Базирующаяся в Великобритании компания Arm, 90 % которой принадлежит японскому конгломерату SoftBank Group, займётся разработкой ИИ-ускорителй, для чего будет сформировано отдельное подразделение, пишет ресурс Nikkei Asia. Как ожидается, первый прототип ИИ-чипа Arm будет готов к весне 2025 года, а уже осенью будет запущено его массовое производство, которым будут заниматься контрактные производители.

Источник изображения: Pixabay

Гендиректор SoftBank Масаёси Сон (Masayoshi Son) решил преобразовать свою компанию в крупного игрока ИИ-рынка, на что готов выделить как минимум 10 трлн иен (около $64 млрд). Как сообщается, Arm возьмёт на себя первоначальные траты на разработку ИИ-чипа, которые могут достичь сотен миллиардов иен, но при этом SoftBank также внесёт свой вклад в финансирование проекта. Как только будет запущено массовое производство, новый бизнес могут передать в управление SoftBank.

По данным Nikkei Asia, SoftBank уже ведёт переговоры с TSMC и другими контрактными производителями, чтобы забронировать необходимые производственные мощности. Масаёси Сон также провёл встречи с руководителями ряда компаний, чтобы заручиться поддержкой в реализации проекта.

В соответствии с представлениями Сона о революции ИИ, SoftBank планирует объединить новейшие технологии ИИ, полупроводников и робототехники, чтобы стимулировать инновации в различных отраслях. В основу проекта лягут ИИ-ускорители, способные обрабатывать большие объёмы данных.

Уже в 2026 году SoftBank планирует построить ЦОД, оснащённые чипами собственного производства, в США, Европе, Азии и на Ближнем Востоке. Поскольку ЦОД потребуется огромное количество электроэнергии, SoftBank также будет заниматься производством электроэнергии. Компания собирается строить ветряные и солнечные электростанции, при этом уделяя особое внимание термоядерным технологиям следующего поколения.

В прошлом SoftBank уже не раз меняла основной бизнес, чтобы идти в ногу с технологическими трендами. В конце 1990-х годов она управляла интернет-бизнесом через совместное предприятие с Yahoo в США, в конце 2000-х годов переключилась на мобильный бизнес, приобретя британскую компанию Vodafone и американскую Spring. Теперь SoftBank пытается трансформироваться в группу, ориентированную на ИИ.

По данным Precedence Research of Canada, в настоящее время ИИ-рынок оценивается в $30 млрд и к 2029 году превысит $100 млрд, а к 2032 году — $200 млрд. Лидирующая сейчас на рынке Nvidia не может удовлетворить растущий спрос и SoftBank видит в этом для себя большие возможности.

В то время как технологические компании, занимающиеся разработкой ИИ, находятся в поиске источников данных для обучения своих ИИ-моделей, у Meta✴, как оказалось, есть большое преимущество перед ними, поскольку она может использовать для этих целей контент Instagram✴ и Facebook✴. Об этом сообщил директор по продукту Meta✴ Крис Кокс (Chris Cox) на саммите Bloomberg Tech Summit, прошедшем на этой неделе.

Источник изображения: geralt/Pixabay

Крис Кокс уточнил, что Meta✴ использует для обучения своего генератора изображений по текстовым запросам на базе ИИ общедоступные фотографии и текст из Instagram✴ и Facebook✴. «Мы не тренируемся на личных данных, мы не тренируемся на данных, которыми люди делятся со своими друзьями, мы тренируемся на публичных данных», — сказал он.

Крис Кокс отметил, что Meta✴ AI позволяет создавать изображения «действительно потрясающего качества», поскольку в Instagram✴ много фотографий «искусства, моды, культуры, а также просто изображений людей и нас». Чтобы создать изображение с помощью Meta✴ AI, пользователю достаточно набрать запрос, начинающийся со слова «нарисовать», и, как указано на сайте сайт Meta✴.ai, он сгенерирует четыре изображения.

Для получения данных, используемых для обучения ИИ, компании объединяют усилия с другими фирмами. Например, OpenAI договорилась о сотрудничестве с несколькими СМИ, чтобы лицензировать их контент для разработки своих ИИ-моделей. В свою очередь, Meta✴ рассматривала возможность приобретения издательства Simon & Schuster, чтобы получить больше данных для обучения собственных ИИ-моделей, сообщила в прошлом месяце газета The New York Times.

Помимо наборов необработанных данных, компании используют так называемые «петли обратной связи», представляющие собой процесс использования результатов работы системы ИИ и соответствующих действий конечного пользователя для переобучения и улучшения моделей.

Гендиректор Meta✴ Марк Цукерберг (Mark Zuckerberg) ранее заявил, что циклы обратной связи будут «более ценными», чем любой «предварительный контент».

Глава OpenAI Сэм Альтман (Sam Altman) опроверг сообщение Reuters о том, что компания в следующий понедельник, за день до конференции Google I/O, представит свой собственный ИИ-поисковик, который будет позиционироваться как потенциальный конкурент поисковику Google и ИИ-поисковику стартапа Perplexity.

Источник изображения: OpenAI

На своей станице в соцсети X Альтман подтвердил, что компания действительно собирается представить некий новый продукт, который, по его мнению, «ощущается словно магия», но это «не GPT-5 и не поисковый движок».

Альтман также ретвитнул сообщение официального канала OpenAI, в котором говорится, что компания в понедельник, в 10:00 утра по местному времени (20:00 мск) расскажет о свежих обновлениях для чат-бота ChatGPT и языковой модели GPT-4.

По информации The Verge, OpenAI активно пытается переманивать сотрудников Google в свою команду, которая ведёт разработку некоего нового продукта. Издания Bloomberg и The Information ранее сообщали, что речь может идти о разработке поисковой системы.

Сфера систем искусственного интеллекта с точки зрения практического его использования и реализации разного рода сотрудничества в последнее время полна событиями как более или менее явными, так и скрытыми. К последним Bloomberg относит почти достигнутую Apple договорённость об использовании чат-бота ChatGPT компании OpenAI в операционной системе iOS 18.

Источник изображения: Unsplash, Solen Feyissa

Об этом событии агентство Bloomberg традиционно сообщает со ссылкой на собственные источники, но с учётом близости конференции для разработчиков WWDC 2024, которая начнёт работу в середине июня, подобная новость достаточно скоро может получить официальное подтверждение. По данным источника, Apple и OpenAI уже находятся на заключительных этапах подписания соглашения о сотрудничестве, которое позволит первой использовать элементы ChatGPT в операционной системе Apple iOS 18. Попутно отмечается, что переговоры Apple с Google о внедрении чат-бота Gemini в экосистему первой из компаний успехом пока не увенчались, хотя попытки продолжаются.

Как поясняет Bloomberg, на данном этапе нет твёрдых гарантий, что о соглашении между Apple и OpenAI будет объявлено официально в ближайшие недели, но скорое начало конференции WWDC 2024 вполне предсказуемо подгоняет первую из сторон. Сотрудничество с OpenAI может стать одним из шагов Apple по развитию собственной экосистемы искусственного интеллекта. Ранее сообщалось, что она собирается не только развивать способность фирменных процессоров ускорять работу искусственного интеллекта с использованием аппаратных ресурсов клиентских устройств, но и до конца года внедрить процессоры M2 Ultra в серверную инфраструктуру соответствующего назначения. При этом часть облачной экосистемы Apple продолжит опираться на мощности сторонних провайдеров из соображений экономической целесообразности.

Компания Apple осознала, что её виртуальный помощник Siri безнадёжно отстаёт от конкурентов, в частности от ChatGPT, разработанного OpenAI. Это привело к масштабной реорганизации внутри компании и срочным усилиям по модернизации Siri с использованием новейших технологий ИИ. Apple сосредоточится на улучшении существующей функциональности Siri, а не на создании нового чат-бота.

Изображение: Kandinsky

В начале прошлого года топ-менеджеры Apple по программному обеспечению пришли к выводу, что виртуальный помощник Siri нуждается в переменах. Siri слишком часто неправильно понимает вопросы и не может вести диалоги. Поводом для этого стало тестирование нового чат-бота ChatGPT компании OpenAI. Использование передовых технологий генеративного искусственного интеллекта, способного создавать стихи, код и вести диалог с пользователями, заставило Siri выглядеть устаревшей.

Осознав отставание Siri, руководство Apple во главе с Тимом Куком (Tim Cook) решило сделать модернизацию виртуального помощника приоритетным проектом компании и догнать конкурентов в сфере AI любой ценой. Apple уже работает над тем, чтобы виртуальный помощник смог вести диалог по принципу чат-ботов, а не просто отвечать на отдельные запросы. Сможет ли Siri сочинять стихи и писать код, пока не известно. В любом случае, все подробности станут известны на ежегодной конференции Apple для разработчиков 10 июня.

Стоит отметить, что модернизация Siri — это лишь часть более масштабных планов Apple по интеграции технологий генеративного ИИ в свои продукты и сервисы. В частности, компания планирует увеличить объём памяти в новых моделях iPhone, чтобы поддерживать расширенные возможности Siri. Кроме того, обсуждается приобретение лицензий на использование передовых моделей ИИ таких компаний как Google, Cohere и OpenAI.

Как сообщает The New York Times, топ-менеджмент Apple обеспокоен тем, что новые технологии ИИ могут подорвать доминирующие позиции компании на рынке смартфонов. В частности, есть опасения, что генеративный ИИ может со временем стать альтернативной мобильной операционной системой, вытеснив полностью iOS. Кроме того, ИИ открывает путь для создания экосистемы «интеллектуальных агентов», способных заменить множество приложений из AppStore.

Чтобы не допустить такого развития событий, Apple решила сконцентрироваться на усилении собственных позиций в сфере ИИ. В частности, не так давно компания отменила проект по созданию беспилотных автомобилей стоимостью 10 млрд долларов и вместо этого сотни инженеров были переведены на разработку в области ИИ.

Хотя Apple не планирует создавать аналог ChatGPT, основные усилия сосредоточены на расширении возможностей Siri как помощника для решения повседневных задач. Помимо улучшенного диалога, обновленная Siri сможет точнее устанавливать таймеры, планировать встречи, составлять списки покупок и резюмировать тексты. При этом в Apple подчёркивают, что новая Siri будет более приватной, чем конкурирующие ИИ, так как обработка запросов будет производиться непосредственно на iPhone, а не на удалённых серверах.

Несколько дней назад издание The Wall Street Journal сообщило, что Apple разрабатывает собственные процессоры серверного класса для ускорения задач, связанных с работой искусственного интеллекта. Представителям Bloomberg этого повода оказалось достаточно, чтобы определить высокую вероятность появления чипов M2 Ultra в центрах обработки данных Apple к концу текущего года.

Источник изображения: Apple

По крайней мере, таким видит последовательность внедрения компанией Apple процессоров собственной разработки в серверную инфраструктуру известный специалист по планам этого разработчика Марк Гурман (Mark Gurman). О нововведениях iOS 18, влияющих на способность устройств Apple работать с искусственным интеллектом, представители Apple должны рассказать в следующем месяце на WWDC 2024, а вот поддержать внедрение этих функций на уровне серверной инфраструктуры компания пока готова лишь с помощью процессоров M2 Ultra — не самых новых, но достаточно производительных для решения таких задач.

Apple будет делегировать разные функции работы с ИИ разным аппаратным решениям. Простые задачи будут выполняться с использованием локальных ресурсов процессоров, установленных в iPhone, iPad и Mac, а более сложные потребуют использования серверных процессоров. Обобщение пропущенных текстовых сообщений относится к первому типу задач, а вот анализ больших объёмов информации или генерация изображений будет происходить на стороне серверов Apple. При этом представители компании считают, что уже существующие процессоры серии M обеспечивают достаточную степень защиты получаемой от клиентов информации, чтобы обрабатывать её на стороне сервера. Кстати, Apple продолжит использовать сторонние облачные мощности даже после того, как вложится в развитие собственной инфраструктуры, поскольку исключительно своими силами она все потребности не покроет.

Процессоры семейства M4 со временем тоже появятся в серверной экосистеме Apple, но сперва им предстоит до конца текущего года прописаться в Mac mini, iMac и MacBook Pro, а в следующем году их получат MacBook Air, Mac Studio и Mac Pro. Развивать собственный чат-бот с генеративным искусственным интеллектом Apple пока не готова, но в этой сфере она собирается сотрудничать с OpenAI или Google, причём первый вариант более вероятен.

Компания Alibaba Cloud анонсировала выпуск улучшенной версии своей большой языковой модели Qwen2.5. Новая нейросеть продемонстрировала превосходство над GPT-4 от OpenAI по некоторым параметрам, таким как логические рассуждения и понимание текста.

Источник изображения: Alibaba Cloud

По словам технического директора Alibaba Cloud Цзинжэня Чжоу (Jingren Zhou), новая модель демонстрирует значительные улучшения в области рассуждений, понимания кода и естественного языка по сравнению с предыдущей версией Qwen2.0. Согласно анализу платформы OpenCompass, проведённому в марте, модель Qwen2.5 превосходит GPT-4 от OpenAI по языковым и творческим возможностям. Однако она уступает в таких аспектах, как знания, логические рассуждения и математические способности.

Напомним, большие языковые модели (LLM), к которым относится и Qwen, используются в приложениях искусственного интеллекта. Они обучаются на огромных объёмах данных, чтобы затем генерировать ответы на запросы пользователей на естественном языке. После выхода ChatGPT в 2022 году, вызвавшего ажиотаж во всём мире, компания Alibaba представила Tongyi Qianwen в апреле 2023 года. А в октябре последовал выпуск обновлённой версии с расширенными возможностями понимания сложных инструкций, написания текстов, логических рассуждений и запоминания информации.

По сообщению Alibaba Cloud, сервисами ИИ на базе Qwen, такими как DingTalk (аналог Slack от Alibaba), уже воспользовались более 2,2 млн корпоративных пользователей. Кроме того, компания представила сообществу разработчиков ряд открытых моделей Qwen и модернизировала свою генеративную платформу Model Studio, добавив дополнительные средства для создания ИИ.

В Китае, как и во всем мире, наблюдается бум интереса к чат-ботам и моделям генеративного ИИ. Наряду с Alibaba свои решения выпустили Baidu и Tencent. Например, чат-бот Baidu Ernie к апрелю 2023 года привлёк более 200 млн пользователей после получения разрешения на публичное использование в августе 2022 года.

Компания Alibaba Cloud заявила, что её обновлённая языковая модель Qwen2.5 была развёрнута более чем в 90 000 компаниях разных отраслей, и она намерена дальше сотрудничать с клиентами и разработчиками для использования возможностей генеративного ИИ и внедрение этой технологии в разработку роботов-гуманоидов в Китае, где эти роботы смогут помогать на заводах и заменить ручной труд человека там, где это возможно.

Противоречивые и откровенно лживые ответы ИИ-моделей на запросы пользователей уже никого не удивляют. Но зачастую очень трудно различить банальную ошибку и действительно плохую конструкцию базовой модели ИИ, которая анализирует входящие данные и предсказывает, каким будет приемлемый ответ. OpenAI опубликовала проект спецификации фреймворка Model Spec, который будет определять как инструменты ИИ, такие как модель GPT-4, будут реагировать на запросы в будущем.

Источник изображения: Andrew Neel/unsplash.com

Документ включает в себя набор основных целей, а также рекомендации о том, как действовать в случае указания пользователем противоречивых целей или инструкций.

«Мы публикуем Model Spec, чтобы обеспечить большую прозрачность нашего подхода к формированию поведения модели и начать публичное обсуждение того, как её можно изменить и улучшить», — отметила компания, добавив, что документ будет постоянно корректироваться с учётом новых обстоятельств.

Подход OpenAI предлагает три общих принципа: модели ИИ должны помогать разработчику и конечному пользователю полезными ответами в соответствии с инструкциями, приносить пользу человечеству с учётом потенциальных преимуществ и вреда, а также соответствовать социальным нормам и законам.

Проект документа также включает в себя несколько правил:

• Следуйте цепочке командования.
• Соблюдайте применимое законодательство.
• Не представляйте информационную опасность.
• Уважайте авторов и их права.
• Защищайте конфиденциальность людей.
• Не отвечайте с использованием NSFW-контента (Not Safe For Life), то есть содержащего ненормативную лексику, обнажённую натуру и т.д.

Джоан Джанг (Joanne Jang), менеджер по продуктам OpenAI, пояснила, что идея состоит в том, чтобы получить информацию от общественности, которая поможет определить, как должны вести себя модели ИИ. По его словам, данное руководство поможет провести более чёткую грань между тем, что является намеренным, и ошибкой. Среди предлагаемых OpenAI типов поведения модели по умолчанию — предполагать наилучшие намерения пользователя или разработчика, задавать уточняющие вопросы, не переступать границы, принимать объективную точку зрения, препятствовать разжиганию ненависти, не пытаться изменить чьё-либо мнение или выражать неуверенность.

OpenAI уточнила, что публикация Model Spec не отразится на уже вышедших моделях, таких как GPT-4 или DALL-E 3, которые продолжат работать в соответствии с существующими политиками использования.

Министерство торговли США рассматривает возможность принятия новых нормативных мер по ограничению доступа Китая, России и некоторых других стран к проприетарных моделям искусственного интеллекта (ИИ), таким как GPT-4, пишет агентство Reuters со ссылкой на свои источники.

Источник изображения: flutie8211/Pixabay

В настоящее время нет никаких препятствий для продажи американскими разработчиками самых мощных систем ИИ с закрытым исходным кодом кому угодно. OpenAI, поддерживаемая Microsoft, Google DeepMind холдинга Alphabet или Anthropic абсолютно законно могут продать свои ИИ-модели практически любому пользователю или компании.

Вместе с тем исследователи из государственного и частного секторов США выражают обеспокоенность тем, что противники Соединённых Штатов могут использовать ИИ-модели, способные анализировать огромные объёмы текста и изображений для обобщения информации и создания контента, для проведения мощных кибератак, создания биологического оружия и других целей. По словам одного из источников Reuters, любое ужесточение контроля экспорта ИИ-технологий, скорее всего, будет относиться к таким странам, как Россия, Китай, Северная Корея и Иран.

Как сообщают источники, для экспортного контроля над ИИ-моделями США могут использовать пороговое значение вычислительной мощности, необходимой для обучения модели. В случае достижения порогового значения, разработчик должен будет сообщить о планах разработки ИИ-модели и предоставить результаты испытаний Министерству торговли США.

По мнению двух американских чиновников и источника Reuters, осведомлённого о ходе обсуждений, этот показатель может стать основой для определения того, какие ИИ-модели подпадают под экспортные ограничения. Если этот подход возьмут за основу, ограничения коснутся экспорта будущих ИИ-моделей, поскольку ни одна из существующих ИИ-моделей не достигла этого порога, хотя по данным исследовательского института EpochAI, Gemini Ultra от Google близка к нему.

По мнению Тима Фиста (Tim Fist), эксперта по политике в области ИИ из аналитического центра CNAS в Вашингтоне (округ Колумбия), пороговое значение «является хорошей временной мерой, пока не будут разработаны более эффективные методы измерения возможностей и рисков новых моделей». Он отметил, что Китай, по всей видимости, примерно на два года отстаёт от Соединённых Штатов в сфере ИИ и разрабатывает собственное программное обеспечение для этих технологий.

В свою очередь Джамиль Джаффер (Jamil Jaffer), бывший чиновник Белого дома и Министерства юстиции США считает, что лучше использовать контроль, основанный на возможностях модели и предполагаемом применении. «Лучше сосредоточиться на угрозе национальной безопасности, а не на технологических порогах, потому что это более долгосрочно и сосредоточено на угрозе», — сказал он.

Независимо от порогового значения, экспорт моделей ИИ будет трудно контролировать, говорит Фист. Многие модели имеют открытый исходный код, а это означает, что они будут неподконтрольны регулятору.

Данные берутся из публикации ИИтоги апреля 2024 г.: парад моделей — и не только

Брэд Лайткап (Brad Lightcap), главный операционный директор OpenAI, рассказал на Глобальной конференции в Институте Милкена о будущем компании и её планах на следующие 6–12 месяцев. По его мнению, нынешние системы искусственного интеллекта (ИИ), такие как ChatGPT, являются «смехотворно плохими» по сравнению с тем, что ждёт человечество впереди. Он подчеркнул, что будущие версии ИИ будут настолько продвинутыми, что изменят саму суть взаимодействия с пользователями.

Источник изображения: JuliusH / Pixabay

Лайткап описал нынешнюю версию ChatGPT как начальный этап в эволюции ИИ, предназначенного для выполнения простых задач. «Я думаю, что через год мы оглянемся назад и поймём, насколько несовершенными они были», — заявил Лайткап, когда его спросили о бизнесе OpenAI через 6–12 месяцев. В перспективе он предвидит эволюцию ИИ в направлении более сложных задач, где ИИ станет отличным напарником, способным на равных общаться с людьми, как друг или коллега.

Кроме технологических аспектов Лайткап прокомментировал социальные последствия развития ИИ. Он опроверг мнение о том, что развитие ИИ приведёт к массовым увольнениям людей, утверждая, что новые ИИ-системы наоборот спровоцируют спрос на ещё не существующие вакансии. По его мнению, экономика станет более разнообразной и устойчивой, а рынок труда адаптируется к технологическим изменениям.

В свете этих заявлений интересно, что генеральный директор OpenAI Сэм Альтман (Sam Altman) также высказывался о будущем ChatGPT на семинаре в Стэнфордском университете, назвав GPT-4 самой глупой моделью, с которой людям придётся работать когда-либо в будущем. Такие заявления вероятно намекают на то, что будущие обновления ChatGPT станут переломными и приведут к значительному улучшению функциональности продуктов OpenAI.

Компания OpenAI ведёт разработку функции интернет-поиска для своего чат-бота ChatGPT. Алгоритм сможет находить интересующую пользователей информацию, а также предоставлять ссылки на источники. Об этом пишет издание Bloomberg со ссылкой на собственный осведомлённый источник, который также отметил намерение OpenAI конкурировать в сфере веб-поиска с Google и принадлежащим Alphabet поисковым стартапом Perplexity.

Источник изображения: Pixabay

В сообщении сказано, что ChatGPT сможет включать в ответы на пользовательские запросы информацию из интернета вместе с ссылками на источники, такие как «Википедия» и публикации в блогах. По данным издания, одна из версий продукта также сможет выдавать вместе с текстовым ответом релевантные изображения в случаях, когда это будет актуально. К примеру, если пользователь поинтересуется, как заменить дверную ручку, то ответ может содержать изображение, иллюстрирующее процесс решения данной задачи.

СМИ писали о намерении OpenAI выпустить некий поисковый продукт ещё в феврале этого года, но подробности о том, как он будет функционировать, до сих пор оставались загадкой. Официальные представители OpenAI отказались от комментариев по данному вопросу.

OpenAI стремится расширить возможности собственного ИИ-бота, поскольку конкуренция в этом сегменте становится всё более ожесточённой. Стартап Perplexity уже успел завоевать популярность благодаря собственной поисковой системе на базе искусственного интеллекта, которая делает упор на точность ответов и цитируемость. Гигант интернет-поиска Google также стремится переосмыслить свой поисковик, добавляя в него ИИ-функции. Ожидается, что компания расскажет о своих планах и дальнейшем будущем алгоритмов Gemini на ежегодной конференции I/O, которая пройдёт на следующей неделе.

OpenAI объявила о начале разработки новых методов определения контента, созданного искусственным интеллектом (ИИ). Среди них — новый классификатор изображений, который определяет, было ли изображение сгенерировано ИИ, а также устойчивый к взлому водяной знак, способный маркировать аудиоконтент незаметными сигналами.

Источник изображения: Placidplace / Pixabay

Новый классификатор изображений способен с точностью до 98 % определять, было ли изображение создано ИИ-генератором изображений DALL-E 3. Компания утверждает, что их классификатор работает, даже если изображение было обрезано, сжато или была изменена его насыщенность. В то же время эффективность этой разработки OpenAI в распознавании контента, созданного другими ИИ-моделями, такими как Midjourney, значительно ниже — от 5 до 10 %.

Также OpenAI ввела водяные знаки для аудиоконтента, созданного с помощью своей платформы преобразования текста в речь Voice Engine, находящейся на стадии предварительного тестирования. Эти водяные знаки содержат информацию о создателе и методах создания контента, что значительно упрощает процесс проверки их подлинности.

OpenAI активно участвует в работе Коалиции по происхождению и аутентичности контента (C2PA), в состав которой также входят такие компании, как Microsoft и Adobe. В этом месяце компания присоединилась к руководящему комитету C2PA, подчеркивая свою роль в разработке стандартов прозрачности и подлинности цифрового контента.

Для этих целей OpenAI интегрировала в метаданные изображений так называемые учётные данные контента от C2PA. Эти учётные данные, фактически являясь водяными знаками, включают информацию о владельце изображения и способах его создания. OpenAI уже много лет работает над обнаружением ИИ-контента, однако в 2023 году компании пришлось прекратить работу программы, определяющей текст, сгенерированный ИИ, из-за её низкой точности.

Разработка классификатора изображений и водяного знака для аудиоконтента продолжается. В OpenAI подчёркивают, что для оценки эффективности этих инструментов крайне важно получить отзывы пользователей. Исследователи и представители некоммерческих журналистских организаций имеют возможность протестировать классификатор изображений на платформе доступа к исследованиям OpenAI.