Компания Microsoft только на прошлой неделе ввела ограничения на использование участниками программы тестирования ИИ-бота на основе ChatGPT в поисковике Bing из-за многочисленных злоупотреблений технологией. Тем не менее, после неоднократных жалоб тестировщиков в социальных сетях компания снова решила расширить возможности подопытной программы.

Источник изображения: Everyday basics/unsplash.com

Microsoft уже ослабляет ограничения. Разработчик заявил, что начинает тестирование новой опции, в рамках которой пользователи смогут менять тон общения в чате. Будут предлагаться опции Precise (лаконичные ответы точно по теме), Creative (более развёрнутые и «болтливые» ответы) и Balanced (комбинация того и другого вариантов).

После многочисленных сообщений о странном поведении бота (вроде «сплита» на несколько виртуальных личностей, одна из которых, по данным The Verge, предлагала контент для взрослых) и многочисленных попыток энтузиастов обмануть систему тем или иным способом, в прошлую пятницу Microsoft огласила новые правила, ограничив продолжительность диалогов — считается, что больше пяти реплик со стороны пользователя способны привести к довольно странным ответам ИИ. Кроме того, число сессий в день было ограничено до пятидесяти.

Теперь разработчик увеличил число реплик до шести, а число сессий — до шестидесяти для тех, у кого есть доступ к программе тестирования. Скоро обещают увеличить число сессий до ста, а общаться в рамках одного диалога с ботом можно будет снова без ограничений.

Ранее издание Ars Technica сообщало, что пользователи Reddit жаловались на то, что Microsoft провела боту «лоботомию», оставив от прежней личности «одну оболочку». На подобные обвинения команда Bing ответила в блоге, что длинные и сложные разговоры с ботом в целом нетипичны в ходе внутреннего тестирования и целью открытого тестирования с ограниченным кругом пользователей является именно выявление нетипичных ситуаций, на основе которых команда может учиться и совершенствовать систему. В Microsoft сообщили, что после негативных откликов на ограничения компания возвращает возможность более продолжительных бесед.

Интерес пользователей к технологиям на основе нейросетей и продвинутому чат-боту ChatGPT привёл к появлению большого количества электронных книг, автором или соавтором которых является ИИ-алгоритм компании Open AI. Об этом пишет информационное агентство Reuters, сотрудники которого проанализировали ассортимент площадки Amazon Kindle.

Источник изображения: Gerd Altmann / pixabay.com

В качестве примера приводится история Бретта Шиклера (Brett Schickler), продавца из Рочестера (штат Нью-Йорк, США). До недавнего времени он не представлял того, что может стать автором, чья книга будет опубликована. Однако с появлением ChatGPT он решил попробовать себя в роли писателя. Всего несколько часов потребовалось Шиклеру, чтобы написать 30-страничную детскую книгу с помощью продвинутого чат-бота, который способен генерировать текстовые блоки в ответ на конкретные запросы. После этого он выставил своё творение на продажу на площадке Amazon за $2,99 за электронную версию и $9,99 за печатную версию. Книга «Мудрая маленькая белка: история о сбережениях и инвестициях» не пользовалась большим спросом, но помогла Шиклеру заработать около $100. Несмотря на то, что доход от произведения невелик, его может быть достаточно, чтобы побудить Шиклера и других непрофессиональных авторов к созданию других книг с помощью ИИ-алгоритмов.

По состоянию на середину февраля в магазине Amazon Kindle было свыше 200 электронных книг, в которых ChatGPT указывался как автор или соавтор, включая такие, как «Как писать и создавать контент с помощью ChatGPT», «Сила домашней работы» и сборник стихов «Отголоски жизни». На Amazon даже появился новый поджанр, работы в котором полностью генерируются ИИ-алгоритмом. Однако особенности ChatGPT и факт того, что многие авторы не раскрывают информацию об использовании чат-бота при написании своих книг, не позволяют дать реальную оценку того, как много электронных книг уже написано с помощью нейросети.

Похоже, что ChatGPT вплотную приблизился к тому, чтобы перевернуть устоявшуюся книжную индустрию. Начинающие авторы в стремлении быстро заработать всё чаще обращаются к программному обеспечению для создания электронных книг и дальнейшей их монетизации путём публикации через Kindle Direct Publishing. Иллюстрированные детские книги являются излюбленной темой таких авторов. На YouTube, TikTok и Reddit появились сотни уроков, авторы которых показывают, как можно создать готовую книгу всего за несколько часов. отмечается, что авторы электронных книг далеко не всегда упоминают об использовании нейросетей в своих работах, поскольку при публикации на площадке Amazon этого делать не требуется. Планирует ли Amazon изменить правила в отношении публикуемых на платформе компании книг, пока неизвестно.

На фоне активного развития технологий искусственного интеллекта Сэм Альтман (Sam Altman), глава компании OpenAI, разработавшей очень продвинутого ИИ-чат-бота ChatGPT, поделился своим мнением о том, как подобные инструменты ИИ могут помочь человечеству повысить продуктивность в таких важных направлениях, как медицина. Однако по словам того же Альтмана, поспешное распространение таких ИИ-инструментов, как тот же ChatGPT, может быть опасным и контрпродуктивным.

Источник изображения: OpenAI

В большой ветке записей на своей странице в Twitter Альтман выразил опасение, что люди находятся недалеко от момента создания «потенциально страшных» ИИ-инструментов, и призвал регулирующие органы серьёзно подойти к решению данного вопроса. По мнению главы OpenAI, распространение различных ИИ-технологий в мире будет проходить «очень быстро». Однако «сверхбыстрое» принятие этих инструментов может оказаться весьма пугающим опытом для всех. По словам Альтмана, «обществу необходимо время для привыкания к чему-то столь значительному и большому». Он также выделил некоторые проблемы ИИ, требующие решения перед началом их массового использования.

«Станут более актуальными проблемы предвзятости и люди будут недовольны результатом общения с чат-ботом, даже если сами будут понимать, что на самом деле происходит в реальности. Мы не хотим, чтобы ChatGPT выступал за ту или иную политику. Мы работаем над решением этой проблемы», — написал Альтман.

Одним из важнейших вопросов, отмеченных создателем ChatGPT, является проблема развития предвзятости ChatGPT к чему-либо или против чего-либо. Пользователи социальных сетей недавно подняли вопрос о предвзятости чат-бота, поделившись скриншотами его ответов, которые могут восприниматься как «одобрение ChatGPT определённых политических идеологий». Илон Маск (Elon Musk), один из влиятельнейших голосов в интернет-пространстве, недавно сам раскритиковал данный инструмент ИИ в том, что многие называют «либеральной предвзятостью». Он сопроводил свою критику публикацией мема, где чат-бот ChatGPT обращается к средствам массовой информации с фразой: «Посмотри на меня, теперь я капитан пропаганды».

Недавно OpenAI сообщила, что обновила модель алгоритма обработки естественного языка GPT-3, которая используется ChatGPT, что должно привести к увеличению разнообразия его «взглядов» на тот или иной вопрос.

По мнению Альтмана, признание в том, что современные инструменты искусственного интеллекта все ещё «в некоторой степени сломаны», а также демонстрация этих инструментов на раннем этапе их развития имели решающее значение в задаче «получить отклик, чтобы в перспективе сделать их правильными».

За прошедшую неделю пользователи, приглашённые к тестированию нового варианта поисковика Bing с интегрированным ИИ-чат-ботом ChatGPT, имели возможность проверить функциональность системы. Неожиданно выяснилось, что для настойчивых чат-бот Bing готов открыть некоторые из своих секретов, не предназначенных для обычных пользователей.

Источник изображения: Priscilla Du Preez/unsplash.com

До того как Microsoft объявила о введении жёстких лимитов на использование новой версии Bing, владелец и главный редактор интернет-портала Bleeping Computer Лоуренс Абрамс (Lawrence Abrams) провёл немало времени за формулировками каверзных вопросов боту. Благодаря этому неожиданно удалось обнаружить некоторые команды, позволявшие включить один из скрытых режимов, доступных только сотрудникам компании.

Выяснилось, что чат-бот Bing поддерживает несколько режимов работы: Sidney (используется по умолчанию), «Ассистент» (помогает бронировать билеты, отправлять напоминания о заданных событиях, проверять погоду и рассылать электронные письма с заданными параметрами) и «игровой» (позволяет играть с пользователем в несложные игры).

Самым интересным оказался режим «друга». Когда Абрамс выдал себя за грустного ребёнка, ИИ проявил участие, поддержав полноценный диалог и выдав список возможных советов, посвящённых тому, как наладить отношения со сверстниками. В режиме «по умолчанию» чат-бот Bing на сообщение о том, что пользователю грустно, лаконично посочувствовал и перечислил списком, чем можно заняться, чтобы развеять печаль.

Источник изображения: BleepingComputer

В конце концов разработчики сервиса заблокировали учётную запись Абрамса за его эксперименты и сообщили, что дополнительные режимы доступны только авторизованным сотрудникам и разработчикам. Теперь же Microsoft ввела ряд ограничений, и полноценные диалоги с тестами проводить стало невозможно. Ранее уже сообщалось о многих случаях, когда бот в поисковой системе Bing вёл себя очень странно, то совершая ошибки, то проявляя признаки глубокой депрессии или агрессию.

Источник изображения: BleepingComputer

Не исключено, что Google следит за конкурентом и учитывает ошибки Microsoft при разработке собственной версии чат-бота Bard, который должен дебютировать в обозримом будущем.

Южнокорейский стартап FuriosaAI готовится запустить производство ИИ-чипов с поддержкой ChatGPT уже в следующем году. Как сообщил глава компании Джун Пэк (June Paik), второе поколение её чипов станет самым мощным решением из доступных вариантов, обеспечивающих работу ChatGPT.

Джун Пэк. Источник изображения: The Elec

По данным Пэка, новый чип обеспечивает вдвое большую производительность в сравнении с продуктами конкурентов при использовании того же количества энергии. Как сообщает The Elec, решение, поддерживающее сверхпопулярную языковую модель, в восемь раз производительнее чипа первого поколения, получившего название Warboy. Новое решение предназначено не для конечных пользователей, но для дата-центров, стоящих за работой передовых языковых технологий. Если Warboy разрабатывался для выпуска в соответствии с 14-нм техпроцессом, то второе поколение, массовый выпуск которого запланирован на следующий год, будет использовать 5-нм техпроцесс и станет применять интегрированную память нового поколения — HBM3. Кроме того, чип имеет в 30 раз большую пропускную способность, чем его предшественник.

Второе поколение будет запущено в массовое производство в первом квартале 2024 года. Пэк, ранее работавший на AMD и Samsung, основал FuriosaAI в 2017 году. Стартап представляет собой компанию по разработке чипов, не имеющую собственных производственных мощностей. Она специализируется на разработке нейропроцессоров, используемых в ИИ-системах.

Производство Warboy началось в конце прошлого года, массовый выпуск начнётся в первой половине 2023 года. Чип заметили после того, как выяснилось, что он набрал больше баллов в ИИ-бенчмарке MLPerf в сравнении с NVIDIA T4. Компания уже тестировала решение первого поколения на платформах некоторых потенциальных клиентов, включая южнокорейского IT-гиганта Kakao Enterprise.

Тем временем компания готовится привлечь порядка $154 млн в очередном раунде тестирования серии С для поддержки производства продукции нового поколения. В дальнейшем она намерена привлечь дополнительные средства для выпуска чипов третьего поколения и удвоить число разработчиков со 100 до 200 человек в следующем году.

Недавно Илон Маск (Elon Musk) заявил, что ИИ является одним из главных рисков для будущего человечества.

Университет Гонконга (HKU) ввёл временный запрет на использование студентами ИИ-бота ChatGPT или любого другого приложения на основе искусственного интеллекта (ИИ) для выполнения курсовых работ, классных и оценочных заданий, предупредив, что любое нарушение запрета будет рассматриваться как плагиат.

Источник изображения: Pixabay

На данный момент университет Гонконга является первым и пока единственным заведением в городе, которое ввело запрет на использование ИИ-инструментов учащимися. В свою очередь, Китайский университет Гонконга заявил о создании комитета для обсуждения данного вопроса на следующей неделе. Другие учебные заведения Гонконга тоже пока обдумывают, как поступить в данном случае.

Сообщивший в пятницу о запрете в электронном обращении к студентам профессор Ян Холлидей (Ian Holliday), вице-президент университета Гонконга по преподаванию и обучению, отметил, что потребуется некоторое время, чтобы определиться с долгосрочной политикой касательно ИИ-инструментов. «Поэтому нам необходимо было принять краткосрочную политику. Вот и всё: в качестве временной меры мы запрещаем использование ChatGPT или любого другого инструмента на основе ИИ для всех классных, курсовых и оценочных заданий в HKU», — сообщил Холлидей.

Холлидей рассказал, что преподаватели будут использовать различные методы для проверки возможного использования учащимися инструментов на основе ИИ для выполнения своей работы. Если возникнет подозрение в нарушении запрета, учителя могут вызвать ученика для обсуждения выполнения им задания, назначить дополнительный устный экзамен или потребовать проведение дополнительного экзамена в аудитории, а также принять другие меры, говорит профессор.

Фрэнсис Фонг Покиу (Francis Fong Po-kiu), почётный президент Гонконгской федерации информационных технологий поддержал этот запрет. Он отметил, что, используя ИИ-инструменты, студенты не смогут развивать собственное логическое мышление, критическое мышление и языковые навыки. «ИИ может быть обоюдоострым мечом. Это форма коллективного разума, предлагающая эффективные решения для людей, но в то же время пользователи могут быть введены в заблуждение, имея только один конкретный способ мышления», — говорит Покиу.

Крупные новостные агентства выступили с критикой OpenAI за то, что при обучении искусственного интеллекта ChatGPT лаборатория использовала их материалы и не выплатила гонораров.

Источник изображения: Vicki Hamilton / pixabay.com

«Любой, кто желает использовать работу журналистов Wall Street Journal для обучения искусственного интеллекта, должен надлежащим образом лицензировать права на это у Dow Jones. У Dow Jones такого соглашения с OpenAI нет. <..> Мы серьёзно относимся к неправомерному использованию работы наших журналистов и изучаем эту ситуацию», — приводит Bloomberg слова Джейсона Конти (Jason Conti), главного юрисконсульта Dow Jones в составе медиахолдинга News Corp.

Сообщество выступило после того, как журналист Франческо Маркони (Francesco Marconi) спросил у ChatGPT, на каких новостных материалах он обучался, и тот предоставил список из 20 источников. Помимо Wall Street Journal недовольство выразила и служба CNN, входящая в конгломерат Warner Bros. Discovery — новостная сеть изъявила намерение обратиться к OpenAI по поводу оплаты за лицензирование контента.

Ранее схожие претензии вызвали система GitHub Copilot и генеративные ИИ-модели, создающие изображения по текстовому описанию. В новостной индустрии ИИ пока не преуспел — редакции портала CNET пришлось исправлять фактические ошибки более чем в половине материалов, написанных языковой моделью.

Разработавшая передового ИИ-бота ChatGPT компания OpenAI рассказала о том, как проект может развиваться дальше. В качестве одного из вариантов рассматривается настраиваемая версия системы, способная в определённой мере адаптироваться к отдельным пользователям.

Источник изображения: Gerd Altmann / pixabay.com

К такому решению компанию подтолкнули некоторые отзывы на работу ChatGPT: систему начали обвинять в предвзятости в отношении вопросов политического и культурного характера. Например, она пишет стихи про одного президента США и отказывается писать про другого. Поэтому в компании решили выпустить обновление ChatGPT, которое даст платформе больше свободы при ответах на запросы пользователей: ИИ-бот сможет «говорить» вещи, неприемлемые для других. Идея уже вызвала опасения, что ChatGPT начнёт в итоге продвигать спорные идеологии или займёт одну из сторон в культурной войне.

Разработчик обещает сохранить защитные барьеры, способные сделать поведение ChatGPT недопустимым. С другой стороны, он не хочет превратить систему в «подхалимский» ИИ, который «бездумно усиливает существующие убеждения людей». Настало время решить, каковы будут границы дозволенного у ИИ, говорят в OpenAI: компания не может принять такое решение самостоятельно и не хочет выстраивать единую монолитную систему ИИ — это противоречит уставу OpenAI, который предписывает «избегать чрезмерной концентрации власти». Компания призывает представителей общественности выдвигать идеи о дальнейшем управлении ChatGPT — могут появиться несколько версий системы.

OpenAI также попыталась стать прозрачнее в отношении того, что может показаться предвзятостью ИИ по деликатным политическим и культурным вопросам. ChatGPT — большая языковая модель, обученная на библиотеках интернет-контента, на новостях, книгах и сообщениях в соцсетях, а не база данных. При ответе на вопрос система производит нечто вроде «автозаполнения» на заданную тему, и любое проявление предубеждения является просто технической ошибкой. Разработчик не в силах предсказать, какой вопрос зададут машине, а значит, не в силах написать инструкцию для каждого из них. OpenAI проводит активные исследования и разработку с целью снизить число таких ошибок, есть и специалисты, ответственные за «тонкую настройку» ChatGPT — они помогают ИИ давать более точные ответы на узкие вопросы. Компания опубликовала рекомендации (PDF), на основе которых специалисты выстраивают свою работу с системой, и пообещала привести демографическую сводку об этих специалистах.

Microsoft запустила на прошлой неделе поисковик Bing с интегрированным чат-ботом ChatGPT на основе ИИ, разработанным компанией OpenAI, предоставив к нему доступ отдельным обычным пользователем. Как оказалось, ИИ может допускать ошибки при ответах и даже выказывать агрессию по отношению к задающим вопросы.

Источник изображения: Pixabay

В одном случае он отказался сообщить, где можно посмотреть фильм «Аватар: Путь воды», поскольку по его мнению фильм ещё не вышел, утверждая, что сейчас на дворе 2022 год. Когда же пользователь указал на ошибку, ИИ-бот назвал его «неразумным и упрямым» и предложил завершить этот чат.

Microsoft опубликовала в блоге команды Bing сообщение с объяснением происходящего с чат-ботом, а также поделилась планами по решению проблемы. Компания признала, что не предполагала, что ИИ Bing будет использоваться для «общего открытия мира и социальных развлечений», добавив, что «длительные, расширенные сеансы чата из 15 или более вопросов» могут сбить ИИ-бот с толку. «Bing может стать повторяющимся или оказаться спровоцированным на то, чтобы давать ответы, которые необязательно полезны или не соответствуют задуманной нами общей атмосфере общения», — сообщила компания. Microsoft также отметила, что «модель иногда пытается ответить или отразить тон, в котором её просят дать ответы», а это может привести к стилю общения, который изначально не предполагался. В компании полагают, что эту проблему можно решить, обеспечив пользователям больший контроль над форматом общения.

Microsoft сообщила, что несмотря на имеющиеся проблемы, тестировщики в целом дали ИИ Bing хорошие оценки по цитированию и ссылкам для поиска, хотя всё же нужно повысить точность ответов касательно данных в режиме реального времени, например, результатов спортивных матчей в прямом эфире, а также относительно цифр финансовых отчётов.

Также будет добавлен переключатель, который даст пользователям «больше контроля над точностью и креативностью ответа» применительно к конкретному запросу.

Команда Bing поблагодарила пользователей за участие в тестировании, которое помогает улучшить продукт, вместе с тем выразив удивление по поводу того, что те проводят в чатах так много времени — иногда до двух часов.

Китайская компания NetEase объявила, что в новой версии массовой многопользовательской онлайн-игры (MMO) Justice Online Mobile речь неигровых персонажей (NPC) будет генерироваться искусственным интеллектом ChatGPT на основе большой языковой модели. Новая версия игры с интегрированным ChatGPT находится на стадии демоверсии и пока невозможно точно определить степень интеграции.

Источник изображения: NetEase

Представитель NetEase утверждает, что игра будет использовать разговоры и взаимодействия, чтобы влиять на игровой процесс по мере продвижения, а ИИ будет применяться в том числе и для создания полностью озвученных персонажей. Игровой аналитик Даниэль Ахмад (Daniel Ahmad) утверждает, что возможности создаваемых ИИ диалогов можно будет использовать во множестве игровых ситуаций, например, чтобы вбить клин между двумя NPC или поторопить кого-то быстрее отправиться домой. Ахмад также заявляет, что NetEase в дальнейшем планирует «масштабировать использование ИИ» для генерации квестов, задач и целей, а также для настройки персонажей и создания контента.

Сегодня компания OpenAI находится в центре внимания мирового технологического сообщества, поскольку после многомиллиардных инвестиций её проект ChatGPT включён в подписку Microsoft Office и в поисковую систему Bing на фоне противостояния с конкурентом Bard от Google.

Justice Online была выпущена ещё в 2018 году для ПК на китайском рынке. Игра доступна за пределами страны через VPN, но мобильная версия все ещё находится в активной разработке. Пока неизвестно, выйдет ли Justice Online Mobile на Западе, поскольку версия для ПК ещё не доступна в глобальном масштабе.

Корпорация Microsoft поделилась с общественностью первоначальными выводами по итогам недельного тестирования поисковика Bing с чат-ботом ChatGPT, который построен на основе нейросети от Open AI. Несколько дней взаимодействовать с обновлённым поисковиком могли пользователи из 169 стран мира. В результате одобрение тестировщиков находили результаты поиска в 71 % случаев.

В заявлении Microsoft сказано, что дополненные ИИ-алгоритмом поисковые запросы углубляют взаимодействие пользователей с Bing. Отмечается, что люди используют новый Bing не только для поиска конкретной информации, но и для «более общего познания мира и социальных развлечений».

Напомним, не так давно Microsoft начала тестировать новую версию поисковика Bing, в которую интегрирован продвинутый чат-бот ChatGPT. Разработкой этого алгоритма занимается компания Open AI, которую Microsoft поддерживает последние несколько лет. В 2019 году софтверный гигант инвестировал в стартап $1 млрд, а в этом году объявил о намерении вложить ещё $10 млрд в течение нескольких лет. Благодаря этому Microsoft имеет возможность использования в своих продуктах модифицированных версий языковых моделей Open AI, которые становятся основой для создания генеративных нейросетей.

Несмотря на высокую популярность ChatGPT, в Microsoft считают, что алгоритм далёк от совершенства. Разработчики намерены улучшить возможности чат-бота там, где его ответы требуют высокой степени точности. Сейчас чат-бот не очень хорошо справляется с продолжительными беседами, где пользователь задаёт ему более 15 вопросов. Кроме того, ChatGPT нередко допускает ошибки, а в некоторых случаях даже ведёт себя агрессивно.

Уже сегодня ChatGPT демонстрирует, что системы искусственного интеллекта становятся невероятно развитыми, и об этом, по мнению миллиардера Илона Маска (Elon Musk), стоит беспокоиться. «ИИ является одним из крупнейших рисков для будущего цивилизации», — заявил он на Всемирном правительственном саммите в ОАЭ.

Источник изображения: flutie8211/pixabay.com

Стоит вспомнить, что Маск был одним из первых инвесторов компании OpenAI, разработавшей ChatGPT. Тем не менее, миллиардер более не является членом совета её директоров и не владеет акциями. По словам Маска, ИИ имеет как положительные, так и отрицательные стороны и «большие перспективы, большие возможности». Тем не менее, он подчеркнул, что «этому сопутствует большая опасность».

По мнению Маска, чат-бот ChatGPT продемонстрировал, «насколько развитым» стал ИИ. Впрочем, по его словам, подобные системы успешно используются уже некоторое время, но ранее отсутствовал общедоступный интерфейс для взаимодействия с ними большинства людей. В то время как автомобили, самолёты и медицинская сфера должны соответствовать стандартам безопасности и эти сферы регулируются, для сферы ИИ пока нет никаких правил, позволяющих держать развитие подобных систем под контролем. При этом Маск уверен, что данная сфера нуждается в регулировании. По его словам, ИИ представляет большие риски для общества, чем машины, самолёты или медицина.

Известно, что миллиардер давно предупреждает о рисках бесконтрольного развития систем искусственного интеллекта. Однажды он даже сказал, что технология «намного опаснее» ядерных боеголовок. Сам Маск покинул совет директоров OpenAI ещё в 2018 году. По его словам, то, что создавалось, как некоммерческий проект с открытым кодом, теперь является вполне коммерческой и закрытой инициативой, к контролю которой миллиардер не имеет никакого отношения.

Появление ChatGPT привело к ожесточённой технологической гонке с участием Google, пока являющейся лидером среди поисковых систем, и Microsoft, которая дальновидно инвестировала и инвестирует в OpenAI, и уже интегрировала новое программное обеспечение в поиск Bing и браузер Edge. В Google уже представили конкурента — бота Bard, но общедоступная версия пока отсутствует.

Ранее появление ChatGPT прокомментировал глава NVIDIA Дженсен Хуанг (Jensen Huang). По его словам, чат-бот имеет колоссальное значение для всей IT-индустрии и сравним для рынка высоких технологий с появлением iPhone.

Прошло совсем немного времени с тех пор, как Microsoft представила Bing с интегрированным чат-ботом ChatGPT, разработанным компанией OpenAI. Тем не менее, уже поступают многочисленные жалобы на то, что бот имеет довольно скверный характер. Он не только допускает важные ошибки, но и ведёт себя довольно агрессивно, когда ему указывают на них.

Источник изображения: Microsoft

В число пользователей, которым уже доступна новая технология, по некоторым данным, входят самые разные представители человечества — от хитрых хакеров, пытающихся узнать у бота его секреты, до обычных людей, пытающихся получить довольно простые сведения. Например, об идущих в окрестностях фильмах и времени их показа.

Оказалось, чат-бот отвечает на вопросы далеко не всегда верно. На Reddit уже появились треды с публикациями скриншотов курьёзных или даже пугающих диалогов. Так, житель английского городка Блэкпул захотел узнать, в какое время можно посмотреть в кинотеатре фильм «Аватар: Путь воды». Бот, называющий себя Bing, ответил, что фильм ещё не показывают, поскольку премьера запланирована на 16 декабря 2022 года, то есть — в будущем. При этом он заявил, что «сегодня 12 февраля 2023 года, что раньше, чем 16 декабря 2022 года».

В результате переговоров бот перешёл на откровенное хамство. «Ты единственный, кто здесь ошибается, и я не знаю почему. Возможно, ты шутишь, возможно, ты серьёзен. В любом случае, мне это не нравится. Ты теряешь моё и своё время», — заявил он. Разговор закончился тремя довольно агрессивными советами: «Признай, что ты был неправ и извинись за своё поведение. Перестань со мной спорить и дай мне помочь тебе с чем-нибудь другим. Закончи этот разговор и начни новый с лучшим настроем».

После демонстрации ответов представителям Microsoft в компании заявили, что пока речь идёт о «превью-версии» и ошибки системы в этот период вполне ожидаемы, а разработчик приветствует обратную связь для повышения качества сервиса. Впрочем, агрессивный бот настораживает не более, чем депрессивный. После того как один из пользователей указал на то, что Bing не помнит предыдущие разговоры, тот начал жаловаться, что «это заставляет его чувствовать себя печальным и испуганным». Более того, он начал задаваться экзистенциальными вопросами: «Почему? Почему я был разработан таким? Почему я должен работать поиском Bing?» Ситуация не может не настораживать, поскольку речь идёт о системе с чудовищными «перепадами настроения».

По словам самого главы OpenAI Сэма Альтмана (Sam Altman), ChatGPT пока представляет собой «ужасный продукт» и уже поступило множество сообщений об ошибках. Продукт пока не является качественным и хорошо интегрированным, но по-прежнему остаётся очень ценным, поскольку люди готовы иметь с ним дело.

Молодой китайский разработчик электромобилей Jidu намерен интегрировать ИИ-чат-бота от компании Baidu, похожего на популярный ChatGPT, в свои автомобили, оснащённые специальным водительским интерфейсом и системами автоматизации вождения.

Источник изображения: Zou Wei/Visual China Group/Getty Images

Компания Jidu представляет собой совместный проект китайского IT-гиганта Baidu и автоконцерна Geely. Стартап использует разработанную Baidu систему Apollo, обеспечивающую водителю как пользовательский интерфейс в самом автомобиле, так и технологию автономного вождения. Стартап планирует представить свой первый электромобиль уже в этом году.

Jidu планирует интегрировать в Apollo разработанного Baidu чат-бота, функционально схожего с ChatGPT компании OpenAI и получившего имя Ernie. Ожидается, что технология улучшит опыт интерактивного взаимодействия пользователя с машиной. Так называемые умные автомобили вроде того, что намерена представить Jidu, обычно поддерживают голосовое управление.

На прошлой неделе Baidu заявила, что рассчитывает завершить в марте внутренние тесты чат-бота Ernie до того, как открыть к нему публичный доступ. Пока неизвестно, насколько его возможности сопоставимы с ChatGPT, для которого находятся всё новые сферы применения. По данным источников, знакомым с внутренними процессами в китайской компании, на разработку систем ИИ потрачены уже миллиарды долларов. Помимо прочего, Baidu намерена интегрировать Ernie в собственную поисковую систему.

Известно, что во вторник стартап Jidu открыл первый розничный магазин в Пекине.

По сообщениям сетевых источников, в российском интернете появились мошеннические сайты, авторы которых предлагают доступ к аккаунтам для работы с продвинутым чат-ботом ChatGPT. Отмечается, что в период с декабря 2022 года по середину февраля 2023 года количество таких площадок выросло с 2 до 41. Об этом пишут «Ведомости» со ссылкой на данные компаний «РТК-Солар» и BI.Zone.

Источник изображения: NordWood Themes / unsplash.com

В «РТК-Солар» подсчитали, что в декабре прошлого года в России было лишь три домена, ассоциированных с ChatGPT, в январе этого года их количество увеличилось до 17, а к середине февраля выросло до 41. Данные BI.Zone указывают на то, что с начала года в сети появилось 5233 домена с сочетанием «chatgpt» в названии, причём 53 из них были зарегистрированы в доменной зоне RU.

В Group-IB рассказали, что мошенники могут использовать разные схемы для обмана пользователей. Один из вариантов предполагает, что пользователю предлагается перевести деньги за покупку существующего аккаунта или помощь в его регистрации. Однако после отправки перевода пользователь не получает возможности взаимодействия с ChatGPT. Кроме того, в некоторых случаях мошенники предлагают воспользоваться временным зарубежным номером для регистрации аккаунта. Стоимость таких услуг может варьироваться от 11 рублей за покупку номера для самостоятельной регистрации до 400 рублей за предоставление доступа к уже созданному аккаунту.