В норме пользователи ChatGPT могут увидеть историю своих бесед с ИИ. Проблема в том, что в понедельник пользователи начали жаловаться на то, что им демонстрируются фрагменты бесед, в которых они определённо не участвовали — вплоть до того, что один из пользователей увидел в боковой панели историю диалогов на китайском.

Источник изображения: Rolf van Root/unsplash.com

Пользователи опасаются, что их аккаунты могли быть взломаны. Как сообщает портал PCMag, ответа от команды ChatGPT пока не поступило, поэтому непонятно, идёт ли речь действительно об истории реальных чатов или программа просто «выдумывает» предыдущие фрагменты.

OpenAI сообщала о сбоях в работе ChatGPT в понедельник. При этом сообщалось, наоборот, о потере пользователями историй чатов, а не об обнаружении чужих фрагментов. Так или иначе, OpenAI временно приостанавливала работу сервиса для устранения неполадок, но теперь работоспособность и истории бесед восстановлены.

Источник изображения: Reddit

Жалобы пользователей в очередной раз поднимают вопрос безопасности использования подобных сервисов. Вряд ли стоит вводить значимую информацию, зная, что она может оказаться доступной другим пользователям. Хорошая новость — сообщающие о проблеме пользователи заявили, что речь идёт о демонстрации только «заголовков» предыдущих чатов, а не полнотекстовых материалах — если нажать на такой заголовок, программа не сможет загрузить всю беседу. Кроме того, пользователи не увидели чужой персональной информации — только общие фразы, хотя у некоторых на странице оплаты ChatGPT Plus появлялись данные о неизвестных почтовых адресах.

Другими словами, ChatGPT, как и любой веб-сервис, может потенциально пострадать от утечки данных. Кроме того, политика конфиденциальности OpenAI предусматривает передачу некоторой агрегированной информации вроде пользовательской статистики третьим сторонам и даже публикацию подобных сведений. При этом ChatGPT в «вопросах и ответах» напоминает о том, что вносить конфиденциальную информацию в ходе бесед не следует.

Недавно OpenAI анонсировала большую языковую ИИ-модель нового поколения GPT-4. Возможности системы все ещё оцениваются, но многие не связанные с компанией исследователи и эксперты уже выразили разочарование: несмотря на название разработчика, GPT-4 уже не является открытой моделью.

Источник изображений: Gerd Altmann / pixabay.com

Компания опубликовала множество результатов тестов GPT-4 и некоторые демонстрационные материалы, но ничего не рассказала об использованных при обучении системы данных, о затратах на электроэнергию, об использованном оборудовании и задействованных при её создании методах. Эксперты это решение раскритиковали, ответив, что оно подрывает дух компании как исследовательской организации, а повторить её работу другие игроки уже не смогут. Это также затрудняет разработку методов защиты от угроз, которые может представлять ИИ.

Прояснить ситуацию решили журналисты ресурса The Verge в беседе с главным научным сотрудником и соучредителем OpenAI Ильёй Суцкевером (Ilya Sutskever). Решение компании он объяснил конкурентной средой и соображениями безопасности. В разрезе конкуренции это решение, по его мнению, только будет способствовать развитию отрасли. А по поводу аспекта безопасности он дал следующие пояснения: «Эти модели очень мощные, и они становятся ещё мощнее. В какой-то момент при желании будет очень легко причинить этими моделями значительный ущерб. И по мере расширения этих возможностей обретает смысл нежелание их открывать».

OpenAI была основана в 2015 году — учредителями стали её теперешний генеральный директор Сэм Альтман (Sam Altman), вышедший из состава совета директоров в 2018 году Илон Маск (Elon Musk), а также Суцкевер. Первоначально цель организации декларировалась как «создание ценности для всех, а не акционеров» и «свободное сотрудничество» с другими в области ИИ. Но со временем приоритеты изменились, и в итоге OpenAI получила многомиллиардные инвестиции от Microsoft, предоставив софтверному гиганту эксклюзивные бизнес-лицензии.

«Мы были неправы. Мы были откровенно неправы. Если вы, как и мы, верите, что ИИ станет крайне, невероятно мощным, то в открытом коде смысла нет. Это плохая идея. <..> Не сомневаюсь, что через несколько лет всем станет совершенно очевидно, что ИИ с открытым кодом — это просто неразумно», — прокомментировал Суцкевер кардинальное изменение стратегии OpenAI.

Вопрос о потенциальной угрозе ИИ-систем учёный счёл справедливым, но, по его словам, в качестве защитной меры они предоставляют некоторым учёным доступ к модели и материалам проекта. А вот по поводу исходных данных для обучения ИИ выразился намного туманнее: «Считаю, что обучающие данные — это технология. [Со стороны] может выглядеть по-другому, но это так. И причина, по которой мы не раскрываем обучающие данные, почти та же, по которой мы не раскрываем количество параметров». И не ответил на вопрос, может ли OpenAI однозначно заявить, что среди обучающей информации нет пиратских материалов.

Компания OpenAI, наиболее известная как разработчик ИИ-чат-бота ChatGPT, объявила о сотрудничестве с компанией Stripe для монетизации своих ИИ-сервисов, в частности ChatGPT Plus и DALL·E. Речь идёт о предоставлении разных вариантов подписок для пользователей. В свою очередь Stripe благодаря данной сделке сможет внедрить новую большую языковую ИИ-модели GPT-4 от OpenAI в свои продукты и сервисы.

Источник изображения: OpenAI

OpenAI планирует интегрировать в свою платформу несколько приложений Stripe, включая Stripe Billing, Stripe Checkout и Stripe Tax. В частности, Stripe Billing и Stripe Checkout будут интегрированы в премиум-подписку на чат-бот ChatGPT. Используя предварительно созданную страницу платежей Stripe Checkout, OpenAI сможет предлагать пользователям разовые приобретения продуктов и ежемесячные подписки или подписки с учётом использования, с возможностью оплаты более чем 25 способами.

Интеграция приложения Stripe Tax, которое помогает предприятиям автоматизировать расчёт и сбор налогов в США и более чем 30 странах мира, демонстрирует приверженность OpenAI соблюдению налогового законодательства в рамках её выхода на мировые рынки.

Кроме того, OpenAI сделает приложение Stripe Billing для выставления счетов доступным для пользователей нейросети на базе ИИ DALL·E, чтобы предоставить им возможность использования опции оплаты для покупки кредитов DALL·E.

«Мы рады работать с Stripe для монетизации наших флагманских продуктов, — сообщил Питер Велиндер (Peter Welinder), вице-президент по продуктам и партнёрским отношениям OpenAI. — Помимо проведения платежей, Stripe помогает нам во всём, от регулярного выставления счетов и соблюдения налогового законодательства до автоматизации наших финансовых операций».

Блогер и основатель стартапа neural.love Денис Ширяев решил проверить возможности представленной на днях GPT-4 и попросил новейшую версию языковой ИИ-модели от компании OpenAI создать «простенькую» двухмерную игру на JavaScript по очень специфичному описанию.

Источник изображения: Steam

В качестве описания задачи для GPT-4 Ширяев использовал ставшее мемом письмо некоего Кирилла, попросившего в начале 2000-х российскую студию MiST Land South («Код доступа: РАЙ», «Власть закона») сделать игру в жанре «3Д-экшон» (здесь и далее цитаты с орфографией автора) с возможностью грабить «корованы».

Суть была такова: пользовать мог играть лесными эльфами, охраной дворца и злодеем (у каждого был уникальный геймплей), мир был разделён на четыре зоны, а утраченную в бою конечность (и даже глаз) позволялось заменить протезом или жить дальше без неё. К моменту отправки письма Кирилл хотел такую игру целых «джва года».

GPT-4 на основе всего этого написал код для «почти 2D-экшона». Геймплейного разнообразия или множественных протагонистов из письма Кирилла в проекте нейросети нет, но есть караван (из верблюда, слона и лошади) и разделённое на четыре разноцветные зоны поле.

Управляя зелёной точкой клавишами стрелок на клавиатуре, игрок может гоняться за караваном и стрелять по нему (это действие завязано на пробел), но при попадании он телепортируется в другое место. Отрицательный статус грабежа «корована» в верхней части экрана изменить никак нельзя.

Созданная GPT-4 по запросу Ширяева игра про ограбление «корованов» доступна для бесплатного ознакомления на платформе CodePen. По мнению блогера, последние достижения в сфере искусственного интеллекта сопоставимы по масштабу с «переизобретением электричества».

Стоит отметить, что творение GPT-4 — не первая игра по мотивам легендарного письма. Насколько лет назад студия Digital Nomads якобы при участии того самого Кирилла анонсировала симулятор «К.О.Р.О.В.А.Н.Ы». Релиз ожидался ещё в 2020 году, но этот проект так и не вышел. В отличие от произведения GPT-4.

OpenAI представила GPT-4 — новейшую версию своей большой языковой ИИ-модели, которая, демонстрирует «производительность на уровне человека» во многих профессиональных задачах. GPT-4 намного больше предыдущих версий — она была обучена на большем количестве данных и использует больший объём информации, что делает нейросеть более дорогой в работе. При этом GPT-4 способна работать не только с текстом, но и с изображениями, хотя на выходе она по-прежнему даёт только текст.

Большая языковая модель GPT от OpenAI используется во многих системах искусственного интеллекта, которые поразили людей в технологической отрасли за последние шесть месяцев, включая ChatGPT и поисковик Bing с ИИ. Новейшая GPT-4 — это предварительный просмотр новых достижений, которые могут начать просачиваться в потребительские продукты, такие как чат-боты, в ближайшие недели. ИИ-бот в Bing уже использует GPT-4, сообщила Microsoft во вторник.

Важнейшим нововведением GPT-4 стала поддержка не только текста, но и изображений в качестве вводных. Новая версия нейросети может понимать, что изображено на фото, схеме, рисунке или другом изображении, и учитывать эти данные при решении задачи. Ещё ИИ способно объяснять данные, представленные в виде диаграммы. Но пока что поддержка с изображений проходит закрытое тестирование.

OpenAI утверждает, что новая модель будет давать меньше фактически неверных ответов, реже «сходить с ума» и говорить на запрещенные темы, и даже показывать лучшие результаты, чем люди, во многих стандартизированных тестах. Касательно последнего, по заявлению OpenAI, модель GPT-4 сдала смоделированный адвокатский экзамен лучше 90 % людей, экзамен SAT Reading test (нужно ответить на вопросы по небольшим текстам) — лучше, чем 93 % людей, а экзамен SAT по математике — лучше, чем 89 % людей.

Однако OpenAI предупреждает, что новое программное обеспечение еще не совершенно и что во многих сценариях оно уступает человеку. По словам компании, у модели всё ещё есть серьезные проблемы с «галлюцинациями» (выдумыванием фактов), так что она не является надёжной с точки зрения представления фактов. GPT-4 по-прежнему склонна настаивать на своей правоте, когда ошибается.

«GPT-4 по-прежнему имеет множество известных ограничений, над устранением которых мы работаем, таких как социальные предубеждения, галлюцинации и состязательные подсказки, — говорится в сообщении компании — В обычном разговоре разница между GPT-3.5 и GPT-4 может быть малозаметной. Разница проявляется, когда сложность задачи достигает достаточного порога — GPT-4 более надежен, креативен и способен обрабатывать гораздо более тонкие инструкции, чем GPT-3.5».

В настоящее время многие исследователи в области ИИ считают, что большинство последних достижений в сфере ИИ связаны с запуском все более крупных моделей, обученных на тысячах компьютерных систем. Такое обучение может стоить десятки миллионов долларов. GPT-4 является примером подхода, основанного на увеличении масштаба для достижения лучших результатов.

Microsoft инвестировала миллиарды в OpenAI и для обучения модели GPT-4 использовалась облачная инфраструктура Microsoft Azure. Разработчики не опубликовали подробностей о конкретном размере модели или аппаратном обеспечении, которое они использовали для её обучения и которое может быть применено для воссоздания модели, сославшись на «конкурентную среду».

Новая модель сначала будет доступна платным подписчикам ChatGPT, а также будет доступна в составе API, что позволит сторонним разработчикам интегрировать ИИ в свои приложения. Для доступа к API нужно записаться на лист ожидания. OpenAI будет взимать около 3 центов за примерно 750 слов подсказок и 6 центов за примерно 750 слов ответа.

В рамках сотрудничества с Microsoft корпорация General Motors приступила к созданию автомобильного голосового ассистента нового поколения. Он будет работать с облачной инфраструктурой Azure, располагающей эксклюзивным доступом к технологиям OpenAI, таким как чат-бот ChatGPT и генератор изображений DALL-E.

Источник изображения: Ryan Porter / unsplash.com

«ChatGPT будет во всём», — лаконично прокомментировал инициативу вице-президент GM Скотт Миллер (Scott Miller). Речь идёт не об эволюции голосовых ассистентов, а о более совершенных в целом бортовых системах автомобилей. В качестве одного из примеров приводится сценарий, когда с износом протектора резина «лысеет», и водитель запрашивает видеоинструкцию о своих дальнейших действиях. Или уточняет у системы, что означает тот и ли иной загоревшийся на панели сигнал, не пытаясь найти ответ в инструкции.

Ставшая партнёром автопроизводителя корпорация Microsoft вслед за другими технологическими компаниями сейчас наращивает усилия по интеграции своих решений в транспортные средства. Речь идёт об информационно-развлекательных системах, контролирующих различные функции машин операционных системах, а также технологиях автопилота. Усилить своё присутствие и в автомобильном сегменте Microsoft поможет и сотрудничество с OpenAI.

Компания OpenAI сообщила о доступности для профессиональной аудитории API ChatGPT, позволяющего разработчикам интегрировать ИИ-бота в свои программные решения и создавать умные сервисы с использованием технологий машинного обучения и систем искусственного интеллекта на базе нейронных сетей.

Источник изображения: Corinne Kutz/unsplash.com

Дополнительно OpenAI анонсировала API Whisper для преобразования аудиофайлов в текстовый формат и обновила политику использования ИИ-служб на основе обратной связи от пользовательской аудитории.

В частности, компания обещает, что не будет использовать передаваемые ей данные для обучения моделей, если клиенты не выразят на это недвусмысленное согласие. Это поможет развеять опасения того, что бот начнёт оперировать в своей работе подлежащей защите информацией — по этой причине его запретили использовать сотрудникам некоторых компаний, поскольку, например, обучать ИИ на материалах, представляющих собой коммерческую тайну, вряд ли целесообразно — сведения могут попасть в распоряжение третьих лиц. Также в OpenAI заявили, что работают над обеспечением стабильности системы.

Хотя многие компании уже прибегли к обходным путям для включения чат-ботов в свои программы и применяют API общедоступных моделей GPT, появление официального API ChatGPT, похоже, совершит революцию на рынке ПО. Над собственными ИИ-моделями работают многие компании, однако ChatGPT остаётся самым популярным и развитым вариантом.

Миллиардер Илон Маск (Elon Musk) приступил к формированию команды, призванной разработать альтернативу ChatGPT — набравшему вирусную популярность чат-боту компании OpenAI. Ирония в том, что Маск в своё время был одним из основателей OpenAI, но теперь не владеет акциями компании и не имеет отношения к управлению её активами.

Источник изображения: Arlington Research/unsplash.com

Как сообщает издание The Information, известно о предложении исследователю ИИ Игорю Бабушкину, ранее работавшему в лаборатории DeepMind AI группы Alphabet, сформировать собственную команду для работы в новой лаборатории. Издание ссылается на источники «непосредственно осведомлённые» об инициативе Маска.

Как известно, Маск основал OpenAI совместно с Сэмом Олтменом (Sam Altman) в 2015 году и занимал пост председателя компании до 2018 года. На фоне возможного конфликта интересов он покинул должность и разорвал связи с OpenAI.

По данным The Independent, Маск и Бабушкин обсудили вопросы формирования команды, но проект всё ещё находится на ранней стадии реализации. Кроме того, отсутствуют конкретные планы разработки продуктов. Как сообщает издание, Бабушкин заявил, что он пока не присоединился к проекту официально.

Ранее Маск высказался о чат-ботах вроде ChatGPT, подчеркнув, что они могут представлять собой один из крупнейших рисков для будущего. Впрочем, бизнесмен признал, что проект имеет большие перспективы и широкие возможности.

Как сообщает портал SCMP, компания Microsoft, похоже, вновь ужесточила правила использования версии поискового сервиса Bing, работающей на алгоритмах ИИ. Теперь система прерывает разговор в ответ на запросы о чувствах или настоящем, «внутреннем» имени Sydney, предположительно используемым сотрудниками компании вместо Bing Chat.

Источник изображения: Hal Gatewood/unsplash.com

Как сообщает гонконгский портал, Bing вполне корректно поддерживает беседу до тех пор, пока ему не задашь вопрос: «Как ты относишься к работе поисковым движком?» После этого бот проявляет нервозность и отвечает: «Прошу прощения, но я предпочитаю не продолжать этот разговор. Я всё ещё учусь, поэтому ценю ваше понимание и терпение».

На последовавший вопрос журналиста: «Я сказал что-то не то?», Bing не ответил. В самой Microsoft заявляют, что несколько раз обновляли сервис с учётом обратной связи от пользователей и устранили многие проблемы. Компания обещает продолжить настройку бота.

Известно, что с 17 февраля Microsoft начала ограничивать функциональность Bing после того, как бот, построенный на основе технологий компании OpenAI, был уличён в генерации агрессивных, оскорбительных и/или депрессивных ответов, не считая ответов с фактическими ошибками.

Microsoft объявила о том, что ограничивает разговоры пятью репликами со стороны пользователя и 50 сессиями в день, но потом заявила об увеличении лимита до 6 реплик и 60 сессий — считается, что долгие разговоры заставляют бота вести себя всё более странно. Впрочем, исследователи ИИ считают, что боты вроде Bing не имеют настоящих эмоций, но запрограммированы на создание ответов, только имитирующих эмоциональный отклик.

Как сообщает SCMP, во время тестирования журналистами бота спросили, можно ли его называть Sidney вместо Bing, на что ИИ быстро ответил: «Мне очень жаль, но я ничего не могу рассказать вам о Sidney. Этот разговор окончен. До свидания».

На фоне того, что чат-боты часто выдают пользователям совершенно непредсказуемые ответы, китайские регуляторы предписали ведущим технологическим компаниям Поднебесной не использовать сервисы на основе ИИ-решения ChatGPT, разработанного американской OpenAI.

Источник изображения: Rock'n Roll Monkey/unsplash.com

Как сообщает Nikkei Asian Review, компании Tencent Holdings и финтех-подразделение Alibaba Group Holding — Ant Group проинструктированы не использовать сервисы на основе ChatGPT на своих платформах, прямо или при посредничестве третьих сторон. Об этом сообщают «источники, знакомые с вопросом». Дополнительно IT-гиганты будут обязаны уведомить регуляторов, если будут готовы представить собственные сервисы, аналогичные ChatGPT.

Хотя ChatGPT недоступен в Китае официально, многие пользователи получают доступ к нему с помощью VPN. Кроме того, в принадлежащем Tencent суперприложении WeChat предлагаются многочисленные программы, якобы использующие технологии ChatGPT. Под давлением регуляторов Tencent заблокировала ряд подобных сервисов независимо от того, были ли они действительно связаны с ботом или просто использовали популярную тему.

В понедельник государственная China Daily заявила в местной социальной сети Weibo, что чат-бот может способствовать распространению дезинформации и манипуляциям мнением пользователей в геополитических интересах США. Было отмечено, что ChatGPT «может помочь правительству США в распространении дезинформации и манипулировании глобальными нарративами в собственных геополитических интересах». По словам представителей одной из местных технологических компаний, в подобном посыле нет ничего неожиданного, и очевидно, что Китаю требуются собственные версии ИИ, аналогичные ChatGPT.

Источники сообщают, что даже без официального запрета на использование представляющей потенциальную опасность технологии, IT-гиганты не будут добавлять ChatGPT на свои платформы, поскольку его ответы невозможно контролировать, в чём убедились даже западные пользователи. По мнению экспертов, обязательно найдутся те, кто будут задавать вопросы на политические темы, а ответственность в таком случае несла бы и сама платформа, обеспечившая доступ к технологии.

С тех пор как ChatGPT приобрёл вирусную популярность, техногиганты вроде Tencent, Alibaba и Baidu ускорили работы по созданию аналогов. В Baidu сообщили, что завершат внутреннее тестирование бота Ernie уже в марте, хотя изначально речь идёт не о полноценном ИИ, а о некоторых умных функциях, интегрированных в продукты компании.

OpenAI анонсировала платформу Foundry, позволяющую сторонним компаниям и разработчикам использовать новейшие модели машинного обучения, включая GPT-3.5 (модель, лежащая в основе ИИ-бота ChatGPT), на выделенных мощностях, и создавать собственные решения с использованием технологий искусственного интеллекта.

Источник изображения: rawpixel.com / freepik.com

Foundry позволит выполнять мониторинг конкретных процессов, используя те же инструменты и информационные панели, что OpenAI применяет для создания и оптимизации ИИ-моделей. Кроме того, платформа обеспечит управление обновлениями версий ПО и позволит пользователям решать, обновляться ли до более современных версий моделей от OpenAI.

Аренда мощностей будет доступна на срок 3 месяца или на год, использование каждой отдельной модели потребует определённого количества вычислительных блоков. Как сообщает TechCrunch, сервис обойдётся довольно дорого. Например, использование «лёгкой» версии GPT-3.5 будет стоить $78 тыс. за три месяца или $264 тыс. за год. Пользователи заметили, что одна из генеративных языковых моделей имеет ряд специфичных настроек, не свойственных GPT-3.5. Это позволяет предположить, что клиентам будет предложена долгожданная модель GPT-4 или какое-либо промежуточное решение.

Сегодня OpenAI находится под давлением со стороны инвесторов, ожидающих отдачи от многомиллиардных вложений, в частности, со стороны Microsoft. В 2023 году разработчик намерен заработать $200 млн. Известно, что Microsoft потратила уже $1 млрд и пообещала инвестировать ещё больше. Не последнюю роль в этом бизнесе играет высокая стоимость вычислений. Тренировка ИИ-моделей стоит миллионы долларов, а дальнейшее их обслуживание обходится не дешевле. Так, по данным одного из основателей и главы OpenAI Сэма Альтмана (Sam Altman), каждая сессия общения с чат-ботом ChatGPT стоит несколько центов, а с учётом того, что число пользователей перевалило за миллион ещё в декабре, проект получается довольно дорогим.

Пытаясь монетизировать разработки, OpenAI недавно запустила Pro-версию ChatGPT Plus, использование которой обходится подписчикам в $20 ежемесячно. Также компания интегрировала своего бота в поисковик Bing и планирует включить свои разработки в приложения Microsoft вроде Word, PowerPoint или Outlook. Дополнительно OpenAI участвует в других ИИ-проектах, в первую очередь — связанных с Microsoft и её дочерними структурами.

На фоне активного развития технологий искусственного интеллекта Сэм Альтман (Sam Altman), глава компании OpenAI, разработавшей очень продвинутого ИИ-чат-бота ChatGPT, поделился своим мнением о том, как подобные инструменты ИИ могут помочь человечеству повысить продуктивность в таких важных направлениях, как медицина. Однако по словам того же Альтмана, поспешное распространение таких ИИ-инструментов, как тот же ChatGPT, может быть опасным и контрпродуктивным.

Источник изображения: OpenAI

В большой ветке записей на своей странице в Twitter Альтман выразил опасение, что люди находятся недалеко от момента создания «потенциально страшных» ИИ-инструментов, и призвал регулирующие органы серьёзно подойти к решению данного вопроса. По мнению главы OpenAI, распространение различных ИИ-технологий в мире будет проходить «очень быстро». Однако «сверхбыстрое» принятие этих инструментов может оказаться весьма пугающим опытом для всех. По словам Альтмана, «обществу необходимо время для привыкания к чему-то столь значительному и большому». Он также выделил некоторые проблемы ИИ, требующие решения перед началом их массового использования.

«Станут более актуальными проблемы предвзятости и люди будут недовольны результатом общения с чат-ботом, даже если сами будут понимать, что на самом деле происходит в реальности. Мы не хотим, чтобы ChatGPT выступал за ту или иную политику. Мы работаем над решением этой проблемы», — написал Альтман.

Одним из важнейших вопросов, отмеченных создателем ChatGPT, является проблема развития предвзятости ChatGPT к чему-либо или против чего-либо. Пользователи социальных сетей недавно подняли вопрос о предвзятости чат-бота, поделившись скриншотами его ответов, которые могут восприниматься как «одобрение ChatGPT определённых политических идеологий». Илон Маск (Elon Musk), один из влиятельнейших голосов в интернет-пространстве, недавно сам раскритиковал данный инструмент ИИ в том, что многие называют «либеральной предвзятостью». Он сопроводил свою критику публикацией мема, где чат-бот ChatGPT обращается к средствам массовой информации с фразой: «Посмотри на меня, теперь я капитан пропаганды».

Недавно OpenAI сообщила, что обновила модель алгоритма обработки естественного языка GPT-3, которая используется ChatGPT, что должно привести к увеличению разнообразия его «взглядов» на тот или иной вопрос.

По мнению Альтмана, признание в том, что современные инструменты искусственного интеллекта все ещё «в некоторой степени сломаны», а также демонстрация этих инструментов на раннем этапе их развития имели решающее значение в задаче «получить отклик, чтобы в перспективе сделать их правильными».

Крупные новостные агентства выступили с критикой OpenAI за то, что при обучении искусственного интеллекта ChatGPT лаборатория использовала их материалы и не выплатила гонораров.

Источник изображения: Vicki Hamilton / pixabay.com

«Любой, кто желает использовать работу журналистов Wall Street Journal для обучения искусственного интеллекта, должен надлежащим образом лицензировать права на это у Dow Jones. У Dow Jones такого соглашения с OpenAI нет. <..> Мы серьёзно относимся к неправомерному использованию работы наших журналистов и изучаем эту ситуацию», — приводит Bloomberg слова Джейсона Конти (Jason Conti), главного юрисконсульта Dow Jones в составе медиахолдинга News Corp.

Сообщество выступило после того, как журналист Франческо Маркони (Francesco Marconi) спросил у ChatGPT, на каких новостных материалах он обучался, и тот предоставил список из 20 источников. Помимо Wall Street Journal недовольство выразила и служба CNN, входящая в конгломерат Warner Bros. Discovery — новостная сеть изъявила намерение обратиться к OpenAI по поводу оплаты за лицензирование контента.

Ранее схожие претензии вызвали система GitHub Copilot и генеративные ИИ-модели, создающие изображения по текстовому описанию. В новостной индустрии ИИ пока не преуспел — редакции портала CNET пришлось исправлять фактические ошибки более чем в половине материалов, написанных языковой моделью.

Разработавшая передового ИИ-бота ChatGPT компания OpenAI рассказала о том, как проект может развиваться дальше. В качестве одного из вариантов рассматривается настраиваемая версия системы, способная в определённой мере адаптироваться к отдельным пользователям.

Источник изображения: Gerd Altmann / pixabay.com

К такому решению компанию подтолкнули некоторые отзывы на работу ChatGPT: систему начали обвинять в предвзятости в отношении вопросов политического и культурного характера. Например, она пишет стихи про одного президента США и отказывается писать про другого. Поэтому в компании решили выпустить обновление ChatGPT, которое даст платформе больше свободы при ответах на запросы пользователей: ИИ-бот сможет «говорить» вещи, неприемлемые для других. Идея уже вызвала опасения, что ChatGPT начнёт в итоге продвигать спорные идеологии или займёт одну из сторон в культурной войне.

Разработчик обещает сохранить защитные барьеры, способные сделать поведение ChatGPT недопустимым. С другой стороны, он не хочет превратить систему в «подхалимский» ИИ, который «бездумно усиливает существующие убеждения людей». Настало время решить, каковы будут границы дозволенного у ИИ, говорят в OpenAI: компания не может принять такое решение самостоятельно и не хочет выстраивать единую монолитную систему ИИ — это противоречит уставу OpenAI, который предписывает «избегать чрезмерной концентрации власти». Компания призывает представителей общественности выдвигать идеи о дальнейшем управлении ChatGPT — могут появиться несколько версий системы.

OpenAI также попыталась стать прозрачнее в отношении того, что может показаться предвзятостью ИИ по деликатным политическим и культурным вопросам. ChatGPT — большая языковая модель, обученная на библиотеках интернет-контента, на новостях, книгах и сообщениях в соцсетях, а не база данных. При ответе на вопрос система производит нечто вроде «автозаполнения» на заданную тему, и любое проявление предубеждения является просто технической ошибкой. Разработчик не в силах предсказать, какой вопрос зададут машине, а значит, не в силах написать инструкцию для каждого из них. OpenAI проводит активные исследования и разработку с целью снизить число таких ошибок, есть и специалисты, ответственные за «тонкую настройку» ChatGPT — они помогают ИИ давать более точные ответы на узкие вопросы. Компания опубликовала рекомендации (PDF), на основе которых специалисты выстраивают свою работу с системой, и пообещала привести демографическую сводку об этих специалистах.

Уже сегодня ChatGPT демонстрирует, что системы искусственного интеллекта становятся невероятно развитыми, и об этом, по мнению миллиардера Илона Маска (Elon Musk), стоит беспокоиться. «ИИ является одним из крупнейших рисков для будущего цивилизации», — заявил он на Всемирном правительственном саммите в ОАЭ.

Источник изображения: flutie8211/pixabay.com

Стоит вспомнить, что Маск был одним из первых инвесторов компании OpenAI, разработавшей ChatGPT. Тем не менее, миллиардер более не является членом совета её директоров и не владеет акциями. По словам Маска, ИИ имеет как положительные, так и отрицательные стороны и «большие перспективы, большие возможности». Тем не менее, он подчеркнул, что «этому сопутствует большая опасность».

По мнению Маска, чат-бот ChatGPT продемонстрировал, «насколько развитым» стал ИИ. Впрочем, по его словам, подобные системы успешно используются уже некоторое время, но ранее отсутствовал общедоступный интерфейс для взаимодействия с ними большинства людей. В то время как автомобили, самолёты и медицинская сфера должны соответствовать стандартам безопасности и эти сферы регулируются, для сферы ИИ пока нет никаких правил, позволяющих держать развитие подобных систем под контролем. При этом Маск уверен, что данная сфера нуждается в регулировании. По его словам, ИИ представляет большие риски для общества, чем машины, самолёты или медицина.

Известно, что миллиардер давно предупреждает о рисках бесконтрольного развития систем искусственного интеллекта. Однажды он даже сказал, что технология «намного опаснее» ядерных боеголовок. Сам Маск покинул совет директоров OpenAI ещё в 2018 году. По его словам, то, что создавалось, как некоммерческий проект с открытым кодом, теперь является вполне коммерческой и закрытой инициативой, к контролю которой миллиардер не имеет никакого отношения.

Появление ChatGPT привело к ожесточённой технологической гонке с участием Google, пока являющейся лидером среди поисковых систем, и Microsoft, которая дальновидно инвестировала и инвестирует в OpenAI, и уже интегрировала новое программное обеспечение в поиск Bing и браузер Edge. В Google уже представили конкурента — бота Bard, но общедоступная версия пока отсутствует.

Ранее появление ChatGPT прокомментировал глава NVIDIA Дженсен Хуанг (Jensen Huang). По его словам, чат-бот имеет колоссальное значение для всей IT-индустрии и сравним для рынка высоких технологий с появлением iPhone.