Пользователь Reddit представил модификацию The Elder Scrolls V: Skyrim, интрегрирующую чат-бот ChatGPT в игру. Так, NPC стали понимать, где они и кто они, общаться на различные темы, а также распознавать предметы и время суток. «Это будущее гейминга», — сказал один из комментаторов.

Источник изображения: Bethesda Softworks

Art_from_the_Machine написал в социальной сети, что модификация задействует ChatGPT, xVASynth и Whisper. Чат-бот генерирует ответы на вопросы игрока, при этом учитывает биографию персонажа, время суток и местоположение, а также помнит предыдущие разговоры благодаря базовой системе памяти. Моддер отметил, что ChatGPT уже знал многое из The Elder Scrolls V: Skyrim — в некоторых случаях для корректной работы чат-боту хватало лишь имени NPC в качестве контекста.

Система распознавания речи Whisper используется для преобразования голоса в текст, чтобы общаться с персонажами The Elder Scrolls V: Skyrim, а xVASynth позволяет озвучить полученный текст внутриигровым голосом. В ролике также продемонстрировано, что NPC могут распознавать предметы, которые игрок им показывает.

ChatGPT in Skyrim VR with lip synced voice generation
by u/Art_from_the_Machine in singularity

Пользователи Reddit встретили модификацию с восторгом, однако и указали на проблемы: самой значительной из них считается большая задержка ответа персонажей.

Члены Европейского парламента (MEP) обсуждают новый законопроект, согласно которому все компании с системами генеративного ИИ будут обязаны предоставить всю информацию, в том числе защищённые авторским правом материалы, используемые для обучения их моделей.

Источник изображения: freepik

Ещё в феврале генеративный ИИ не фигурировал в планах законодателей ЕС по регулированию технологий искусственного интеллекта, таких как ChatGPT. Однако к середине апреля члены MEP попытались обновить эти правила, чтобы не отставать от общественного интереса к генеративному ИИ, который вызвал трепет и тревогу с тех пор, как OpenAI представила ChatGPT шесть месяцев назад.

17 апреля дюжина депутатов Европарламента, участвовавших в разработке законопроекта, подписала открытое письмо, в котором призвала мировых лидеров провести саммит, чтобы найти способы контролировать разработку передового ИИ. Однако в тот же день двое из них — Драгос Тудораче (Dragos Tudorache) и Брандо Бенифеи (Brando Benifei) предложили изменения, которые заставят компании с системами генеративного ИИ раскрывать любые защищённые авторским правом материалы, используемые для обучения их моделей. По словам источников, это предложение получило межпартийную поддержку.

Комитет проголосует за новый законопроект 11 мая и в случае успеха перейдёт к следующему этапу переговоров – трилогу, где страны ЕС обсудят содержание с Европейской комиссией и парламентом.

В соответствии с новыми предложениями, нацеленными на большие языковые модели, такие компании, как OpenAI, должны будут раскрывать любые защищённые авторским правом материалы, используемые для обучения их систем: книги, фотографии, видео и многое другое.

Компания OpenAI, разработавшая ChatGPT, революционный чат-бот на основе искусственного интеллекта, привлекла средства от новых инвесторов. Среди них числятся венчурные компании Tiger Global, Sequoia Capital, Andreessen Horowitz, Thrive и K2 Global, пишет TechCrunch.

Источник изображения: ilgmyzin / unsplash.com

Новые инвесторы вложили в OpenAI около $300 млн при оценке компании в $27–29 млрд — и это без учёта тех $10 млрд, которые поступили от Microsoft в рамках эксклюзивного соглашения. Последний инвестиционный раунд предположительно закрывает тендерное предложение, которое готовилось ещё в январе, хотя OpenAI от комментариев пока отказывается. К настоящему моменту внешним инвесторам принадлежат около 30 % компании.

В OpenAI есть множество подразделений, занимающихся разработкой технологий искусственного интеллекта. Больше всего внимания привлекло направление GPT (Generative Pre-trained Transformer) — семейство больших языковых моделей, доступ к которым предоставляется сторонним разработчикам через API. Компания также выпустила в конце ноября основанный на этой технологии генеративный сервис ChatGPT, который стал настоящим хитом — только в феврале ресурс посетили более миллиарда пользователей, не считая тех, кто работает с этой службой через сторонние системы. У OpenAI также есть генератор изображений Dall-E и модель распознавания речи Whisper AI.

На этой неделе двухпартийные законодатели США представили закон, который официально запрещает ИИ запускать ядерное оружие. Теперь будет закреплено требование «значительного человеческого контроля» за принятием решения.

Источник изображения: freepik

Несмотря на то, что политика Минобороны США уже гласит, что человек должен быть «в курсе» принятия таких важных решений, новый законопроект «О блокировании ядерных запусков с помощью автономного искусственного интеллекта» кодифицирует эту политику, предотвращая использование федеральных средств для автоматизированного ядерного запуска без «значимого человеческого контроля».

«Поскольку мы живём во все более цифровую эпоху, нам необходимо обеспечить, чтобы только люди обладали властью управлять, контролировать и запускать ядерное оружие, а не роботы», — сказал член палаты парламента.

Чат-боты с искусственным интеллектом, такие как популярный ChatGPT, более продвинутый GPT-4 и Google Bard, генераторы изображений и голосовые клонеры в последние месяцы штурмом захватили мир. Различные эксперты высказывают опасения, что, если не регулировать ситуацию, человечество может столкнуться с серьёзными последствиями. Доцент кафедры общественного здравоохранения Техасского университета A&M Кейсон Шмит (Cason Schmit) сказал, что «законодатели часто слишком медленно адаптируются к быстро меняющейся технологической среде».

Хотя федеральное правительство пока не приняло никакого законодательства, связанного с искусственным интеллектом, с момента распространения чат-ботов с ИИ, группа технических лидеров и экспертов по искусственному интеллекту в марте подписала письмо с просьбой о «немедленной» шестимесячной паузе в разработке систем искусственного интеллекта после GPT-4.

Компания OpenAI объявила о восстановлении доступа к ИИ-боту ChatGPT в Италии, который был заблокирован после того, как Итальянское управление по защите данных (GPDP) в конце марта обвинило ChatGPT в незаконном сборе данных пользователей, а также отсутствии мер по предотвращению доступа несовершеннолетних пользователей к неприемлемым материалам, пишет The Verge со ссылкой на заявление компании, опубликованное Associated Press.

Источник изображения: Sanket Mishra/unsplash.com

Компания сообщила, что внесла изменения, в соответствии с требованиями итальянского регулятора, выдвинутыми им в конце марта. «ChatGPT снова доступен для наших пользователей в Италии, — указано в заявлении OpenAI. — Мы рады приветствовать их обратно и по-прежнему привержены защите их конфиденциальности».

В частности, OpenAI опубликовала новую форму, которую пользователи из ЕС могут использовать для удаления личных данных в соответствии с европейским Общим регламентом защиты данных (GDPR). Также сообщается о новой системе, с помощью которой будет проверяться возраст пользователей при регистрации в Италии. Согласно ресурсу TechCrunch, пользователи в Италии при подключении к ChatGPT теперь видят всплывающее окно, в котором предлагается подтвердить, что им не менее 18 лет, или, если им от 13 до 17 лет, что у них есть согласие родителей или опекуна на использование ChatGPT. Кроме того, опубликовано разъяснение по поводу того, как OpenAI и ChatGPT собирают персональные данные, и информация о том, как связаться с уполномоченным GDPR сотрудником по защите данных.

AP также опубликовал заявление GPDP, в котором сообщается, что регулятор «приветствует меры, реализованные OpenAI», и призывает OpenAI соблюдать остальные требования, выдвинутые им, включая «внедрение системы проверки возраста, а также планирование и проведение информационной кампании по информированию итальянцев о том, что произошло, а также об их праве отказаться от обработки своих личных данных для алгоритмов обучения».

Компания OpenAI добавила новые настройки в интерфейс чат-бота ChatGPT — они позволят пользователям удалять историю общения и обеспечат более удобный способ экспорта данных. Также стартап анонсировал планы выпустить бизнес-версию сервиса ChatGPT Business, которая будет представлена в ближайшие месяцы.

Источник изображения: Priscilla Du Preez/unsplash.com

Как сообщает Silicon Angle, чат-бот сегодня работает на основе большой языковой модели GPT-4, представленной сравнительно недавно. По имеющимся данным, аудитория сервиса перевалила за 100 млн пользователей.

По умолчанию ChatGPT сохраняет как реплики пользователей, так и ответы ИИ. Новые настройки позволят удалять историю чатов после 30 дней. Более того, данные не будут использоваться OpenAI для тренировки языковых моделей. По информации компании, новые элементы управления будут доступны всем пользователям и уже начата их поэтапная интеграция. В OpenAI заявляют, что настройки можно будет изменить в любое время. Если хранение истории будет отключено, беседы с ИИ будут храниться в течение 30 дней и перед удалением инспектироваться в случае необходимости мониторинга злоупотреблений. Помимо нового элемента управления, появилась и возможность упрощённого экспорта контента. Как сообщают в OpenAI, инструмент позволяет пользователям выгружать копии чатов с ИИ и связанную информацию. Экспортировать такие данные можно было и раньше, но на это требовалось несколько больше усилий и времени.

Источник изображения: OpenAI

Одновременно OpenAI объявила о запуске бизнес-версии ChatGPT. Стартап не уточнил, какие дополнительные функции такой вариант чат-бота получит в сравнении с пользовательскими моделями, но сообщил, что пользовательские данные по умолчанию также не будут использоваться для обучения языковых моделей.

Как сообщают в OpenAI, бизнес-версия предназначена для «профессионалов, которым нужно больше контроля над их данными, и компаний, стремящихся управлять работой конечных пользователей». Можно предположить, что сервис будет иметь дополнительные функции, способные помочь администраторам выполнять различные задачи, например — создавать корпоративные аккаунты для сотрудников.

OpenAI уже предлагает представленную в феврале платную версию ChatGPT —ChatGPT Plus обеспечивает более быстрые ответы и приоритетный доступ подписчикам за $20 в месяц. Также OpenAI выпустила API для интеграции компаниями бота в собственное программное обеспечение.

Компания OpenAI, являющаяся разработчиком популярного ИИ-бота ChatGPT, стремится защитить свой бренд, запретив конкурентам использовать аббревиатуру GPT (Generative Pre-trained Transformer). Для этого стартап подал заявку в Бюро по патентам и товарным знакам США (USPTO) с целью сделать аббревиатуру GPT своей интеллектуальной собственностью.

Источник изображения: Zac Wolff / unsplash.com

TreatGPT, MedicalGPT, DateGPT и DirtyGPT — это лишь часть алгоритмов, которые возникли на волне популярности ChatGPT, но созданы другими стартапами. Поэтому вполне логично, что OpenAI хочет отделить собственную разработку от продуктов других компаний. Согласно имеющимся данным, OpenAI подала заявку в USPTO в декабре прошлого года, а в марте этого года попросила ведомство ускорить её рассмотрение, сославшись на появление на рынке множества контрафактных приложений с похожим названием.

Однако это прошение было отклонено, поскольку юристы компании не предоставили «соответствующие документальные доказательства, подтверждающие обоснованность ускоренного рассмотрения заявки». Это означает, что USPTO продолжит рассматривать заявку OpenAI на регистрацию товарного знака GPT в обычном порядке, а это может занять до пяти месяцев.

Тем не менее, отраслевые специалисты считают, что у OpenAI есть все шансы на то, что в конечном счёте заявка на патент будет одобрена, хотя могут возникнуть трудности. Дело в том, что в аббревиатуре GPT содержится слово Transformer, которое ещё в 2017 году использовала Google для названия архитектуры нейросети.

Cisco Systems прогнозирует, что программное обеспечение с искусственным интеллектом, такое как ChatGPT от OpenAI, в перспективе способно значительно усложнить пресечение фишинговых атак, что потребует от компаний внедрения новых средств защиты.

Источник изображения: Freepik

Около 80 % незаконного доступа к компьютерным системам уже осуществляется посредством фишинга, когда хакеры рассылают электронные письма или текстовые сообщения людям, надеясь обманом заставить их открыть вредоносную ссылку. По словам главы подразделения безопасности и совместной работы Cisco, Джиту Патела (Jeetu Patel), инструменты ИИ могут быстро подстроить эти послания, привлекая больше аудитории к хакерским схемам.

До сих пор фишинговые электронные письма было относительно легко обнаружить, потому что они не были персонализированы для отдельных получателей, а также имели орфографические ошибки. С новым поколением атак будет труднее рассчитывать на то, что люди смогут обнаружить уловку, что увеличит угрозу попыток вымогательства и шантажа.

По словам Джиту Патела, решение заключается в оперативном анализе содержимого интернет-трафика и выявлении закономерностей, указывающих на неблагоприятный исход от сообщения. Эксперт заявляет, что компания, занимающая лидирующие позиции на рынке сетевого оборудования, может использовать своё положение для анализа потоков данных. «Безопасность — это игра с данными. Чем больше у вас данных, тем легче обнаружение аномалий», —добавил он.

Новый мод Minecraft AIMobs позволяет игроку разговаривать с мобами (термин Minecraft для NPC): эндерменом, крипером, овцой, сельским жителем, коровой или любым другим живым существом (или нежитью), которые могут рассказать о себе что-то интересное. Уже есть подробная инструкция как это можно сделать.

Источник изображения: Pixabay

Мобам можно задавать общие вопросы, связанные с Minecraft. Они также могут рассказать о мире игры, но ни один из них не может делать ничего, кроме как говорить, и они, кажется, пребывают в блаженном неведении о том, что на самом деле происходит с игроком или с ними. Например, если бить мобов во время разговора с ними, они ничего об этом не скажут. Кроме того, можно продолжать разговор даже с мобами, которые уже умерли, или с мобами, которые были на другом конце мира.

Игрок может поговорить с любым мобом, щёлкнув по нему с нажатой клавишей Shift и начав разговор в чате (всегда доступен по нажатию «t»). Разговор не будет окончен, пока игрок не напишет «до свидания», даже если уйдёт или убьёт моба.

Немногим ранее, проверенные инсайдеры сообщили, что Microsoft провела закрытую демонстрацию искусственного интеллекта, созданного специально для популярной игровой песочницы Minecraft.

AIMobs — это новый мод для Minecraft, основанный на чат-боте ChatGPT и позволяющий разговаривать с со всеми мобами в игре. Подробная инструкция как это можно сделать была подготовлена порталом tomshardware.com. Для работы AIMobs необходим API-ключ OpenAI: для его получения можно зарегистрироваться на сайте OpenAI.

Использование API платно, но при регистрации можно бесплатно получить небольшой бонус для оплаты разговоров. При этом мод работает только с Minecraft Java Edition и требует наличие программы AT Launcher. Далее необходимо настроить AIMobs:

1. Откройте ATLauncher.

2. Нажмите «Vanilla Packs» в правом столбце.

Источник изображений: Tom's Hardware / Future

3. Выберите Minecraft 1.19.3 и Fabric (под загрузчиком), затем нажмите «Create Instance». Последняя версия 1.19.4 пока не работает с модом AIMobs.

Вы получите сообщение, когда экземпляр игры будет создан. Нажмите OK, чтобы закрыть его.

4. Щёлкните «Instances» в правом столбце.

5. Нажмите «Add mods».

6. Выберите «Modrinth» из самого левого выпадающего меню.

7. Введите «aimobs» в поле поиска, нажмите «Ввод», а затем нажмите «Install Fabric API».

8. Нажмите «Add» в появившемся диалоговом окне (если вам нужно было установить мод Fabric).

9. Нажмите «Add» под AIMobs.

10. Нажмите «Add» в диалоговом окне.

Вскоре вы получите уведомление о том, что AIMobs установлен. Если вы не можете закрыть диалоговое окно (что случается довольно часто), щёлкните правой кнопкой мыши значок ATLauncher в трее и выберите «Kill Open Dialogs».

11. Нажмите «Accounts» и «Login with Microsoft», если вы ещё не вошли в систему.

12. На вкладке «Instances» нажмите «Play».

13. Нажмите «Singleplayer», чтобы начать игру. Игра в мультиплеере требует, чтобы мод был установлен на сервере.

14. Нажмите «Create New World» после выбора настроек для вашего мира (или оставьте значения по умолчанию).

15. Введите «/aimobs setkey [APIKEY]» в чате, где «[APIKEY]» — ваш ключ OpenAI API. Чтобы попасть в чат Minecraft, нажмите «t».

16. В чате введите «/aimobs enable».

17. Чтобы начать разговор нажмите «Shift» и кликните по мобу. Затем вы сможете ввести любые вопросы или ответы в чат.

18. Введите «goodbye», когда захотите прекратить разговор с мобом.

Незадолго до того, как Google представила бота Bard общественности, компания просила сотрудников протестировать новый сервис. По данным Bloomberg, технология оказалась настолько «сырой», что вызвала массу внутренней критики, но это не помешало анонсу нового продукта — в гонке за первенство на рынке ИИ компанию не пугает низкокачественная информация, которую он иногда генерирует.

Источник изображения: Google

Как сообщает издание со ссылкой на бывших и действующих сотрудников Google, в 2021 году IT-гигант вдвое увеличил команду, занимающуюся этичностью ИИ-систем, но после дебюта ChatGPT компании OpenAI в ноябре 2022 года, любая этика отошла на второй план — разработчик намерен внедрить генеративный ИИ во все свои важнейшие инструменты в ближайшие месяцы. По данным сотрудников, группа, отслеживавшая этичность ИИ-решений, лишена полномочий и «деморализована».

В Google рассчитывают придать второе дыхание своему поисковому бизнесу и интегрировать ИИ в огромное число смартфонов и домохозяйств до того, как это сделают OpenAI, Microsoft или другие конкуренты, а этика смещена на задний план. Впрочем, в самой Google заявляют журналистам, что «ответственный» ИИ является приоритетом для компании. По данным источников в Google, если раньше компания осторожнее относилась к внедрению ИИ-инструментов в свои продукты, то после дебюта ChatGPT она проявила большую готовность идти на риск, а называя свои продукты «экспериментальными», рассчитывает на снисходительность общественности.

В компании существует система оценки продуктов в некоторых важных категориях. И если в области обеспечения безопасности детей ПО должно получать 100 %, то добиваться совершенства в других сферах не обязательно. Например, Bard представили несмотря на возражения и замечания тысяч сотрудников.

Точкой невозврата стало появление ChatGPT, поставившего под серьёзную угрозу бизнес Google. Теперь компания представила помимо Bard целый ряд инструментов с ИИ, правда, пока они доступны не во всех регионах.

Одним из этапов работы Google в сфере ИИ стало отстранение руководства подразделения, занимающегося вопросами этики искусственного интеллекта, что привело к уходу ряда сотрудников. После этого Google поспешила компенсировать репутационные потери, удвоив штат команды, но оставшиеся специалисты не могут выполнять возложенные на них задачи и фактически лишены права голоса. По словам одного из сотрудников Google, «если вы хотите остаться в компании, вам придётся служить системе и не противоречить ей».

Некоторые пользователи интернета начали общаться с основанным на алгоритмах искусственного интеллекта (ИИ) чат-ботом ChatGPT вместо походов к психотерапевту. Эксперты предупреждают, что последствия такой практики могут быть непредсказуемыми: есть вопросы к конфиденциальности сервиса и этическим принципам ИИ.

Источник изображения: Alexander Pemberton / unsplash.com

О своём опыте общения с ИИ агентству Bloomberg рассказал Майло Ван Слик (Milo Van Slyck), работающий помощником юриста в Чарльстоне (США, шт. Южная Каролина) — у него нестандартный подход к собственной идентичности, который не могут принять его родители, придерживающиеся характерных для южного штата традиционных ценностей. Пропустив встречу со своим психотерапевтом в начале апреля, Ван Слик решил обратиться к ChatGPT и обнаружил, что общение с ИИ дало ему ощущение психологического комфорта.

«Когда снова увидитесь с родителями, важно будет расставить приоритеты в ваших потребностях и благополучии. Подумайте, что вам нужно, чтобы ощущать комфорт и безопасность в их присутствии. Это нормально — устанавливать границы того, сколько времени вы с ними проводите, каких тем не следует касаться, и как они относятся к вам и вашей идентичности», — такой совет ChatGPT дал «пациенту», у которого назрел конфликт с родителями.

В последующие дни у Ван Слика выработалась привычка обращаться к ИИ, когда возникает потребность выговориться, а ответы ChatGPT стали давать ему психологическую разрядку. Ранее он ощущал себя обузой для других людей и даже психотерапевта, зато в общении с чат-ботом он себя навязчивым уже не чувствовал.

Новое поколение чат-ботов только начинает развиваться, и пока рано говорить о том, сохранится ли их популярность, когда исчезнет эффект новизны. Сейчас ими пользуются для поиска информации в интернете, написания домашних заданий, программного кода и даже бронирования столиков в ресторанах. Замена психотерапевта — идея далеко не новая. Один из первых чат-ботов Eliza был создан ещё в шестидесятые годы прошлого века профессором Джозефом Вайценбаумом (Joseph Weizenbaum) как раз как замена психотерапевту. Подобные проекты существуют и сейчас: чат-боты не устают, и общение с ними обходится дешевле услуг настоящих специалистов.

Источник изображения: BoliviaInteligente / unsplash.com

Но существует и потенциальная угроза, исходящая от таких решений. Мощные платформы общего назначения, в том числе OpenAI ChatGPT, Google Bard и Microsoft Bing Chat, основаны на больших языковых моделях, и предназначены они лишь для того, чтобы генерировать убедительно звучащую информацию. Для психотерапии они не предназначаются, а их алгоритмы не программировались в соответствии с этическими и юридическими принципами, которых придерживаются психотерапевты. Они не могут отслеживать, что «пациенты» им говорят от сеанса к сеансу, хотя от живых специалистов такого не потерпел бы никто.

Эксперты признают, что ChatGPT — действительно хороший собеседник, хотя специалиста по психическому здоровью машина заменить пока не может. С этим согласился и сам чат-бот, когда ему рассказали о публикации в Twitter, автор которой назвал ChatGPT более эффективным, чем живого психотерапевта. «Важно помнить, что онлайн-ресурсы могут быть полезными, но обращений за профессиональной помощью они не заменяют, если речь идёт о травме или проблемах с психическим здоровьем. Если у вас есть непосредственные вопросы или проблемы, по которым вы бы хотели получить от меня информацию или ответы, я сделаю всё возможное, чтобы вам помочь», — заявил ИИ.

Маргарет Митчелл (Margaret Mitchell), главный специалист по вопросам этики в компании Hugging Face, специализирующейся в разработке и поддержке ИИ-моделей, считает, что подобные чат-боты можно использовать для помощи людям, которые звонят на линии помощи в кризисных ситуациях, однако чрезмерное к ним доверие может усугубить страдания людей, испытывающих проблемы, причём эти люди могут даже не понять происходящего. Она также указала на возможные проблемы конфиденциальности: OpenAI оставила за собой право просматривать разговоры ChatGPT с пользователями для последующего обучения модели. И людям, которые делятся личными проблемами с ИИ, это может не понравиться.

Эмад Мостак (Emad Mostaque), основатель и глава компании Stability AI, ответственной за генератор изображений Stable Diffusion, напротив, считает чат-бот на основе модели GPT-4 «лучшим психотерапевтом». Он, по его словам, разработал некую систему команд, которые переводят систему в режим психотерапии, и теперь беседует с ChatGPT на самые различные темы, в том числе о способах справляться со стрессами, связанными с управлением молодой компанией — особенно если ей руководит человек, открыто говорящий о своих нейродивергенции, синдроме дефицита внимания и гиперактивности. Он не считает, что чат-бот может стать заменой психотерапевту, но признаёт, что они могут оказаться полезными, когда нужно поговорить, а другого собеседника в пределах досягаемости нет.

Компании, использующие сторонние инструменты на основе генеративного искусственного интеллекта, такие как ИИ-чат-бот ChatGPT, могут подвергать риску конфиденциальную информацию о клиентах и коммерческую тайну. Об этом предупредила израильская компания Team8, специализирующаяся на кибербезопасности.

Широкое внедрение новых чат-ботов с искусственным интеллектом и инструментов на базе ИИ может сделать компании уязвимыми для утечек данных и судебных исков. Есть опасения, что чат-боты могут быть использованы хакерами для доступа к конфиденциальной корпоративной информации или совершения действий против компании, а конфиденциальная информация, поступающая в чат-боты сейчас, может быть использована ИИ-компаниями в будущем.

Крупные технологические компании, включая Microsoft и Alphabet, спешат добавить возможности генеративного ИИ для улучшения поисковых систем, обучая свои модели на данных, взятых из интернета, чтобы предоставить универсальный инструмент для обработки их запросов. В отчёте говорится, что, если эти инструменты начнут использовать для обучения конфиденциальные или частные данные, будет очень сложно стереть такую информацию.

В отчёте Team8 отмечается, что сейчас запросы чат-ботов не передаются в большие языковые модели для обучения ИИ. Однако недавно у ChatGPT произошёл сбой, в результате которого запросы пользователей начали отображаться у других пользователей.

В документе отмечены три другие проблемы с «высоким риском» при интеграции генеративных инструментов искусственного интеллекта и подчёркнута повышенная угроза обмена информацией через сторонние приложения, таких как Bing и инструменты Microsoft 365. Представитель Microsoft заявил, что «Microsoft поощряет прозрачное обсуждение развивающихся киберрисков в сообществах безопасности и искусственного интеллекта»

Десятки главных сотрудников по информационной безопасности американских компаний также указаны в качестве соавторов отчёта. Отчет Team8 был одобрен Майклом Роджерсом (Michael Rogers), бывшим главой Агентства национальной безопасности США и Киберкомандования США.

Итальянский надзорный орган Garante, ранее ограничивший работу чат-бота ChatGPT в стране, объявил о готовности отменить своё решение в конце апреля, если разработавшая бот компания OpenAI предпримет «практические шаги» для решения проблем, на которые указало ведомство. Об этом сообщило Reuters со ссылкой на заявление главы регулятора Паскуале Станционе (Pasquale Stanzione).

Источник изображения: Zac Wolff / unsplash.com

Компания OpenAI была вынуждена ограничить работу ChatGPT для итальянских пользователей в конце марта, когда надзорный орган открыл расследование в отношении разработчика в связи с предполагаемыми нарушениями норм конфиденциальности. «Мы готовы вновь открыть ChatGPT 30 апреля, если OpenAI продемонстрирует готовность предпринять практически шаги. Думаю, что компания готова, посмотрим», — заявил господин Станционе в интервью газете Corriere della Sera.

На прошлой неделе возглавляемое Станционе ведомство изложило список требований, которые OpenAI должна исполнить, чтобы снять претензии. Италия оказалась первой западноевропейской страной, которая ввела ограничительные меры в отношении ChatGPT, и её быстрая реакция привлекла внимание законодателей и регулирующих органов в других странах.

Чиновник сообщил, что Италия заблокировала ChatGPT в одностороннем порядке, потому что требовалась оперативная реакция: «Ожидание решения на уровне Европы повлекло бы задержку минимум на три–четыре месяца».

Министерство сельского, лесного и рыбного хозяйства Японии стало использовать ИИ-чат-бота ChatGPT для написания нормативной документации.

По словам министра Тетсуро Номура (Tetsuro Nomura), министерство сельского, лесного и рыбного хозяйства в настоящее время испытывает чат-бот, чтобы упростить официальные документы и сделать их более понятными. Впервые отделение центрального правительства Японии публично заявило, что тестирует искусственный интеллект от OpenAI.

«Мы не делаем с этим [чат-ботом] ничего серьезного», — сказал Номура журналистам во время очередной пресс-конференции во вторник, добавив, что чат-бот будет обрабатывать только общедоступную информацию, так как всегда существует опасность утечки секретной информации.

Министерство планирует использовать чат-бот для обновления онлайн-руководств о том, как заполнять заявки на субсидии и другую государственную поддержку, сообщала ранее газета Asahi. Издание сообщает, что каждый год вносятся тысячи страниц изменений в нормативные акты, и теперь министерство отдает ИИ на аутсорсинг трудоемкую задачу по обновлению своей страницы.

Недавно министр цифровых реформ Коно Таро (Kono Taro) заявил на пресс-конференции, что существуют проблемы, которые необходимо решить при использовании чат-бота, такие как опасения по поводу обработки вводимых в него данных и тот факт, что иногда предоставляется неверная информация.