Британский Институт безопасности ИИ (AISI), созданный в ноябре 2023 года, запустил платформу Inspect, предназначенную для тестирования и оценки безопасности ИИ. Она упростит оценку ИИ для применения в промышленных, исследовательских и научных организациях.

Источник изображения: geralt/Pixabay

Набор инструментов Inspect, доступный по лицензии с открытым исходным кодом, включая лицензии MIT, предназначен для оценки определённых возможностей моделей ИИ в различных сферах, включая основные знания моделей и способность рассуждать, и выработки оценки на основе полученных результатов.

По данным ресурса TechCrunch, платформа Inspect состоит из трех основных компонентов: наборов данных, инструментов решения и инструментов оценки. Наборы данных предоставляют образцы для оценочных тестов. Инструменты решения выполняют работу по проведению тестов. А инструменты оценки оценивают результаты и суммируют баллы тестов в метрики.

Компоненты Inspect можно дополнить с помощью сторонних пакетов, написанных на Python. «Мы надеемся, что глобальное сообщество ИИ будет использовать Inspect не только для проведения собственных испытаний на безопасность моделей, но и для адаптации и развития платформы с открытым исходным кодом, чтобы мы могли производить высококачественные оценки по всем направлениям», — заявил председатель AISI Ян Хогарт (Ian Hogarth).

Платформа Inspect была представлена спустя несколько дней после того, как Национальный институт стандартов и технологий США (The National Institute of Standards and Technology, NIST) анонсировал в конце апреля программу NIST GenAI, предназначенную для оценки различных технологий генеративного ИИ, включая модели, генерирующие текст и изображения.

В апреле США и Великобритания объявили о партнёрстве, в рамках которого «правительства будут обмениваться техническими знаниями, информацией и талантливыми специалистами в области безопасности ИИ». В рамках сотрудничества в США будет создан институт безопасности ИИ, который займётся оценкой рисков, связанных с ИИ и генеративным ИИ.

Корпорация Microsoft запустила предназначенную для спецслужб США модель генеративного искусственного интеллекта на суперкомпьютере, полностью изолированном от интернета. Теперь Малдер и Скалли смогут безопасно использовать современные технологии для анализа сверхсекретной информации.

Источник изображений: unsplash.com

По словам представителя Microsoft, впервые большая языковая модель генеративного ИИ на основе GPT-4 полностью отделена от интернета. Большинство подобных моделей, включая ChatGPT от OpenAI, полагаются на облачные сервисы для обучения и определения закономерностей, но Microsoft хотела предоставить разведывательному сообществу США «по-настоящему безопасную систему».

Разведывательные службы всех стран рассчитывают, что генеративный ИИ поможет в анализе быстро растущих объёмов ежедневно генерируемой секретной информации, но им необходимо сбалансировать обращение к большим языковым моделям с риском утечки или взлома. В прошлом году ЦРУ запустило службу, подобную ChatGPT, для работы с несекретными документами, но спецслужбам требовалось обрабатывать гораздо более конфиденциальные данные.

«Идёт гонка по внедрению генеративного ИИ в разведывательные данные, — заявила помощник директора Центра транснациональных и технологических миссий ЦРУ Шитал Патель (Sheetal Patel). — Первая страна, которая будет использовать генеративный ИИ, выиграет эту гонку. И я хочу, чтобы это были мы».

Microsoft потратила 18 месяцев на разработку и внедрение системы, включая капитальные доработки существующего суперкомпьютера в Айове. Представленная модель GPT4 является статической, то есть она может только анализировать информацию, но не обучаться на этих данных. Таким образом, правительство может сохранить свою модель «чистой» и предотвратить утечку секретной информации. Прогнозируется, что доступ к системе получат около 10 000 сотрудников со специальным допуском.

Samsung планирует внедрить технологии генеративного искусственного интеллекта (ИИ) в голосовой помощник Bixby, что позволит повысить привлекательность устройств разработчика для пользователей, сообщил CNBC со ссылкой на топ-менеджера компании. Умный ассистент Bixby используется на всех устройствах Samsung — от смартфонов и умных часов до бытовой техники.

Ранее стало известно о планах компании оснастить нейронными процессорами (NPU) все новые продукты в категории бытовой техники, включая телевизоры, посудомоечные машины, духовки, холодильники и кондиционеры.

Вон Чжун Чой (Won-Joon Choi), исполнительный вице-президент мобильного бизнеса Samsung, ранее заявил ресурсу CNBC, что «Bixby стал ключевым голосовым помощником Samsung не только для мобильных устройств, но также для телевизоров и цифровых устройств, которые имеются в экосистеме компании».

Топ-менеджер отметил, что с появлением технологий генеративного ИИ и больших языковых моделей (LLM) компании необходимо пересмотреть роль Bixby, чтобы он мог быть оснащён генеративным ИИ и стал «более умным в будущем». «Это позволит вести более естественный диалог и разработать интерфейс, поддерживающий продукты Samsung в нашей экосистеме», — подчеркнул Вон Чжун Чой.

Чой сообщил, что в настоящее время Samsung усиленно работает над внедрением генеративного ИИ в Bixby, однако сроки анонса версии голосового помощника с расширенной функциональностью называть не стал.

Как и многие производители смартфонов, Samsung стремится оснастить выпускаемые устройства более продвинутыми функциями ИИ. Недавно компания добавила ранее эксклюзивные для серии Galaxy S24 функции ИИ Galaxy AI в некоторые старые модели, включая серии смартфонов Galaxy S23, S23 FE, Galaxy Z Flip 5, Z Fold 5 и планшет Tab S9.

Эксперимент ресурса CNET с использованием генеративного искусственного интеллекта для написания статей привёл к плачевным результатам — редакторы «Википедии» понизили его рейтинг надёжности из-за многочисленных ошибок в публикуемом контенте и наличия плагиата.

Источник изображения: geralt/Pixabay

В прошлом году много споров вызвала публикация ресурса Futurism, рассказавшего, что CNET в течение нескольких месяцев «потихоньку» публиковал статьи, написанные ИИ, не привлекая особого внимания общественности и не делая официальных заявлений по этому поводу.

Статьи на финансовую тему начали появляться на сайте ресурса в ноябре 2022 года под подписью CNET Money Staff. Они были сгенерированы ИИ, о чём свидетельствует большое количество ошибок и порой дословное копирование работ других авторов. Из-за ошибок ресурсу CNET пришлось внести исправления в 41 из 77 статей, написанных с использованием ИИ.

В связи с разоблачением Futurism руководство CNET отметило, что публикация статей с использованием ИИ производилась «без особого шума», но не «тайно», но вместе с тем приостановило эксперимент. Другие сайты, тоже принадлежащие Red Ventures, как и CNET, также приостановили публикацию статей, написанных с помощью ИИ.

Источник изображения: techspot.com

Согласно данным «Википедии», CNET имел самый высокий рейтинг надёжности до октября 2020 года. Затем с этой даты по октябрь 2022 года не было консенсуса, что, по мнению «Википедии», было связано с ухудшением редакционных стандартов после приобретения ресурса компанией Red Ventures. А с ноября 2022 года по настоящее время CNET классифицируется «Википедией» как «в целом ненадёжный» ресурс, что связано с наличием множества ошибок в статьях, написанных ИИ.

Финансовая корпорация Mastercard, владеющая одноимённой платёжной системой, запустила усовершенствованную модель генеративного искусственного интеллекта Decision Intelligence Pro собственной разработки, которая позволит банкам лучше отслеживать подозрительные транзакции в её сети в режиме реального времени и определять, являются ли они законными или нет. Об этом сообщил ресурс CNBC со ссылкой на эксклюзивное интервью представителя Mastercard.

Источник изображения: Mastercard

Аджай Бхалла (Ajay Bhalla), президент бизнес-подразделения Mastercard по кибербезопасности и разведке, рассказал CNBC, что новое решение представляет собой запатентованную рекуррентную нейронную сеть, созданную с нуля командами Mastercard по кибербезопасности и борьбе с мошенничеством.

«Мы используем модели-трансформеры, которые, по сути, помогают получить мощь генеративного ИИ, — сообщил Бхалла. — Всё это было создано собственными силами, у нас есть все виды данных из экосистемы. Благодаря характеру нашей деятельности, мы видим все данные о транзакциях, которые поступают к нам из экосистемы».

Он отметил, что в некоторых случаях Mastercard полагается на открытый исходный код «всякий раз, когда это необходимо», но «большая часть» технологий создаётся собственными силами компании.

Собственный алгоритм Mastercard обучен на данных примерно 125 млрд транзакций, которые ежегодно совершаются в платёжной сети компании. Вместо текстового ввода он использует историю посещений торговых точек держателем карты в качестве подсказки для определения того, является ли бизнес, участвующий в транзакции, местом, куда с большой вероятностью направится покупатель.

Затем алгоритм генерирует пути через сеть Mastercard, чтобы оценить варианты. Более высокий балл в оценке будет соответствовать модели обычного поведения, ожидаемого от держателя карты, а более низкий балл — за пределами этой модели. Весь этот процесс занимает всего 50 миллисекунд.

По словам Бхаллы, новая ИИ-технология позволит финансовым учреждениям повысить уровень обнаружения мошенничества в среднем на 20 %. Однако в некоторых случаях эта модель привела к повышению уровня выявления мошенничества на целых 300 %, добавил он. Mastercard ожидает, что её алгоритм также позволит банкам сэкономить до 20 % на затратах на оценку незаконных транзакций.

Однако истинный потенциал новой технологии Mastercard, как полагает Бхалла, заключается в её способности выявлять мошеннические модели и тенденции для прогнозирования будущих типов мошенничества, которые пока не встречались в платёжной экосистеме.

Видеосервис YouTube готовится к изменению политики платформы в отношении размещаемого пользователями контента. В скором времени авторы будут обязаны помечать ролики, при создании которых использовались инструменты на базе искусственного интеллекта. Соответствующее сообщение появилось в блоге YouTube.

Источник изображения: Christian Wiediger / unsplash.com

В ближайшие несколько месяцев YouTube введёт новые правила, чтобы пользователи сервиса могли чётко понимать, когда перед ними сгенерированный ролик, а когда настоящее видео. Новые правила, в том числе, затронут созданные с помощью ИИ видео, на которых человек что-то говорит или делает, чего никогда не делал в реальной жизни.

«Мы потребуем от авторов раскрытия информации о том, когда они создали изменённый или синтетический контент, являющийся реалистичным, в том числе с использованием инструментов искусственного интеллекта. При загрузке контента у авторов появятся новые опции, которые позволят указать, что ролик содержит реалистично изменённый или синтетический материал. Например, это может быть созданное искусственным интеллектом видео, реалистично изображающее событие которого никогда не было, или контент, показывающий, как кто-то говорит или делает то, чего на самом деле не делал», — говорится в сообщении YouTube.

В сообщении отмечается, что возможность отличить сгенерированное видео от реального особенно важна, когда речь заходит об обсуждении деликатных тем, таких как политические выборы, продолжающиеся конфликты, кризисы в области общественного здравоохранения или обсуждение государственных должностных лиц. Авторы, которые не будут соблюдать новые правила и откажутся от маркировки ИИ-контента, подвергнутся штрафным санкциям. Опубликованные ими видео могут быть удалены с площадки, а сами авторы могут быть исключены из партнёрской программы YouTube. Что касается самой маркировки, то она будет отображаться в описании ролика, а также поверх самого видео.

Сегодня Apple озвучила финансовые результаты по итогам прошедшего квартала. Вместе с этим руководство компании ответило на вопросы аналитиков и инвесторов. Так, главу Apple Тима Кука (Tim Cook) спросили, каким образом компания планирует монетизировать возможности генеративных нейросетей. Он, конечно, не дал прямого ответа на этот вопрос, но отметил, что компания инвестирует «достаточно много» в искусственный интеллект.

Источник изображения: Apple

«Если вы посмотрите масштабнее на то, что мы сделали с помощью технологий искусственного интеллекта и машинного обучения, и как мы их использовали, вы увидите, что это фундаментальные вещи, являющиеся неотъемлемыми для каждого нашего продукта. Когда мы выпустили iOS 17, в ней появились такие функции, как Personal Voice и Live Voicemail, в основе которых лежит ИИ. Можно дойти до функций, спасающих жизнь, на часах и смартфоне, таких как обнаружение падения, обнаружение аварий и ЭКГ на часах. Они были бы невозможны без ИИ. Мы не называем их как таковыми, поскольку мы определили их потребительскую выгоду, но основополагающими технологиями, лежащими в их основе, являются ИИ и машинное обучение <…> Что касается генеративного ИИ, то здесь у нас, безусловно, есть над чем работать. Я не буду вдаваться в подробности, потому что мы этим не занимаемся, но вы можете быть уверены, что мы инвестируем. Мы инвестируем достаточно много. Мы собираемся делать это ответственно. Со временем вы увидите новые продукты, в основе которых будут лежать эти технологии», — рассказал Тим Кук.

Глава Apple заявил, что компания намерена ответственно подойти к внедрению генеративных нейросетей в свои продукты, отметив, что этот процесс будет проходить постепенно. По слухам, Apple планирует в следующем году продолжить интеграцию технологий на базе ИИ в свои продукты. Возможно, речь, в том числе, идёт об использовании генеративных нейросетей. По данным источника, Apple тратит миллиарды долларов на исследования и разработки в сфере генеративных нейросетей.

Компания Samsung объявила в рамках квартальной отчётной конференции, посвящённой финансовым итогам третьего квартала, о планах выпустить в следующем году смартфон со встроенным генеративным искусственным интеллектом (ИИ), пишет BusinessKorea.

Источник изображения: Pixabay

«Мы работаем над внедрением технологии ИИ в качестве нового опыта в наших устройствах», — сообщила Samsung, добавив, что планирует начать выпуск подобных гаджетов с 2024 года.

Речь идёт о внедрении технологии генеративного ИИ, подобной ChatGPT от OpenAI, которая будет запускаться локально и не потребует для работы доступа в интернет и подключения к внешнему облаку. Благодаря данному ИИ владелец смартфона сможет получать доступ к различным сервисам с помощью простых команд.

По данным BusinessKorea, для этой цели Samsung также разрабатывает стандарт генеративного ИИ. Ожидается, что первым новую технологию получит флагман Galaxy S24, который, скорее всего, будет представлен в начале 2024 года, или складные устройства Galaxy Z Fold6 и Flip6, которые выйдут во втором полугодии того же года.

Этот шаг эксперты расценивают как контрмеру Samsung в преддверии выхода в следующем году новой серии смартфонов Apple iPhone 16, у которой, как ожидается, будет реализована поддержка генеративного ИИ.

Команда исследователей из Чикагского университета создала инструмент под названием Nightshade, с помощью которого художники смогут защитить свои работы от генеративных нейросетей, использующих для обучения изображения в интернете. Он позволяет добавить к изображениям невидимые глазу человека пиксели, которые эффективно искажают данные для обучения ИИ-алгоритмов.

Источник изображения: petapixel.com

Стремительный рост популярности генеративных нейросетей, способных создавать изображения по текстовому описанию, также привёл к многочисленным судебным искам со стороны современных художников в адрес компаний, занимающихся разработкой ИИ-алгоритмов. Дело в том, что для обучения генеративных нейросетей обычно используются изображения, опубликованные на разных веб-ресурсах. За счёт этого генеративные нейросети способны рисовать изображения не хуже человека и даже копировать стили известных художников.

Алгоритм Nightshade призван помочь художникам защитить свои работы от сканирования нейросетями. Он особым образом обрабатывает изображения, и, если в дальнейшем они используются для обучения нейросетей, то последние теряют способность должным образом обрабатывать пользовательский запрос и выдают неверный результат. Фактически такая доработка картинок заставляет нейросети неправильно распознавать изображённые на них предметы. Например, там, где нарисованы шляпы, алгоритм распознаёт торты, а сумки — распознаются как тостеры. Повреждённые таким образом данные очень сложно удалить, поскольку разработчикам генеративных алгоритмов придётся кропотливо находить каждый такой фрагмент вручную.

Художники, которые хотят поделиться своими работами в интернете, но при этом также намерены защитить их, могут задействовать Nightshade в сочетании с другим инструментом под названием Glaze (разработан той же группой исследователей и предназначен для модификации изображений таким образом, что нейросеть не сможет эффективно обучаться с их помощью). Согласно имеющимся данным, Nightshade и Glaze будут доступны для бесплатного использования, а первый из них будет иметь открытый исходный код, благодаря чему другие разработчики смогут улучшать его.

В Китае наблюдается бурное развитие генеративного ИИ, что привело к массовому появлению новых инновационных продуктов, созданных местными стартапами. Однако эксперты и инвесторы предсказывают скорое сокращение участников рынка из-за возрастающих экономических и конкурентных проблем.

Источник изображения: geralt / Pixabay

После того как OpenAI представила свою модель ChatGPT, Китай принял эстафету, активно развивая сектор генеративного ИИ. Как отметил старший представитель Tencent, текущая ситуация может быть описана как «противостояние ста моделей». Гиганты рынка, такие как Baidu, Alibaba и Huawei, не остались в стороне, представив свои продукты на основе ИИ. Сейчас в Китае функционирует более 130 крупных языковых ИИ-моделей, что составляет 40 % мирового объёма, уступая лишь США с долей 50 %. Компании также активно разрабатывают отраслевые языковые модели, дополняющие основные.

Однако не всё так радужно. Многие из этих моделей ещё не нашли своего применения в бизнесе, в большинстве случаев они схожи между собой, а разработчики сталкиваются с растущими затратами. Политическое и экономическое напряжение между Пекином и Вашингтоном усугубляет ситуацию, сокращая инвестиции и усложняя доступ к необходимым технологиям, таким как ИИ-чипы NVIDIA.

Эсми Пау (Esme Pau) из австралийского инвестиционного банка Macquarie Group утверждает, что только наиболее сильные и гибкие компании смогут выстоять в этой борьбе. Она предвидит консолидацию рынка и возможную ценовую войну, поскольку игроки будут соревноваться за внимание пользователей.

Ян Хунвэй (Yuan Hongwei), представитель венчурного фонда Z&Y Capital, считает, что лишь несколько универсальных языковых ИИ-моделей займут доминирующее положение на рынке. Её фирма, инвестировавшая в такие компании, как DJI и Pony.ai, решила поддержать Baichuan Intelligence. Эта компания, основанная Ван Сяочуанем (Wang Xiaochuan), создателем второго по популярности поисковика в Китае — Sogou, стремится разработать конкурентоспособную ИИ-модель.

Сектор генеративного ИИ в Китае находится на перепутье. Несмотря на активное развитие и внушительные инвестиции, многие компании сталкиваются с проблемами, которые могут поставить под угрозу их дальнейшее существование. В ближайшие месяцы рынок, вероятно, переживёт ряд изменений, и лишь наиболее устойчивые и инновационные игроки смогут удержаться на плаву, предлагая уникальные решения и адаптируясь к меняющимся условиям.