Компании OpenAI и Anthropic будут предоставлять правительству США доступ к своим новейшим большим языковым моделям искусственного интеллекта и до публичного релиза, «чтобы повысить их безопасность», пишет портал The Verge. Иными словами, власти США будут проверять, безопасно ли выпускать новые ИИ-модели в свет.

Источник изображения: Andrew Neel/unsplash.com

Обе компании подписали меморандум о взаимопонимании с Американским институтом безопасности ИИ, согласно которому они обязуются предоставлять доступ к моделям ИИ как до, так и после их публичного выпуска. По словам ведомства, этот шаг позволит совместными усилиями проводить оценки рисков безопасности и устранять потенциальные проблемы. Американское агентство добавило, что в этой работе также будет участвовать британский институт безопасности ИИ.

Как пишет The Verge, на этой неделе законодатели штата Калифорния одобрили принятие «Закона о безопасных и надёжных инновациях в области передовых моделей искусственного интеллекта». Этот закон требует от компаний, занимающихся разработкой ИИ в Калифорнии, принимать определённые меры предосторожности перед началом обучения передовых моделей искусственного интеллекта. К таким мерам, в частности, относится возможность быстрого и полного отключения модели ИИ, обеспечение защиты моделей ИИ от «небезопасных модификаций после обучения», а также оценка потенциальных рисков использования ИИ и его составляющих для «причинения критического вреда».

Документ не нашёл поддержки со стороны компаний, занимающихся технологиями ИИ. OpenAI и Anthropic выступили против его принятия, отметив, что новый закон может негативно сказаться на небольших компаниях, занимающихся созданием технологий ИИ на базе открытого исходного кода. Официально новый закон пока не принят и ожидает подписи губернатора Калифорнии Гэвина Ньюсома (Gavin Newsom).

Тем временем Белый дом работает над тем, чтобы стимулировать компании самостоятельно принимать и расширять меры безопасности, касающиеся технологий ИИ. Как сообщает The Verge, несколько ведущих фирм уже согласились инвестировать в исследования по вопросам кибербезопасности и дискриминации, а также заняться разработкой систем маркировки (водяных знаков) для контента, созданного ИИ.

Apple заявила, что теперь для выдачи журнала поступающих владельцам её устройств push-уведомлений правоохранительным органам необходимо постановление судьи. Тем самым компания привела свою политику в соответствие с практикой Google, которая также отказывается беспрепятственно раскрывать конфиденциальную информацию пользователей.

Источник изображения: Jamie Street / unsplash.com

Apple не делала громких заявлений о новой политике в отношении выдачи конфиденциальных данных, но соответствующие условия появились в общедоступных документах, описывающих основы взаимодействия компании с правоохранительными органами. Это произошло вскоре после того, как американский сенатор Рон Уайден (Ron Wyden) предал огласке информацию, что власти запрашивают журналы уведомлений у Apple и Google — первая выпускает iPhone, а вторая разрабатывает и обслуживает мобильную ОС Android.

Многие мобильные приложения выводят push-уведомления, предупреждая пользователей о входящих сообщениях, последних новостях и других событиях. Но пользователи устройств зачастую не осознают, что почти все такие уведомления проходят через серверы Google и Apple. Уайден отметил, что эта практика даёт двум компаниям уникальные сведения о трафике от приложений к пользователям и облегчает государственный надзор за работой пользователей с этими приложениями.

Apple и Google подтвердили, что получают такие запросы. Вскоре после этого Apple ужесточила процедуру выдачи этой информации для правоохранительных органов, а Google следовала ей и ранее.

Apple подтвердила, что власти нескольких стран мира негласным порядком предписывают ей передавать журналы push-уведомлений на iPhone некоторых пользователей. Аналогичная практика применяется в отношении Google и устройств под Android.

Источник изображения: Tran Mau Tri Tam / pixabay.com

Информация была предана огласке благодаря действиям американского сенатора и члена комитета по разведке Роя Уайдена (Roy Wyden) — весной 2022 года он получил сведения о том, что такая слежка за пользователями, вероятно, ведётся, и решил провести расследование. Политик и его подчинённые детально разобрались в этом вопросе. Они отметили, что push-уведомления поступают на устройства не от разработчиков и операторов приложений, а через нечто вроде почтовых отделений, которыми управляют разработчики мобильных ОС. В случае с Apple эта служба носит название Push Notification Service, у Google это Firebase Cloud Messaging — иными словами, Apple и Google выступают в качестве посредников в процессе передачи этих уведомлений.

Apple и Google хранят эти данные о своих пользователях, а правительства государств могут их запрашивать, как и многое другое. Уайден обратился в обе компании с просьбой подтвердить, что это действительно происходит, но получил одинаковые ответы: данная информация «запрещена к публичному распространению» правительством США. А значит, у Apple не было возможности раскрывать эту практику в регулярно публикуемых отчётах о прозрачности. Тогда Уайден самовольно обнародовал данный вопрос.

Он направил в Министерство юстиции США открытое письмо, в котором попросил ведомство отменить норму о секретности, напрямую упомянув правительственные запросы на журналы направляемых пользователям push-уведомлений. Таким образом, политик сам разместил эту информацию в открытом доступе, и требования о секретности, ранее предъявлявшиеся к Apple и Google, автоматически больше не применяются. Теперь вне зависимости от ответа Минюста Apple может включать статистику таких запросов в свой отчёт о прозрачности — компания подтвердила Reuters, что уже добавила эти сведения.

Стоит отметить, что при переписке через мессенджеры со сквозным шифрованием содержимое переписки остаётся защищённым, даже если в настройках уведомлений выбран предварительный просмотр сообщений. Таким образом, наличие журнала уведомлений не раскрывает тайны переписки, но раскрывает факт её наличия и число полученных сообщений. И журнал уведомлений может многое рассказать о пользователе: службы доставки еды и сообщения от служб такси могут служить подтверждением, что пользователь находился в определённом месте в определённое время.