Глава OpenAI признал, что для ИИ нужно госрегулирование

Накануне глава OpenAI Сэм Альтман (Sam Altman) был вызван для дачи показаний в Сенат США, где он согласился с законодателями по вопросу о необходимости регулировать мощные платформы искусственного интеллекта, разрабатываемые как его компанией, так и техногигантами масштаба Google и Microsoft.

Источник изображения: Gerd Altmann / pixabay.com

«Думаю, если с этой технологией что-то пойдёт не так, то всё будет совсем не так. И мы хотим заявить об этом. Мы хотим сотрудничать с правительством, чтобы это предотвратить», — заявил господин Альтман. Если в последние годы выступления глав технологических компаний в Конгрессе носили скорее характер противостояния, то Альтман соглашался с доводами законодателей. Он отметил, что разрабатываемые его компанией технологии могут лишить работы большое число людей, но будут созданы и новые рабочие места, и для смягчения этого эффекта, по мнению главы OpenAI, тоже понадобится участие правительства.

Он предложил учредить государственное ведомство, выдающее лицензии на разработку крупномасштабных моделей ИИ. Это ведомство будет определять нормы безопасности и тесты, которые должны пройти ИИ-модели, прежде чем они будут выпущены в открытый доступ. Преимущества выпущенных OpenAI решений, по мнению Альтмана, значительно перевешивают риски, но для продолжения работы необходимо принимать меры для обеспечения безопасности ИИ.

В ответ законодатели предложили создать независимое агентство по надзору за ИИ; нормативно-правовую базу, на основании которой разработчики будут обязаны раскрывать механизмы работы моделей, наборы данных, используемых при их обучении; а также антимонопольные основы, которые не позволят гигантам вроде Microsoft и Google занять в отрасли доминирующее положение. При этом сенаторы отметили, что чрезвычайно подавлять отрасль также не следует — она имеет значительные экономические перспективы, и здесь разворачивается интенсивная конкурентная борьба с потенциальными противниками — в первую очередь с Китаем.

Источник: