Генеральная ассамблея ООН приняла первую резолюцию об искусственном интеллекте. Предложенный США документ призывает к мировому сотрудничеству в области ИИ — поддержавшие его страны, по мнению американского постпреда, не хотят допустить, «чтобы ИИ управлял людьми».

Источник изображения: un.org

Резолюция носит название «Использование возможностей безопасных, защищённых и надёжных систем искусственного интеллекта для устойчивого развития» — её внесли США, а соавторами выступили 120 государств. Это первая резолюция в области ИИ, обратило внимание ТАСС.

«Новаторская резолюция, принятая сегодня, укрепляет глобальный консенсус в отношении безопасных, надёжных, заслуживающих доверия систем ИИ, систем, которые способствуют устойчивому развитию и уважают основные свободы», — заявила постпред США в ООН Линда Томас-Гринфилд (Linda Thomas-Greenfield). Документ направлен на то, чтобы человек контролировал ИИ, а не ИИ управлял людьми: в нём содержится призыв привлекать развивающиеся страны к работе по цифровой трансформации; соблюдать права интеллектуальной собственности, защищать персональные данные, обеспечивать прозрачность, предсказуемость и надёжность работы ИИ; а также содействовать надзору человека над автоматизированными решениями.

Первое заседание ООН по вопросу ИИ состоялось в июле 2023 года. Генеральный секретарь организации поддержал предложение создать ведомство, которое сформулирует мировые стандарты по регулированию ИИ — значительных последствий можно ожидать от военных и гражданских сценариев применения технологии, отметил он. На минувшей неделе первый в мире «Закон об ИИ» был принят в ЕС.

ЮНЕСКО, входящее в ООН учреждение, которое курирует вопросы образования, науки и культуры, опубликовало доклад, в котором призвало запретить использование смартфонов в школах по всему миру. Эта мера улучшит качество обучения и оградит детей от запугивания и преследования в киберпространстве, уверены в ведомстве.

Источник изображения: Peggy_Marco / pixabay.com

Существуют доказательства, что чрезмерное использование мобильных телефонов напрямую связано со снижением успеваемости, а большое количество проведённого перед экраном времени негативно влияет на эмоциональную стабильность детей, говорится в документе. Призыв к запрету смартфонов указывает, что цифровые технологии в целом, включая ИИ, должны быть подчинены «ориентированному на человека видению» образования — они не могут вытеснять личное общение с учителем.

ЮНЕСКО предостерегает политиков от бездумного внедрения цифровых технологий, положительное влияние которых на результаты обучения и экономическую эффективность легко переоценить, а новое не всегда оказывается лучшим. Всё более широкие сегменты обучения переходят в онлайн, особенно в университетах, и недопустимо пренебрегать «социальным аспектом» образования, при котором студенты проходят обучение в очном формате. «Те, кто призывают к усилению индивидуализации, возможно, упускают из виду саму суть образования», — утверждают авторы доклада.

Правительствам стран следует убедиться, что у них есть чёткие цели и принципы, в соответствии с которыми цифровые технологии в образовании приносят пользу и позволяют избежать вреда как здоровью учащихся, так и более широким аспектам — демократии и правам человека, например, посредством вторжения в частную жизнь или разжигания ненависти онлайн. Чрезмерное или ненадлежащее использование учащимися технологических решений — смартфонов, планшетов или ноутбуков — может отвлекать, мешать или оказывать пагубное влияние на процесс обучения. Приводятся материалы крупномасштабных международных исследовательских проектов, указывающих на «отрицательную связь» между чрезмерным применением цифровых технологий и успеваемостью.

Источник изображения: Mirko Sajkov / pixabay.com

Технологии потенциально могут открыть новые возможности обучения для миллионов людей, но предоставляемые ими преимущества распределяются неравномерно — люди с невысоким достатком исключаются из этого процесса, а цифровая образовательная инфраструктура оказывается дорогой. Более того, слишком невелико число заслуживающих доверия исследований, подтверждающих, что цифровые технологии приносят пользу образованию — значительная их часть финансируется частными образовательными компаниями, имеющими целью продажу продуктов цифрового обучения. Их влияние на политическую конъюнктуру по всему миру растёт, и это причина для беспокойства.

Власти стран, утверждают в ЮНЕСКО, уже начинают осознавать приоритетное значение нужд учащихся — в качестве примера приводится Китай, где применение цифровых устройств в качестве инструментов обучения ограничивается 30 % учебного времени. При этом между такими блоками предусмотрены регулярные перерывы. В эпоху карантина онлайн-обучение смогло остановить упадок образования — на этот формат перешли миллиарды учащихся, но миллионы без доступа к интернету оказались за бортом.

В ЮНЕСКО проанализировали 200 систем образования по всему миру и установили, что каждая шестая страна запретила использование смартфонов в школе: во Франции соответствующая норма работает с 2018 года, в Нидерландах она вступит в действие в 2024 году. Бывший министр образования Великобритании попытался ввести эту норму в 2021 году по всей стране, но встретился с противодействием профсоюзов, которые отметили, что такие запреты могут вводиться только руководствами образовательных учреждений.

ООН выражает опасения относительно потенциально вредных для людей достижений в области нейротехнологий, в частности, по поводу имплантации чипов с ИИ в человеческий мозг. Эта технология может нарушить психическую конфиденциальность людей, давая ИИ доступ к их мыслям и возможность манипулировать механизмами мозга. Поэтому необходимо тщательное госрегулирование данной сферы.

Источник изображения: geralt / Pixabay

«Это все равно, что посадить нейротехнологии на стероиды», — сказала Мариаграция Сквичиарини (Mariagrazia Squicciarini), экономист из ООН по вопросам образования, науки и культуры.

По мере того, как ИИ будет осваивать сферу нейротехнологий, он будет нуждаться в государственном регулировании. По мнению Габриэлы Рамос (Gabriela Ramos), помощника Генерального директора ЮНЕСКО по социальным и гуманитарным наукам, эта технология обладает далеко идущими и потенциально вредными возможностями. «Мы находимся на пути к миру, в котором алгоритмы способны расшифровывать психические процессы людей и напрямую манипулировать механизмами мозга, лежащими в основе их намерений, эмоций и решений», — заявила Рамос.

Генеральный секретарь ООН Антонио Гутерриш (Antonio Guterres) считает, что эта технология развивается с огромной скоростью и, хотя она способна изменить жизнь человека к лучшему, её практическая реализация может иметь и неприятные последствия. В качестве примера была приведена Ханна Галвин (Hannah Galvin), женщина, страдающая эпилепсией, в мозг которой было установлено нейротехнологическое устройство для обнаружения припадков и оповещения пациента о том, когда следует лечь. Устройство в конечном итоге ухудшило жизнь Галвин, которая сказала, что у нее было до 100 припадков в день, поэтому устройство постоянно срабатывало. «Мне казалось, что в моей голове кто-то есть, и это была не я. И я становилась всё более и более подавленной. Мне это совсем не нравилось», — рассказала Галвин, которой в итоге удалили это устройство.

Однако, стоит учесть, что имеются и некоторые позитивные аспекты в использовании ИИ в нейротехнологиях. Такие решения могут помочь в лечении различных нейродегенеративных заболеваний, включая болезнь Паркинсона, а также облегчить жизнь людям с постоянной потерей памяти или тем, кто страдает от тяжёлых травм мозга. По мнению Сквичиарини, эта технология может стать фантастической для других людей, позволяя слепым видеть или парализованным ходить.

В новом технологическом мире, где нейротехнологии приобретают всё большую популярность, важно взвесить все возможные преимущества и риски. Ведь эти инновации не только способны облегчить жизнь людей, но и представляют собой потенциальную угрозу для права каждого человека на частную жизнь и неприкосновенность его мысли.

«Нейротехнологии могут помочь решить многие проблемы со здоровьем, но они также могут получить доступ к мозгу людей и манипулировать им, а также получать информацию о нашей личности и наших эмоциях. Это может угрожать нашим правам на человеческое достоинство, свободу мысли и неприкосновенность частной жизни», — заявила в июне Генеральный директор ЮНЕСКО Одри Азулай (Audrey Azoulay), предложив установить общие этические рамки для подобных технологий на международном уровне.

Одним из главных вызовов, который стоит перед развитием нейротехнологий, является потенциальное злоупотребление. По мнению экспертов и чиновников, есть риск, что эти технологии могут быть использованы для незаконной слежки и манипуляции. Это подчёркивает необходимость в тщательном контроле и государственном регулировании данной сферы.

Со следующего года продовольственная гуманитарная помощь ООН будет доставляться в зоны конфликтов и стихийных бедствий при помощи роботов, управляемых искусственным интеллектом. Об этом агентству Reuters сообщил представитель Всемирной продовольственной программы (ВПП) — подведомственной ООН крупнейшей гуманитарной организации.

Источник изображения: reuters.com

На фоне резко возросшего числа военных конфликтов со времён Второй мировой войны участились нападения на работников гуманитарных служб ООН — в начале этого года трое из них погибли в Судане. «Иногда отправлять водителя или сотрудников ВПП слишком опасно. Шагом вперёд может стать применение этой технологии», — прокомментировал инициативу глава отдела инноваций ВПП Бернхард Ковач (Bernhard Kowatsch).

Речь идёт о грузовых транспортных роботах-амфибиях грузоподъёмностью 1–2 т. Разработка машин началась в период между 2012 и 2016 гг., когда шли бои за сирийский Алеппо, и работники гуманитарной организации пытались доставлять помощь в осаждённые части города, а поднимать авиацию в той части страны не получалось.

Сегодня в Южном Судане уже работают около 50 таких машин. Пока они управляются операторами, но в следующем году начнутся испытания их беспилотных версий. Инициатива реализуется в рамках проекта AHEAD (Autonomous Humanitarian Emergency Aid Devices — «Автономные устройства для оказания экстренной гуманитарной помощи») при содействии Немецкого аэрокосмического центра (DLR). ИИ будет получать навигационные данные от спутников и различных сенсоров, показаниями которых сейчас руководствуются операторы. Использовать новые машины также планируют в Южном Судане, где нехватку продовольствия испытывают 7,7 млн человек, проезд к которым затрудняют последствия наводнений.