Wikipedia переживает кризис из-за того, что пользователи массово стали публиковать бессмысленную или непроверенную информацию, сгенерированную искусственным интеллектом с помощью чат-ботов, таких как ChatGPT и ему подобных. Однако, учитывая растущую популярность ИИ-технологий, этого можно было ожидать.

Источник изображения: BoliviaInteligente/Unsplash

Как сообщает TechSpot, для решения проблемы был создан проект под названием WikiProject AI Cleanup, представляющий из себя группу добровольцев, которая занимается поиском, редактированием и удалением ложной информации, предположительно добавленной с помощью генеративного ИИ.

Ильяс Леблю (Ilyas Lebleu), один из основателей команды по «очистке», сообщил, что о проблеме стало известно, когда редакторы и пользователи Wikipedia заметили отрывки статей, явно написанные чат-ботом. Подозрения подтвердились, когда некоторые из этих текстов удалось воссоздать с помощью ChatGPT.

«Мы обратили внимание на необычный стиль письма, который был явно написан не человеком, мы смогли воспроизвести эти фразы с помощью ChatGPT, — сказал Леблю. — Обнаружив характерные обороты и выражения, мы идентифицировали наиболее вопиющие примеры сгенерированных статей. После этого и было решено организовать проект по поиску ИИ-текста».

Один из примеров — статья о якобы существующей османской крепости под названием «Амберлисихар», построенной в 1400-х годах. В тексте объёмом около 2000 слов подробно описывалось местоположение и строительство этого объекта. Однако крепость на самом деле не существует, и вся информация о ней была полностью вымышленной, но выглядела убедительно благодаря вкраплениям реальных фактов. При этом проблема касается не только новых статей на Wikipedia. Недобросовестные пользователи вставляют ложные данные в уже существующие статьи. В одном из случаев в статью о жуке добавили раздел, посвящённый виду крабов, причём с правильными ссылками на источники.

Леблю и его коллеги признают, что до конца не понимают, почему люди это делают. Однако причины очевидны. Во-первых, это проблема самой системы Wikipedia, которая позволяет каждому стать редактором. Кстати, именно по этой причине многие университеты запрещают студентам использовать Wikipedia в качестве основного источника информации.

Во-вторых не секрет, что интернет часто становится объектом злоупотреблений, особенно сейчас, когда появился искусственный интеллект. В качестве примера может послужить печально известный бот Microsoft по имени Tay, который был отключён менее чем через 24 часа после запуска за публикацию оскорбительных и расистских твитов в X. Также ИИ используется для создания дипфейков и книг на Amazon Kindle.

Интернет-энциклопедия «Википедия», принадлежащая американской организации Wikimedia Foundation, за весь текущий год удалила по запросу Роскомнадзора лишь 1 из 201 материалов. В 2023 году администрация ресурса также удалила только один материал с противоправной информацией, сообщил представитель регулятора.

Источник изображения: Роскомнадзор

В общей сложности в 2024 году в «Википедии» было выявлено 129 материалов, связанных с фейковой информацией о ходе специальной военной операции. Остальные статьи связаны с распространением экстремистских материалов, информации о вовлечении несовершеннолетних в совершение противоправных действий, сведений об изготовлении взрывчатки, а также суицидального, пронаркотического и другого контента, распространение которого на территории России запрещено.

В Роскомнадзоре сообщили, что за неудаление запрещённой информации из «Википедии» поисковые системы будут информировать пользователей о нарушении законодательства РФ иностранным юридическим лицом. Ранее «Википедию» уже штрафовали на 4 млн за отказ удалить запрещённую к распространению в России информацию. При этом полностью заблокировать ресурс достаточно сложно, поскольку в стране на данный момент нет полноценных аналогов, которые могли бы заменить «Википедию».

Общее количество статей в русскоязычном разделе «Википедии» накануне превысило 2 млн. На преодоление второго миллиона у авторов ресурса ушли более 11 лет. Русскоязычный раздел является четвёртым по размерам в «Википедии».

Источник изображения: ru.wikinews.org

Двухмиллионная статья русской «Википедии» была зафиксирована накануне, 18 сентября 2024 года, в 16:29 мск — она оказалась посвящённой рассказу Владимира Набокова «Музыка», а добавил её википедист и журналист из Омска Николай Эйхвальд. Миллионная статья в русскоязычном разделе онлайн-энциклопедии появилась 11 мая 2013 года.

Формально русская «Википедия» является седьмой по числу материалов. Но в этом списке некоторые разделы относятся к «ботопедиям» — они либо полностью (себуанская, варайская), либо в значительной мере (нидерландская, шведская) состоят из автоматических заливок. Если же учитывать лишь «честно» написанные материалы, то русскоязычный раздел «Википедии» занимает уже четвёртое место в мире, уступая английскому, немецкому и французскому.

Около пяти лет назад сформировался стабильный запрос пользователей на тёмную тему или тёмный режим для приложений, который меньше напрягает глаза в тёмное время суток — тогда же появилась соответствующая системная настройка в Android и iOS с командой для сторонних приложений. Тёмные темы появились и у других систем, сайтов и цифровых инструментов — за исключением «Википедии».

Источник изображения: wikipedia.org

У популярнейшей в мире онлайн-энциклопедии до настоящего момента не было штатных способов переключить цветовое оформление страниц, но под давлением сообщества эти изменения всё-таки были внесены — тёмный режим (тёмная опция в настройке «Цвет») стал доступен в настольной и мобильной версиях сайта.

В десктопном варианте сайта в обновлённом дизайне есть правая панель, на которой можно выбрать внешний вид страницы: размер шрифта, ширину содержимого и цветовое оформление. Если панель отсутствует, её можно вызвать, нажав на кнопку с изображением очков в правом верхнем углу страницы — она может быть выпадающей или закреплённой на странице. В разделе «Цвет» доступны три опции: «Светлый», «Тёмный» и «Автоматический» — на основании настроек системы. В мобильной версии потребуется выбрать пункт «Настройки», который появляется при выборе «кнопки-гамбургера» с тремя горизонтальными линиями в левом верхнем углу страницы.

Тёмная тема для «Википедии» по итогам 2023 года стала самой востребованной функцией сайта. Пока данная функция доступна в формате бета-версии и может давать непредсказуемые результаты. К примеру, она несовместима с браузерными расширениями, которые сами делают «Википедию» тёмной. Могут также возникать конфликты с некоторыми статьями, где некоторые цвета жёстко запрограммированы. Первый запрос на тёмную тему для «Википедии» был зарегистрирован 22 июня 2010 года, но ситуация начала меняться лишь в 2022 году. Задача была помечена как решённая 12 июля 2024 года, но многие подзадачи до сих пор значатся как невыполненные.

Некоммерческая организация «Викимедия Фаундейшн», которая обеспечивает работу «Википедии», подала в Тверской районный суд Москвы три иска к первому заместителю генпрокурора Анатолию Разинкину, гласит информация в судебной картотеке.

Источник изображения: succo / pixabay.com

Истец просит суд признать требования Генпрокуратуры о принятии мер по ограничению доступа к ресурсам «Википедии» от 5 июля 2023 года полностью незаконными. Представители некоммерческого фонда также просят признать незаконными уведомления Роскомнадзора о нарушении порядка распространения информации — в них регулятор указал адреса страниц, которые содержат соответствующие нарушения.

Аналогичные требования «Викимедия Фаундейшн» заявила по всем трём зарегистрированным искам, сообщают «Ведомости» со ссылкой на заявление пресс-службы суда. Оператор «Википедии» регулярно получает штрафы за отказ удалить запрещённый российскими законами контент. Только за 2023 год некоммерческой организации были назначены административные наказания в виде штрафов на общую сумму более 18 млн руб.

Эксперимент ресурса CNET с использованием генеративного искусственного интеллекта для написания статей привёл к плачевным результатам — редакторы «Википедии» понизили его рейтинг надёжности из-за многочисленных ошибок в публикуемом контенте и наличия плагиата.

Источник изображения: geralt/Pixabay

В прошлом году много споров вызвала публикация ресурса Futurism, рассказавшего, что CNET в течение нескольких месяцев «потихоньку» публиковал статьи, написанные ИИ, не привлекая особого внимания общественности и не делая официальных заявлений по этому поводу.

Статьи на финансовую тему начали появляться на сайте ресурса в ноябре 2022 года под подписью CNET Money Staff. Они были сгенерированы ИИ, о чём свидетельствует большое количество ошибок и порой дословное копирование работ других авторов. Из-за ошибок ресурсу CNET пришлось внести исправления в 41 из 77 статей, написанных с использованием ИИ.

В связи с разоблачением Futurism руководство CNET отметило, что публикация статей с использованием ИИ производилась «без особого шума», но не «тайно», но вместе с тем приостановило эксперимент. Другие сайты, тоже принадлежащие Red Ventures, как и CNET, также приостановили публикацию статей, написанных с помощью ИИ.

Источник изображения: techspot.com

Согласно данным «Википедии», CNET имел самый высокий рейтинг надёжности до октября 2020 года. Затем с этой даты по октябрь 2022 года не было консенсуса, что, по мнению «Википедии», было связано с ухудшением редакционных стандартов после приобретения ресурса компанией Red Ventures. А с ноября 2022 года по настоящее время CNET классифицируется «Википедией» как «в целом ненадёжный» ресурс, что связано с наличием множества ошибок в статьях, написанных ИИ.

Запущенный минувшим летом портал «Рувики», который позиционируется как отечественный аналог «Википедии», завершил этап бета-тестирования, и 15 января он заработает в полноценном режиме.

Источник изображения: ruwiki.ru

В ближайшие дни администрация ресурса запустит финальный вариант. Портал ожидает ряд изменений, в том числе механизмы персонализации контента, тематические подборки материалов, функции аудиопересказа полной и сокращённой версий статьи. У пользователей появится обновлённый личный кабинет, готовится запуск видео и подкастов, сообщила «Известиям» пресс-служба проекта.

Сегодня общий объём русскоязычных материалов «Рувики» достиг 1 940 683 статей. В среднем пользователь «Рувики» проводит на сайте шесть минут, а глубина просмотра составляет более пяти страниц. В бета-версии портала изначально введены статусы «выверенных» и «рецензированных» статей. «Выверенными» занимается редакция ресурса, а «рецензированными» — сторонние эксперты.

С момента запуска интерфейс «Рувики» получил поддержку 20 языков народов России, включая алтайский, башкирский, бурятский, вепсский, ингушский и калмыцкий. В соответствующих разделах сейчас более 1,1 млн статей. В течение 2024 года на портале появятся ещё 10 языковых разделов.

В декабре некоммерческое партнёрство «Викимедиа РУ», занимавшееся развитием русскоязычного раздела «Википедии», объявило о намерении закрыться по собственной инициативе.

Некоммерческое партнёрство «Викимедиа РУ», которое занималось управлением российского сегмента «Википедии», объявило о своём закрытии. Об этом на официальном форуме сообщил глава организации Станислав Козловский✶.

Источник изображения: wikipedia.org

Вчера, сообщил господин Козловский✶, в деканате факультета психологии МГУ, где он проработал на должности доцента почти 25 лет, ему сообщили о наличии «достоверной информации», что в ближайшую пятницу он будет признан иноагентом. В этой связи учёный принял решение добровольно оставить свою должность в МГУ. В тот же день он провёл экстренное собрание НП «Викимедиа РУ», в ходе которого рассказал об инциденте. По итогам собрания было принято решение о закрытии организации.

Процедура ликвидации «Викимедиа РУ» займёт несколько месяцев. «Надеюсь, больше никто не пострадает», — заключил господин Козловский✶. Организация осуществляла управление российским сегментом «Википедии». В мае этого года был уволен предыдущий глава «Викимедиа РУ» Владимир Медейко. Причиной тому стало его участие в разработке отечественного аналога онлайн-энциклопедии — проекта «РуВики».

Российский аналог «Википедии» под названием «Рувики» стал доступен широкой аудитории пользователей, однако пока что в виде бета-версии. В настоящее время на сайте «Рувики» размещено около 2 млн статей на русском языке.

Источник изображения: «Рувики»

«Работает бета-версия, мы меняем контент, технические вопросы обслуживаем. На самом деле она запустилась не сегодня, сегодня это просто заметили. Она работала уже все выходные, это тестовый режим, который мы пока для тестеров включили», — приводит источник слова генерального директора АНО «Интернет-энциклопедия Рувики» Владимира Медейко. Он также сообщил, что полноценный запуск портала должен состояться до конца этого месяца.

Напомним, о создании энциклопедии «Рувики» в прошлом месяце сообщил заместитель председателя комитета Госдумы по информационной политике Антон Горелкин. У истоков «Рувики» стоит бывший директор «Викимедиа РУ» Владимир Медейко. Создатель проекта заверил, что «Рувики» не противопоставляет себя «Википедии», но и «не будет вызывать насторожённости, которая сейчас есть у заметного количества читателей» ресурса. По его словам, «Википедия» заработала в России «неоднозначную репутацию». «Рувики» должна стать энциклопедическим изданием, «куда приходят за сбалансированной точной информацией». «Наши ключевые ценности — достоверность, сбалансированность, нейтральность», — отмечают создатели «Рувики».

Отметим, что это не первый аналог популярной электронной энциклопедии. Летом прошлого года сообщалось о запуске аналога «Википедии» под названием «Руниверсалис». На данный момент этот сервис продолжает оставаться доступным для пользователей.

В России представлен очередной отечественный аналог «Википедии» — «Рувики». Электронную энциклопедию планируется разместить на российских серверах и управлять ею будет российское юрлицо. У истоков «Рувики» стоит директор «Викимедиа РУ» Владимир Медейко. В «Викимедиа РУ» уже поднят вопрос о лишении Медейко должности.

Источник изображения: tvzvezda.ru

По словам Медейко, новый проект является ответвлением («форком») «Википедии» и никак не связан с «Викимедиа» или с государством. Утверждается, что «Рувики» финансируется исключительно частными инвесторами, но их имена и сумму вложений не раскрыли.

Первые 1,9 млн русскоязычных статей будут перенесены в новый проект прямиком из «Википедии», но в дальнейшем платформу будет развиваться самостоятельно и «иначе». Создатель проекта заверил, что «Рувики» не противопоставляет себя «Википедии», но и «не будет вызывать насторожённости, которая сейчас есть у заметного количества читателей» ресурса. По его словам, «Википедия» заработала в России «неоднозначную репутацию». «Рувики» должна стать энциклопедическим изданием, «куда приходят за сбалансированной точной информацией». «Наши ключевые ценности — достоверность, сбалансированность, нейтральность», — отмечают создатели «Рувики».

«Рувики» создаётся для «формирования обширного массива проверенных материалов и создания условий для привлечения к работе над проектом максимального количества экспертов». К проекту планируется привлечь как волонтёров, так и профессиональных редакторов. Авторов из «Википедии» новый проект готов принять на общих основаниях.

Источник изображения: «Рувики»

В дальнейшем пользователям обещан современный интерфейс, использование ИИ, персонализация контента и рабочей среды, и интеграция с сервисами. «Рувики» будет базироваться на продуктах с открытым исходным кодом и на собственных разработках, которые также будут выложены в открытый доступ. Для тренировки больших языковых моделей «Рувики» планирует участвовать в «создании обучающих выборок на языках народов России». В планах компании — сотрудничество с «Яндексом», «Сбером» и ИИ-проектами и сообществами LAION, Open Assistant, Databricks и EleutherAI.

Некоммерческое партнерство «Викимедиа РУ», управляющее российским сегментом «Википедии», запланировало на сегодняшний вечер проведение собрания, на котором будет решён вопрос о лишении полномочий директора Владимира Медейко. Об этом RTVI сообщил исполнительный директор НП «Викимедиа РУ» Станислав Козловский.✶

«Любой человек может делать свои проекты, это никому не запрещено, любой может брать контент “Википедии” и его использовать, это совершенно нормально. Ненормально использовать для этого полномочия директора “Викимедиа РУ” и несколько лет этим заниматься совершенно тайно. На мой взгляд, это не очень красиво», — объяснил Козловский.✶

«Рувики» — это уже третий проект по созданию суверенного российского аналога «Википедии». В августе 2022 года был запущен проект «Руниверсалис», «уважающий традиционные ценности». В декабре Минцифры сообщило о планах по созданию проекта «Знания», который должен был получить приоритет перед «Википедией» в поисковой выдаче.

Wikimedia Foundation в России неоднократно была оштрафована за неудаление запрещённой в России информации. В мае прошлого года Роскомнадзор потребовал от Wikimedia Foundation открытия представительства в России, а в июле вменил поисковым системам в обязанность помечать владельца энциклопедии как нарушителя законов России.

Несмотря на частые и серьёзные неточности в высказываниях, большая языковая ИИ-модель GPT вынудила основателя «Википедии» Джимми Уэйлса (Jimmy Wales) не на шутку задуматься о том, чтобы привлечь ИИ к написанию материалов для самой читаемой энциклопедии в истории человечества.

Джимми Уэйлс (Jimmy Wales). Источник изображения: wikipedia.org

В недавнем интервью британской газете Evening Standard Уэйлс рассуждает о присущих ИИ проблемах, включая его склонность к «галлюцинациям», но отмечает, что эта технология при расходах не более чем в £1000 ($1250) за год могла бы утроить число статей в «Википедии». Большая языковая модель вроде GPT смогла бы использоваться, например, для сравнения статей и поиска противоречащих друг другу точек зрения — система показала бы волонтёрам, куда можно приложить усилия.

Ещё один возможный сценарий более очевиден: поручить ИИ поиск пробелов в «Википедии» и написание сводных записей для страницы, которые ещё не написаны, с использованием информации из интернета. С другой стороны, отметил господин Уэйлс, репутация ресурса зиждется на особом отношении к объективности информации, и для больших языковых моделей вроде GPT это пока настоящая проблема. И если своевременно не обнаруживать не соответствующую действительности информацию, она начнёт множиться как снежный ком. Люди будут использовать её в своей работе, и на ней будут обучаться другие ИИ-модели, исправлять ошибки которых со временем будет всё труднее.

Наконец, Джимми Уэйлс пока не нашёл ответа, как повлияет работа ИИ на систематическую, хотя и бессознательную предвзятость «Википедии» — большинство волонтёров освещают некоторые темы преимущественно со своей точки зрения и игнорируют то, что не представляет для них интереса. С одной стороны, ChatGPT был разработан, чтобы попытаться найти сбалансированный взгляд на различные темы и внести в них новые нюансы, но и у GPT отмечается предвзятость, присущая её обучающим данным.

Wikimedia Foundation объявила о запуске первого крупного обновления интерфейса «Википедии» за более чем десять лет. Обновление уже вышло в англоязычной «Википедии», а также «в 94 % из 318 активных языковых версий» ресурса для пользователей настольных компьютеров.

Источник изображений: «Википедия»

Обновлённый интерфейс, выпущенный сразу после 22-й годовщины англоязычной «Википедии», выдвигает на первое место наглядность, удобство и модернизирует взаимодействие пользователей с сервисом, чтобы им было проще получать доступ к информации, исследовать её и делиться знаниями.

«Обновление настольной “Википедии” — одно из основных улучшений, которое мы вносим, чтобы помочь людям получать доступ к мировым знаниям, в поддержку нашей миссии по обеспечению свободного и равноправного доступа каждого человека на планете к знаниям, независимо от того, где они находятся. живут или откуда они, — сказала Селена Декельманн (Selena Deckelmann), директор по продуктам и технологиям Wikimedia Foundation. — Изменения облегчают людям поиск и изучение результатов работы наших волонтёров. Эти функции были созданы с учётом отзывов читателей и волонтёров со всего мира, чтобы удовлетворить потребности нашей всё более разнообразной аудитории, сохраняя при этом простоту и прямоту, которым миллионы людей доверяют за последние 22 года».

В обновлении для настольной версии представлено множество новых функций, в том числе:

• улучшенный поиск теперь использует изображения и описания;
• оптимизированные инструменты переключения языков (более 300 языков);
• обновлённый «липкий» заголовок с часто используемыми ссылками;
• новое оглавление обеспечивает контекст статьи и возможность навигации;
• улучшенное отображение текста для повышения удобства чтения;
• новое скрываемое боковое меню для комфортной навигации.

Обновлённый интерфейс не удаляет предыдущие функции. Вместо этого он представляет новые инструменты для улучшения работы существующего веб-сайта за счёт усовершенствований, основанных на консультациях с редакторами-добровольцами «Википедии», анализе данных и пользовательском тестировании. Более 30 различных групп добровольцев со всего мира, от Индии и Индонезии до Ганы и Аргентины, участвовали в разработке концепции, разработке продукта, тестировании и развёртывании. К сожалению, русский язык пока не вошёл в упомянутые 94 %, и русскоязычная страница «Википедии» представлена в старом интерфейсе, как видно по скриншоту ниже.

Улучшения были дополнительно сформированы глобальными исследованиями и отзывами пользователей. Эта совместная модель уникальна для проектов «Викимедиа», которые, в отличие от других технологических онлайн-платформ, отдают приоритет созданию вместе с пользователями, а не только для них.

Wikimedia Foundation собирает отзывы от новых и существующих пользователей «Википедии» и намерен продолжить модернизацию интерфейса сервиса, максимально отвечающего потребностям растущего глобального сообщества.

Стало известно, что портал «Знания», который позиционируется как отечественный аналог «Википедии», будет запущен в первом квартале 2023 года. Об этом пишет «Коммерсантъ» со ссылкой на главу Минцифры Максута Шадаева. Согласно имеющимся данным, в настоящее время на портале «Знания» размещено свыше 100 тыс. статей, тогда как в «Википедии» — более 1,8 млн публикаций.

Источник изображения: Pixabay

«Наша главная задача — иметь свой собственный портал, портал «Знания», который базируется на основе актуализированных материалов Большой российской энциклопедии <…> Планируется, что этот ресурс будет запущен в начале следующего года», — сказал господин Шадаев в ходе правительственного часа в Госдуме.

Напомним, в мае этого года глава государства заявил о востребованности в России объективной информации, а также о том, что «Википедия» не может являться единственным источником просветительского контента. В августе этого года был запущен аналог «Википедии» под названием «Руниверсалис», но сайт этого ресурса перестал функционировать через несколько часов после старта. Согласно имеющимся данным, над этим проектом работали бывшие редакторы русскоязычной версии «Википедии».