Джимми Уэйлс: искусственный интеллект может отвечать, но не может заслужить доверие

Википедия, которая почти четверть века обходится без рекламы и платных подписок, сегодня остаётся одной из самых устойчивых платформ цифрового мира. В период, когда кризис доверия и стремительное развитие искусственного интеллекта коренным образом меняют наше отношение к знаниям, основатель проекта Джимми Уэйлс в интервью журналу Fortune рассказал, как Википедии удаётся сохранять стабильность и что означает понятие «доверие» в эпоху ИИ.

По словам Уэйлса, финансовая модель платформы не менялась с самого начала: несмотря на то, что средний размер пожертвования составляет всего 10 долларов, миллионы жертвователей ежегодно вносят вклад снова и снова. Это позволяет Википедии не зависеть от рекламных доходов и не гнаться за кричащими заголовками ради трафика — именно это, подчёркивает Уэйлс, и обеспечивает платформе стабильность и спокойствие.

Центральной темой беседы стал вопрос использования контента Википедии компаниями, занимающимися искусственным интеллектом, для обучения своих моделей. Поскольку контент распространяется свободно по открытой лицензии, Википедия не может брать плату с AI-компаний за его использование, однако Уэйлса беспокоит то, как именно эти данные используются: «Когда на нашу инфраструктуру ложится такая серьёзная нагрузка, это должно происходить честно и организованно. Неправильно, что миллионы людей, жертвующих в среднем по 10 долларов, фактически субсидируют крупные технологические компании», — говорит он.

Ещё одна проблема, на которой отдельно останавливается Уэйлс, — это феномен «галлюцинаций» ИИ, когда система выдаёт информацию, звучащую убедительно и связно, но на деле ошибочную или полностью вымышленную. Большие языковые модели генерируют текст, предсказывая слово за словом на основе вероятностей, поэтому чем менее изучена тема, тем выше риск ошибки. Именно поэтому Википедия запрещает использовать искусственный интеллект для итогового написания статей — хотя на других этапах работы его помощь применяется всё активнее.

Как же платформа защищает себя? Уэйлс отвечает, что в этом помогают строгие требования к источникам и система коллективного редактирования: любая информация, добавленная без ссылки на источник, сразу же ставится под сомнение и проверяется другими редакторами. В качестве примера он приводит случай в немецкой Википедии, когда один из пользователей добавил ссылки на несуществующие книги с указанием ISBN-номеров — их попросту «придумал» AI-инструмент. Ошибку быстро обнаружили и исправили.

Тем не менее Уэйлс не согласен с мнением, что искусственный интеллект сам по себе делает людей пассивными в отношении знаний: по его опыту, ИИ, напротив, побуждает людей задавать вопросы и глубже изучать тему. Его вывод таков: главная проблема не в самой технологии, а в том, как мы её используем, — и именно здесь человеческая проверка и работа с источниками по-прежнему играют незаменимую роль.