«Грокипедия» стала редактируемой — и начался хаос

grokipedia.com
С обновлением до версии Grokipedia 0.2 любой пользователь теперь может вносить изменения в информацию. Для этого достаточно выделить фрагмент текста, нажать кнопку Suggest Edit и ввести предложенную правку с источниками. Однако окончательное решение о внесении изменений принимает сам ИИ-ассистент, известный своей предвзятостью и неточностями, отмечает The Verge.
В отличие от Wikipedia, где редактирование сопровождается детальными логами, системой уведомлений, правилами оформления и сообществом модераторов, Grokipedia не предоставляет ни руководств для редакторов, ни понятного интерфейса для отслеживания изменений. Система отображает лишь общее число одобренных правок (на момент публикации — 22 319), при этом скрывая, какие именно правки были внесены, на каких страницах и кем предложены.

Лог одобрений доступен только через неудобное всплывающее окно без функций сортировки или поиска. При этом ИИ демонстрирует противоречивость, например, в статье, касающейся семьи Маска редакторы предлагали корректно отразить гендерную идентичность его дочери, но Grok вносил изменения фрагментарно, оставляя в тексте смесь старых и новых формулировок.
Чат-бот также по-разному реагирует на похожие по смыслу запросы и, в зависимости от формулировки, может как отклонить, так и принять одну и ту же правку. Особенно тревожной выглядит в Grokipedia уязвимость статей на чувствительные темы. В частности, в логах обнаружены отклонённые, но настойчиво повторяющиеся предложения исказить данные о Холокосте или представить Гитлера исключительно как художника.

Также по теме: