«ИИллюзИИ и галлюцитирования»: исследователи из Петербурга создали проект для борьбы с фейковыми библиографическими ссылками, созданными нейросетью

Светлана Морозова рассказала, что в рамках проекта «ИИллюзИИ и Галлюцитирования» сотрудники фундаментальной библиотеки провели исследование, которое помогло создать сервис, выявляющий фейковые ссылки на научную литературу в уже опубликованных работах в авторитетных изданиях.

Сервис уже внедрен в систему идентификации ссылок РИНЦ. Эти же наработки будут использованы системами распознавания плагиата.

Несуществующие библиографические ссылки эксперт назвала мировой проблемой, обьясним механизм формирования библиографических конфабуляций:«Пользователь приходит к модели, называет предполагаемую тему своей статьи и просит найти список литературы. Алгоритм обязывает модель дать ответ, и она комбинирует реальные элементы (фамилии авторов, фрагменты заглавий, журналы, годы выпуска, диапазон страниц) с выдуманными. Модель рассчитывает на продолжение диалога с пользователем, но тот зачастую берет первоначальный список, вставляет его в статью и не проверяет достоверность».

По словам Светланы Морозовой, проблема затронула не только образовательный процесс, но и профессиональную научную среду.