Генеративный искусственный интеллект продолжает страдать от проблемы галлюцинаций. Хотя многие ответы на запросы пользователей в значительной степени точны, такие программы, как ChatGPT, Google Gemini и Microsoft Copilot, всё ещё склонны выдавать выдуманную информацию и факты.
И это ещё не всё: эти ИИ-программы создают источники, которые кажутся авторитетными, но на самом деле являются полностью вымышленными. Миллионы пользователей могут считать это раздражающим, но для людей, которым доверено предоставлять надёжную информацию, — библиотекарей — это становится серьёзной проблемой.
«Нашим сотрудникам гораздо сложнее доказать, что уникальной записи не существует», — сказала Сара Фоллс, библиотекарь по работе с исследователями в Библиотеке Вирджинии, в интервью журналу Scientific American.
По оценкам Фоллс, около 15% всех справочных вопросов, с которыми сталкивается её команда, написаны с помощью генеративного ИИ, некоторые из них содержат вымышленные цитаты и источники.
Такое увеличение нагрузки на библиотекарей и учреждения настолько велико, что даже такие организации, как Международный комитет Красного Креста (МККК), предупреждают о проблеме.
«Особый риск заключается в том, что инструменты генеративного ИИ всегда дают ответ, даже когда исторические источники неполны или молчат, — говорится в публичном уведомлении МККК. — Поскольку их цель — генерировать контент, они не могут указать, что информации не существует; вместо этого они выдумывают детали, которые кажутся правдоподобными, но не имеют под собой никакой основы в архивных документах».
Вместо того чтобы запрашивать у такой программы, как ChatGPT, список отчётов МККК, организация предлагает вам напрямую обращаться к их общедоступному каталогу информации и научным архивам. Эту же стратегию следует применять и в отношении любых учреждений. К сожалению, пока многие не поймут ненадёжность генеративного ИИ, нагрузка будет оставаться на плечах людей-архивариусов.
«Мы, вероятно, также будем информировать наших пользователей о том, что мы должны ограничить время, затрачиваемое на проверку информации», — предупреждает Фоллс.
Есть веская причина, по которой библиотекари оставались неотъемлемым компонентом обществ на протяжении тысячелетий. В отличие от генеративного ИИ, их обучают критически мыслить, искать ответы и, что наиболее важно, признавать свои ошибки.
Статья «Библиотекари не справляются с некачественным ИИ» впервые опубликована в журнале Popular Science.