Согласно новому исследованию, для повышения доверия и укрепления верховенства закона необходима большая прозрачность со стороны стран относительно того, как они используют ИИ для управления миграцией.
Эксперты предупреждают, что чрезмерное использование ИИ в управлении миграцией может привести к закреплению предвзятости и ошибок, способствуя излишней зависимости от технологий и подрыву доверия к процессам принятия решений. Для защиты чувствительных данных о уязвимых мигрантах также необходимы адекватные меры кибербезопасности.
Однако использование ИИ для управления миграцией может открыть возможности, например, освободить время сотрудников для работы над другими важными задачами, если это будет сделано ответственно, с надлежащим выявлением и устранением потенциальных рисков.
Исследование, проведённое профессором Аной Бедуски из Эксетерского университета, подчёркивает важность улучшения использования ИИ в миграции и соблюдения международного права в области прав человека.
Государства должны обеспечить ответственное использование ИИ и уважение прав и достоинства мигрантов на всех этапах миграционного процесса.
Правительства используют технологии ИИ, включая генеративный ИИ, для оптимизации рабочих нагрузок и повышения эффективности обработки миграции. Однако не все страны публично признали, используют ли они ИИ в управлении международной миграцией и, если да, то каким образом.
В исследовании говорится, что страны должны публично признавать использование ИИ, не раскрывая при этом конфиденциальную информацию, которая может поставить под угрозу национальную безопасность или личную информацию. Это включает информацию о том, какие системы ИИ используются, для каких целей и в какой степени они предполагают участие человека.
Профессор Бедуски сказала: «Повышение прозрачности поможет повысить принятие людьми ИИ в государственных услугах. Прозрачность также может привести к повышению подотчётности, обеспечивая обоснованность решений и их соответствие верховенству закона. Даже в таких чувствительных областях, как миграция, где вопросы могут быть тесно связаны с императивами национальной безопасности, государственные органы должны нести ответственность за свои решения и действия».
При использовании ИИ для регулирования миграции государства должны соблюдать международное право в области прав человека, включая правила, касающиеся права на частную жизнь и гарантии недискриминации.
Профессор Бедуски разработала матрицу рисков, которая может быть использована для выявления, приоритизации, предотвращения и смягчения рисков. Эта система помогает государствам ответственно использовать ИИ в международной миграции. Она призывает их активно и тщательно оценивать, могут ли системы ИИ, включая генеративный ИИ, потенциально причинить вред или ухудшить существующее положение мигрантов и их сообществ.
Предоставлено Эксетерским университетом