Представьте, что вы узнали: инструмент искусственного интеллекта (ИИ) предлагает точные прогнозы по некоторым вашим акциям. Как бы вы отнеслись к его использованию? А если бы вы подавали заявку на работу в компанию, где отдел кадров использует систему ИИ для отбора резюме? Вам было бы комфортно?
Новое исследование показывает, что люди не относятся к ИИ ни с полным энтузиазмом, ни с тотальным неприятием. Вместо того чтобы разделяться на технооптимистов и луддитов, они оценивают практическую пользу от использования ИИ в каждом конкретном случае.
«Мы предполагаем, что оценка ИИ происходит, когда ИИ воспринимается как более способный, чем человек, и персонализация воспринимается как ненужная в данном контексте принятия решений», — говорит профессор Массачусетского технологического института (MIT) Джексон Лу, соавтор недавно опубликованной статьи с результатами исследования. «Неприятие ИИ происходит, когда любое из этих условий не выполняется, а оценка ИИ происходит только тогда, когда оба условия соблюдены».
Статья «AI Aversion or Appreciation? A Capability-Personalization Framework and a Meta-Analytic Review» опубликована в журнале Psychological Bulletin. В работе восемь соавторов, включая Лу, который является доцентом по карьерному развитию в области изучения труда и организаций в Школе менеджмента Sloan при MIT.
Новая концепция добавляет понимания
Отношение людей к ИИ долгое время было предметом обширных дискуссий, часто приводивших к кажущимся несопоставимыми выводам. Влиятельная статья 2015 года об «аверсии к алгоритмам» показала, что люди менее снисходительны к ошибкам, созданным ИИ, чем к человеческим ошибкам. В то же время широко известная статья 2019 года об «оценке алгоритмов» обнаружила, что люди предпочитают советы от ИИ, а не от людей.
Чтобы согласовать эти противоречивые данные, Лу и его соавторы провели метаанализ 163 предыдущих исследований, сравнивающих предпочтения людей в отношении ИИ и людей. Исследователи проверили, подтверждают ли данные предложенную ими «Концепцию способности — персонализации» — идею о том, что в данном контексте как воспринимаемая способность ИИ, так и воспринимаемая необходимость персонализации формируют наши предпочтения в отношении ИИ или людей.
В рамках 163 исследований исследовательская группа проанализировала более 82 000 реакций на 93 различных «контекста принятия решений» — например, чувствовали бы участники себя комфортно, если бы ИИ использовался для диагностики рака. Анализ подтвердил, что концепция «Способность — персонализация» действительно помогает объяснить предпочтения людей.
«Метаанализ поддержал нашу теоретическую концепцию, — говорит Лу. — Оба аспекта важны: люди оценивают, является ли ИИ более способным, чем человек, в данной задаче, и требует ли задача персонализации. Люди будут предпочитать ИИ только если они считают, что ИИ более способен, чем человек, и задача не требует персонализации».
Он добавляет: «Ключевая идея здесь заключается в том, что высокая воспринимаемая способность сама по себе не гарантирует оценки ИИ. Важна также персонализация».
Например, люди склонны отдавать предпочтение ИИ, когда речь идёт о выявлении мошенничества или сортировке больших наборов данных — областях, где возможности ИИ превосходят человеческие по скорости и масштабам, а персонализация не требуется. Но они более устойчивы к ИИ в таких контекстах, как терапия, собеседования при приёме на работу или медицинская диагностика, где они считают, что человек лучше способен понять их уникальные обстоятельства.
«У людей есть фундаментальное желание видеть себя уникальными и отличными от других людей, — говорит Лу. — ИИ часто рассматривается как обезличенный и работающий по шаблону. Даже если ИИ обучен на большом объёме данных, люди считают, что ИИ не может понять их личные ситуации. Они хотят, чтобы рекрутер был человеком, врачом-человеком, который может видеть в них нечто уникальное».
Контекст также имеет значение: от ощутимости до безработицы
Исследование также выявило другие факторы, влияющие на предпочтения людей в отношении ИИ. Например, оценка ИИ более выражена в отношении осязаемых роботов, чем в отношении неосязаемых алгоритмов.
Экономический контекст также имеет значение. В странах с более низким уровнем безработицы оценка ИИ более выражена.
«Это имеет интуитивный смысл, — говорит Лу. — Если вы беспокоитесь о том, что вас заменит ИИ, вы с меньшей вероятностью будете его приветствовать».
Лу продолжает изучать сложные и развивающиеся отношения людей с ИИ. Хотя он не считает текущий метаанализ последним словом в этом вопросе, он надеется, что концепция «Способность — персонализация» предложит ценную возможность для понимания того, как люди оценивают ИИ в разных контекстах.
«Мы не утверждаем, что воспринимаемая способность и персонализация — единственные два аспекта, которые имеют значение, но, согласно нашему метаанализу, эти два аспекта отражают многое из того, что формирует предпочтения людей в отношении ИИ по сравнению с людьми в широком спектре исследований», — заключает Лу.
Помимо Лу, соавторами статьи являются Синь Цинь, Чэнь Чэнь, Хансен Чжоу, Сяовей Донг и Лэймэй Цао из Университета Сунь Ятсена; Сян Чжоу из Шэньчжэньского университета; и Дунъюань Ву из Университета Фудань.
Исследование частично финансировалось грантами, предоставленными Циню и Ву Национальным фондом естественных наук Китая.