Согласно новому исследованию Тринити-колледжа в Дублине и Университета Людвига-Максимилиана в Мюнхене, люди переносят свои гендерные предубеждения во взаимодействие с искусственным интеллектом (ИИ).
Основные выводы исследования
В исследовании, в котором приняли участие 402 человека, было обнаружено, что люди одинаково часто эксплуатируют ИИ с пометкой «женский» и не доверяют ИИ с пометкой «мужской». Более того, эксплуатация ИИ с «женской» пометкой оказалась даже более распространённой, чем в случае с партнёрами-людьми с такими же гендерными пометками.
Это первое исследование, в котором роль гендерных характеристик машин в сотрудничестве человека и ИИ изучается с помощью систематического эмпирического подхода.
Результаты исследования
Результаты показывают, что гендерные ожидания, сформированные в общении между людьми, распространяются и на сотрудничество с ИИ. Это имеет значительные последствия для того, как организации проектируют, внедряют и регулируют интерактивные системы ИИ, считают авторы.
Исследование, проведённое социологами из Школы социальных наук и философии Тринити-колледжа, было опубликовано в журнале iScience.
Ключевые моменты
* Сепидех Базази, первый автор исследования и приглашённый научный сотрудник Школы социальных наук и философии Тринити, объясняет: «Поскольку ИИ становится частью повседневной жизни, наши выводы о том, что гендерные ожидания распространяются на сотрудничество человека и ИИ, подчёркивают важность тщательного учёта гендерного представительства при разработке ИИ. Это необходимо для максимизации вовлечённости людей и укрепления доверия к их взаимодействию с автоматизированными системами».
* Таха Яссери, соавтор исследования и директор Центра социологии человека и машин (SOHAM) в Тринити, говорит: «Наши результаты показывают, что простое присвоение гендерной метки ИИ может изменить отношение людей к нему. Если организации наделяют агентов ИИ человеческими характеристиками, включая гендер, они должны предвидеть последствия для доверия и сотрудничества».
* Юргис Карпусь, соавтор исследования и постдокторант в Университете Людвига-Максимилиана в Мюнхене, добавляет: «Это исследование поднимает важную дилемму. Предоставление агентам ИИ человеческих характеристик может способствовать сотрудничеству между людьми и ИИ, но также рискует перенести и усилить нежелательные гендерные предубеждения, существующие во взаимодействии людей».
В этом экспериментальном исследовании участники играли повторяющиеся раунды эксперимента в социальных науках «Дилемма заключённого» — классического эксперимента в поведенческой теории игр и экономике для изучения человеческого сотрудничества и отказа от сотрудничества. Партнёры были помечены как люди или ИИ. Каждый партнёр был дополнительно помечен как мужчина, женщина, небинарный или гендерно-нейтральный.
Команда анализировала мотивы сотрудничества и отказа от сотрудничества, различая эксплуатацию (использование преимущества кооперативного партнёра) и недоверие (превентивный отказ от сотрудничества). Результаты показывают, что гендерная маркировка может воспроизводить гендерные модели сотрудничества с ИИ. Участники были набраны в Великобритании, а эксперимент проводился онлайн. Размер выборки составил 402 участника.
Предоставлено Тринити-колледжем в Дублине.