Представьте себе новую технологию искусственного интеллекта, способную безупречно считывать человеческие эмоции. Как это повлияет на нас, людей? Над этим вопросом работает кандидат наук Александра Прежан.
«Использование технологий распознавания эмоций расширяется во многих секторах», — говорит Прежан. «Здравоохранение, безопасность, пограничный контроль, управление персоналом, розничная торговля: все эти сферы видят преимущества в обнаружении, распознавании и анализе эмоций людей, полагая, что это позволит им делать значимые выводы».
Для отдела кадров интересно знать ваш тип личности и уровень «надёжности», в то время как компания, занимающаяся вопросами безопасности, может захотеть систему, которая будет отмечать людей до того, как они проявят агрессию.
Современные технологии пока не способны давать такие результаты. Однако в своём исследовании Прежан предполагает, что это скоро станет реальностью. «Я считаю важным предсказать этические риски, связанные с этими функциями, и попытаться понять, какое влияние они окажут на наше общество», — говорит она.
Большинство научных исследований эмоциональных выражений основаны на социальной психологии, а способность систем распознавания эмоций делать надёжные выводы основана на работах в области аффективных вычислений. Вместе их работа задаёт тон тому, как мы используем их в настоящее время, и тому, что мы можем реально ожидать от технологий в ближайшем будущем. Но для ответа на вопрос о желательности и рисках, связанных с такими возможностями, нужны философы.
Для Прежан важным является вопрос о свободе людей выбирать, скрывать ли им свои эмоции или показывать их. «Сегодня у вас есть власть над своими эмоциями. Когда вы говорите, что вам больно, врач должен провести обследование, даже если тесты не показывают никаких признаков боли». То же самое касается правоохранительных органов. «Если вы убедительно покажете раскаяние в суде, судья вам поверит».
Всё изменится, когда технологии смогут распознавать «скрытые» эмоции. Прежан говорит: «У другой власти, помимо вашей, будет последнее слово о ваших самых глубоких эмоциях». Это повлияет на наши эмоциональные взаимодействия.
«Эмоциональные выражения выполняют разные функции в обществе. Мы можем намеренно улыбнуться кому-то, чтобы показать, что мы его ценим. Если мы будем использовать технологии, чтобы сосредоточиться только на наших переживаемых (эпизодических) эмоциях, мы нарушим то, как мы ведём себя в социальных взаимодействиях. Сейчас, если кто-то говорит «Я люблю тебя», мы обычно верим ему. Использование технологий может изменить это доверие или даже привести к его исчезновению».
Существует также «эффект охлаждения». «Фуко блестяще объяснил, как сама идея постоянного наблюдения, даже без использования технологий, вызывает структурные изменения в поведении людей. Этот «эффект охлаждения» также связывают с постоянным мониторингом камерами и микрофонами. Но поскольку это происходит всё чаще, иногда говорят, что новые поколения меньше беспокоятся об этом, что мы к этому привыкаем».
Прежан считает, что у этой новой технологии есть преимущества. «Здорово, что, например, болезнь Паркинсона или болезнь Альцгеймера можно диагностировать лучше, и это также открывает возможности для людей с аутизмом. Сообщается, что они часто с трудом распознают эмоции других людей, и очки с технологией распознавания эмоций могут им в этом помочь».
«Легко сделать вывод, что такие техники могут играть положительную роль в обществе, но я предпочитаю сосредоточиться на рисках. Крупные технологические компании достаточно продвигают преимущества».
Предоставлено Лейденским университетом.