Аэрокосмический инженер Джена Ассаад о доверии к автономным технологиям
Джена Ассаад работает в Австралийском национальном университете над проектами, которые исследуют вопросы безопасности и доверия к автономным технологиям, взаимодействию человека и машины, а также регулированию и обеспечению безопасности новых технологий в критически важных областях. В статье для журнала Cosmos она исследует связь между доверием человека к технологиям.
Роботакси в Сан-Франциско
В августе 2023 года в Сан-Франциско запустили серию роботакси. Хотя это не первый случай появления беспилотных автомобилей на дорогах общего пользования, этот запуск всё равно стал событием масштабного характера. Сотни роботакси работали по всему оживлённому городу, позволяя людям вызывать беспилотные автомобили, как они вызывают Uber.
Этот запуск должен был стать шагом вперёд для индустрии автономных транспортных средств. Однако более 75 инцидентов, зарегистрированных в ту ночь, доказали обратное. Среди них были случаи, когда одно из транспортных средств не остановилось перед пожарной машиной, другое въехало в мокрый цемент на строительной площадке, а несколько автомобилей потеряли связь из-за близлежащего музыкального фестиваля.
Эти инциденты создали какофонию негативных эмоций вокруг автономных транспортных средств, подорвав и без того хрупкое доверие людей к этим технологиям. И эрозия общественного доверия к технологиям имеет далеко идущие последствия.
Что такое доверие?
Доверие — это расплывчатое понятие, которое находится между субъективностью и реляционными конструкциями. Оно субъективно, потому что доверие проявляется по-разному у разных людей. У всех нас есть свои ценности и ориентиры, которые мы используем, чтобы определить, кому или чему мы доверяем. И оно реляционно, потому что зависит от взаимодействий и опыта.
В контексте технологий концепция доверия становится ещё более сложной для понимания, потому что она изначально односторонняя. Неживая природа машин означает, что у них нет способности доверять, поэтому это понятие остаётся в ведении человека.
Почему мы должны доверять машинам?
Доверие влияет на наше поведение и отличает процесс принятия решений. Мы доверяем пилотам, поэтому садимся в самолёт, летящий на большой высоте через огромные километры открытого океана. Мы доверяем медсёстрам и врачам, поэтому позволяем им давать нам лекарства или оперировать нас. Мы доверяем инженерам, поэтому проводим дни в небоскрёбах, работая, делая покупки, питаясь или занимаясь спортом. Все наши решения основаны на доверии, независимо от того, осознаём мы это или нет.
Без доверия было бы трудно найти людей, которые добровольно согласились бы делать большинство из этих вещей. Осторожность и скептицизм в отношении автономных транспортных средств являются примером того, как доверие проникает в процесс принятия решений людьми. Более высокий уровень доверия со стороны широкой общественности, вероятно, привёл бы к широкому внедрению этих технологий, превратив их из необычных вариантов в основные возможности.
Вместо этого множество инцидентов и аварий с участием беспилотных автомобилей привели к глубокому чувству опасения, и многие люди не хотят «рисковать», пользуясь автономными транспортными средствами. Это было видно в недавнем опросе, проведённом Технологическим университетом Суинберна, который показал, что 53% австралийцев не поддерживают идею беспилотных транспортных средств.
Как доверие влияет на внедрение технологий?
Ранняя диагностика заболеваний считается постоянной проблемой во всём мире. Использование технологий искусственного интеллекта (ИИ) продемонстрировало возможность значительно улучшить раннюю диагностику заболеваний. Это связано в основном с возможностью анализировать большие массивы данных в короткие сроки, избегая длительных административных задержек, которые возникают в системах здравоохранения, и одновременно снижая вероятность человеческой ошибки.
Поскольку технологии не существуют в вакууме, успешное внедрение и эффективная реализация во многом зависят от общественного признания. Инструменты диагностики заболеваний с помощью ИИ требуют сотрудничества со стороны человека; врачи и медсёстры должны использовать эти инструменты с уверенностью и осмотрительностью.
Как можно построить доверие к технологиям?
Калиброванные уровни доверия можно поощрять для людей, использующих или работающих с машинами. Исследователи по всему миру предложили множество мер для поощрения доверия между людьми и машинами.
Некоторые исследователи фокусируются на технических решениях, пытаясь внедрить доверие в код. Другие исследователи фокусируются на вмешательствах на человеческом уровне, пытаясь решить нюансы и субъективность доверия. Эти вмешательства включают обучение и просвещение о том, как машины работают на самом деле, чтобы развеять чрезмерно приукрашенные представления об этих технологиях.
Более сбалансированное и точное понимание технологий смягчает наши ожидания от них и повышает нашу уверенность в том, что мы знаем, на что они способны, а на что нет. Технические решения более прямолинейны, они представлены в виде единиц и нулей кода. Социальные решения более сложны для реализации, поскольку они существуют вне бинарной конструкции кода.
На пути к будущему
Технологии всё чаще интегрируются в множество отраслей. Теперь стало редкостью не сталкиваться с какой-либо формой цифровизации в повседневной жизни. Технологии имеют потенциал изменить наше общество как в положительном, так и в отрицательном ключе. Одно из того, что отличает, как технологии проникают в наше общество, — это то, как мы выбираем взаимодействовать с ними: насколько мы их принимаем, насколько мы их подвергаем сомнению и насколько мы им доверяем.