Антрополог из Мичиганского университета Уэбб Кин говорит, что люди легко наделяют искусственный интеллект (ИИ) человеческим или даже божественным авторитетом.
Кин изучает роль религии в повседневной жизни людей, этику и мораль. Его также интересует, как люди антропоморфизируют неодушевлённые объекты, особенно те, которые используют человеческий язык или языковые системы.
Ученый объясняет, каким образом люди могут начать наделять ИИ моральной силой, но обнаружить, что ИИ — это просто зеркало людей и корпораций, которые его создали.
Источники авторитета ИИ
Авторитет, который мы предоставляем ИИ, имеет множество источников. Уэбба Кина особенно интересуют те, которые связаны с тем, как мы, люди, наделяли авторитетом неживые объекты в разных контекстах на протяжении всей истории человечества.
Мы склонны проецировать намерения и глубокие мысли на вещи, которые кажутся нам одушевлёнными, используют язык или системы сигналов для общения, как мы.
Примеры из истории
Мы делали это с древними дельфийскими оракулами в Греции и древним Китаем. Мы поступали так с «И Цзин», и сейчас люди начинают делать это во многих случаях с алгоритмами — даже с такими простыми вещами, как алгоритмы рекомендаций в Fitbit или Spotify, которые говорят: «Я знаю ваш вкус лучше, чем вы».
Границы морали
История морали будет зависеть от того, где мы проведём границы между человеком и нечеловеческим. Кто имеет значение? На кого распространяется моя этика? И на кого она не распространяется?
Большая часть истории прогресса в области справедливости и прав за последние несколько веков зависела от расширения круга людей, которых мы считаем значимыми и важными в моральном плане.
Было время, когда у женщин не было права голоса, когда мы порабощали людей, когда было нормально забивать лошадь до смерти на улицах большого города. Наше меняющееся отношение к этим вещам было не просто изменением правовых систем или представлений о справедливости, но и расширением морального круга.
Когда вы расширяете моральный круг, вы постоянно сталкиваетесь с вещами, которые неоднозначны, вы не уверены, где они принадлежат — по какую сторону границы между человеком и нечеловеческим они находятся? И именно здесь вы начинаете сталкиваться с действительно интересными моральными проблемами.
Осторожность в отношении ИИ
Нам нужно быть очень хитрыми и умными в том, какой авторитет мы готовы ему предоставить, какие решения мы готовы позволить ему принимать за нас. Мы должны быть умными и не давать ему преждевременно больше доверия, больше правдоподобности, больше веры, чем он заслуживает. ИИ — это человеческое творение, и именно люди должны знать, что с ним делать.
Также важно помнить, что ИИ — это продукт очень могущественных и крупных корпораций, у которых есть свои интересы. Поэтому нам нужно остерегаться предоставления слишком большой власти ИИ и не забывать, кто за ним стоит.
Оптимисты и пессимисты ИИ
Мир, кажется, разделился между оптимистами ИИ и пессимистами ИИ, техноутопистами и технодистопистами. Уэбб Кин больше беспокоится об утопистах, потому что история технологий — это история многих замечательных вещей, которые всегда сопровождались непредвиденными последствиями.
Антропоморфизация ИИ
Его новая книга «Животные, роботы, боги» была впервые написана под впечатлением от того, что он заметил, когда впервые появился ChatGPT. Он быстро заметил, что происходит нечто странное: многие люди, глубоко вовлечённые в новые технологии, такие как ИИ и роботы, люди, которые гордятся тем, что они чрезвычайно рациональные, научные люди, люди, которые полностью светские, инженеры-компьютерщики и инвесторы из Силиконовой долины, когда они начинают говорить о возможностях ChatGPT, часто используют теологический язык, говоря о том, насколько богоподобным становится ИИ.
Мы постоянно создаём моральных других или моральных собеседников, будь то крик на компьютер, потому что он завис как раз в решающий момент, удар ногой по машине, когда она ломается, разговор с собакой. Это тривиальные примеры, но иногда мы создаём очень большие версии этого. Есть люди, которые поддаются искушению приписать ИИ огромный авторитет — действительно, он создан для того, чтобы вызывать это, — и я думаю, что это на самом деле в некотором смысле расширение этих очень незначительных, обычных способов, которыми мы антропоморфизируем неодушевлённый мир и наделяем его человеческими способностями.