Чувства накаляются из-за появления искусственного интеллекта и его потенциального влияния на человечество, как пишет Джошуа Глиддон.
Люди издавна были очарованы идеей создания машин, которые могут думать, чувствовать и реагировать так же, как мы. Мы также заинтересованы в последствиях таких созданий — будут ли они составлять нам компанию, заменят ли нас или даже попытаются уничтожить? Должны ли у этих машин быть права? И что это значит для нас, если мы создадим разумные машины?
Технологии против философии
Существует напряжённость между технологами и футуристами, с одной стороны, и философами — с другой, по вопросу о том, станет ли ИИ разумным. Технологи считают, что разумность — это эмерджентное явление, которое возникнет при наличии достаточного количества ресурсов.
Австралийский футурист Росс Доусон утверждает, что мы, вероятно, увидим системы ИИ с разумом в недалёком будущем. «Если вы посмотрите на теории сознания, то разумность — это эмерджентное явление», — говорит он. «Мы знаем, что у нас есть куча клеток мозга, и нет ничего, что мы могли бы наблюдать в функционировании мозга или тела, что указывало бы на то, что такое сознание или как оно возникает, но оно возникает».
Профессор философии в Университете Монаш Роберт Спарроу считает, что для приписывания машине способности к разумности недостаточно просто хорошего подражания биологическому разуму. «Когда вы разговариваете с кем-то, кто занимается человеческим разумом — например, с психиатрами, психологами и консультантами, — и спрашиваете их, насколько мы понимаем разум, ответ будет: „абсолютно никак“», — говорит он.
Проблема воплощения
Представьте себе: вы бы убили машину? Если будет разработан разумный ИИ, это станет реальной этической проблемой. Если разумный ИИ будет выключен, это прекратит его жизнь? Или тот факт, что ИИ не привязан к телу и может реплицироваться сколько угодно раз, делает этот вопрос спорным?
Спарроу разработал концепцию, которую назвал «Тест Тьюринга для сортировки», чтобы понять возможную этическую дилемму, связанную с разумностью машины. Он предлагает сценарий, в котором в больнице есть пациент в отделении интенсивной терапии и ИИ. Питание отключается, и резервного питания достаточно только для того, чтобы поддерживать жизнь либо пациента, либо ИИ.
Это создаёт моральную дилемму, но если кто-то не готов отключить систему жизнеобеспечения человека, чтобы спасти машину, то становится очевидным, что мы не считаем машину разумной.
Может ли ИИ быть суперинтеллектуальным?
OpenAI, разработчики чат-бота ChatGPT, и его генеральный директор Сэм Альтман давно говорят о цели компании — создании искусственного общего интеллекта (ИОИ). В прошлом году Альтман сказал, что до ИОИ осталось «всего тысячи дней», то есть в течение следующего десятилетия.
Однако есть разница между суперинтеллектом и тем, что мы можем считать разумным. «Разумность — это способность иметь чувство собственного „я“», — говорит Доусон. «Суперинтеллект — это просто чрезвычайно сложное решение проблем».
Профессор инженерии в Университете Нового Южного Уэльса Флора Салим считает, что оптимизм Альтмана необоснован. Она указывает на то, что текущие большие языковые модели ИИ (БЯМ) уже исчерпали возможности обучения на открытых данных.
ИИ вредит не только в теории
ИИ не нужен разум, чтобы представлять угрозу для людей и нашего общества. ИИ, каким примитивным он ни был сегодня, уже причиняет вред. Риск будет только расти по мере совершенствования ИИ, и большая часть этого риска связана с опасностью для наших социальных структур и отношений.
Профессор эволюции в Университете Нового Южного Уэльса Роберт Брукс говорит, что ИИ, вероятно, повлияет на эволюцию человека, и в результате человеческий мозг станет меньше. «Такие вещи, как индивидуальный интеллект, память, язык и социальная обработка, которые способствуют увеличению мозга, возможно, немного облегчаются, потому что у нас есть машины для внешнего выражения этого», — говорит он.
ИИ-суперинтеллекты могут поработить нас или сделать из нас домашних животных
Аргументы о том, что ИИ может уничтожить нас или поработить, — это просто теории и страх, говорит доцент философии в Мельбурнском университете Сэмюэль Бэрон. Его беспокоит, что ИИ причиняет реальный вред сегодня, а аргументы об уничтожении и порабощении продвигаются крупными технологическими компаниями, чтобы скрыть реальный вред, который ИИ наносит сейчас.
«Мы используем алгоритмы для прогнозирования рецидивов преступлений, прогнозирования займов, медицинской диагностики, обнаружения и пресечения мошенничества, в полиции — и все эти вещи наносят вред», — утверждает он.
Что касается того, как мы создаём безопасный ИИ и безопасный суперинтеллект, Салим говорит, что инновации должны идти рука об руку с ответственным ИИ. «Инновации могут улучшить защитные механизмы, которые мы создаём, но для этого нужно финансирование», — говорит она. «И в Австралии мы просто не вкладываем средства в инновации в области ИИ, занимая последние два места в ОЭСР по инновациям в области ИИ. Это позор».
Будет ли ИИ-Пиноккио убивать человека-Джеппетто? Или марионетка просто станет хозяином? Как говорит Брукс, «предсказывать будущее — неблагодарное занятие». Мы знаем, что ИИ причиняет вред сегодня, и в какой-то момент в будущем возникнет суперинтеллект. Мы, как отдельные личности и общество, должны думать об этом сейчас, пока не стало слишком поздно.