Чувства накаляются в связи с появлением искусственного интеллекта и его возможным влиянием на человечество, как пишет Джошуа Глиддон.
Люди давно увлечены идеей создания машин, которые могут думать, чувствовать и реагировать так же, как мы. Нас также интересует, станут ли они нашими спутниками, заменят ли нас или даже попытаются уничтожить? Должны ли у машин быть права? И что это значит для нас, если мы создадим разумные машины?
Технологии против философии
Существует напряжённость между технологами и футуристами, с одной стороны, и философами — с другой, по вопросу о том, станет ли искусственный интеллект (ИИ) разумным. Технологи считают, что разумность — это эмерджентное явление, которое возникнет, если вложить достаточно ресурсов в виде времени, денег и вычислительной мощности.
Австралийский футурист Росс Доусон утверждает, что мы, вероятно, увидим системы ИИ с разумом в недалёком будущем. Он говорит, что теории сознания утверждают: разумность — это эмерджентное явление.
Профессор философии в Университете Монаш Роберт Спарроу считает, что для автоматического приписывания машине способности к разуму просто потому, что она хорошо имитирует, слишком многого не учитывается в биологической разумности. Он отмечает, что мы мало что понимаем в человеческом разуме.
Профессор Флора Салим из Школы компьютерных наук и инженерии UNSW говорит, что теоретически возможно создать разумный ИИ, но ключевым является то, что он останется искусственным.
Профессор Спарроу разработал концепцию, которую назвал «Тест Тьюринга для сортировки», чтобы понять возможную этическую дилемму о том, является ли машина разумной. Он предлагает сценарий, в котором в больнице есть пациент в отделении интенсивной терапии и ИИ. Питание отключается, и резервного питания достаточно только для того, чтобы поддерживать жизнь либо пациента, либо ИИ.
Это создаёт моральную дилемму, но если кто-то не готов отключить систему жизнеобеспечения человека, чтобы спасти машину, то становится очевидным, что мы не считаем машину разумной.
Профессор Салим утверждает, что отсутствие у ИИ тел — ещё одно препятствие на пути к признанию его разумным. Люди понимают других существ, от дельфинов до птиц и крыс, как разумных, потому что у них есть тела. Наличие тела позволяет нам видеть, как они реагируют на стимулы, и это также позволяет нам видеть разумность в других людях.
Может быть, не разумный ИИ, но суперинтеллект?
Разработчики ChatGPT и OpenAI давно говорили о создании искусственного общего интеллекта (ИОИ). Генеральный директор OpenAI Сэм Альтман сказал, что до ИОИ осталось всего «тысячи дней», то есть в течение следующего десятилетия.
Однако в индустрии произошла терминологическая смена: ИОИ уступает место новому термину — суперинтеллект. Суперинтеллект — это ИИ, способный решать задачи, реагировать на внешние сигналы и создавать работы на уровне, превышающем человеческие возможности.
Однако существует важная разница между суперинтеллектом и тем, что мы можем считать разумным, говорит Доусон. «Разумность — это способность иметь чувство собственного «я». Всё, что есть суперинтеллект, — это просто чрезвычайно сложное решение проблем».
Многие исследователи, включая Салим, считают, что оптимизм Сэма Альтмана относительно прорыва в области суперинтеллекта через несколько тысяч дней необоснован.
Согласно компьютерной учёной Мередит Рингел Моррис и её коллегам из Google, существует шесть различных категорий ИИ: от уровня ноль (без ИИ, например, карманный калькулятор) до уровня пять (суперчеловеческий ИИ).
Профессор Салим утверждает, что для достижения суперинтеллекта и создания разумных машин потребуются настоящие научные прорывы.
ИИ причиняет вред не только теоретически
ИИ не нужен разум, чтобы представлять угрозу для людей и общества. ИИ, примитивный, как он есть сегодня, уже причиняет вред. Риск будет только расти по мере совершенствования ИИ, и большая часть этого риска связана с опасностью для наших социальных структур и отношений.
Профессор эволюции в Университете Нового Южного Уэльса Роберт Брукс говорит, что ИИ, вероятно, повлияет на эволюцию человека, и в результате человеческий мозг станет меньше.
ИИ-суперинтеллекты могут изменить наше общество и человечество, поработив нас или, в лучшем случае, сделав нас своими питомцами, утверждает Спарроу в своей статье 2022 года.
Спарроу опирается на неореспубликанскую философию, которая утверждает, что свобода требует равенства. Если появятся суперинтеллектуальные машины, даже если они будут доброжелательны к нам, наши отношения с ними будут, по словам компьютерного учёного Марвина Мински, такими же, как между домашними животными и людьми, где человек будет домашним животным.
Доцент философии Сэмюэль Барон из Мельбурнского университета считает, что большая часть опасений по поводу того, на что ИИ может быть способен в будущем, и его влияния на человечество, включая нарратив об уничтожении ИИ, носит чисто теоретический и спекулятивный характер.
Барон утверждает, что ИИ уже причиняет реальный вред сегодня, и аргументы об уничтожении ИИ и порабощении людей — это нарративы, продвигаемые крупными технологическими компаниями, чтобы скрыть воздействие ИИ в настоящее время.
Профессор Салим утверждает, что мы должны думать о безопасности ИИ и суперинтеллекта. «Инновации должны идти рука об руку с ответственным ИИ», — говорит Салим. «Инновации могут улучшить защитные механизмы, которые мы создаём, но для этого нужно финансирование».
Что мы знаем наверняка, так это то, что ИИ причиняет вред сегодня, и в какой-то момент в будущем появится суперинтеллект. Как отдельные люди и общество, мы должны думать об этом уже сейчас, пока не стало слишком поздно.