Янн ЛеКун и его команда ставят под сомнение общепринятые цели в сфере ОИИ
Что, если индустрия искусственного интеллекта оптимизирует достижение цели, которую невозможно чётко определить или надёжно измерить? В этом и заключается основной аргумент новой статьи Янана ЛеКуна и его команды. Они утверждают, что термин «искусственный общий интеллект» (ОИИ) перегружен и используется непоследовательно в научных и промышленных кругах.
Исследователи утверждают, что из-за отсутствия стабильного операционального определения ОИИ стал слабой научной целью для оценки прогресса или руководства исследованиями.
Почему человеческий интеллект не является по-настоящему «общим»
В статье исследователи оспаривают распространённое предположение, лежащее в основе многих дискуссий об ОИИ: человеческий интеллект является значимым шаблоном для «общего» интеллекта. Они утверждают, что люди кажутся универсальными только потому, что мы оцениваем интеллект изнутри распределения задач, сформированного человеческой биологией и выживанием.
Мы хороши в тех задачах, которые имели значение для нашего существования, таких как восприятие, управление моторикой, планирование и социальное рассуждение. Но за пределами этого диапазона человеческие способности ограничены, и во многих случаях машины уже превосходят нас.
Исследователи утверждают, что человеческий интеллект лучше понимать как специализированный и адаптивный, а не общий в каком-либо универсальном смысле.
Проблема антропоцентричных определений ОИИ
Это различие важно, поскольку многие определения ОИИ незаметно наследуют антропоцентричный эталон. Исследователи утверждают, что в научных и промышленных кругах нет реального консенсуса относительно того, что означает ОИИ. Некоторые определения фокусируются на том, чтобы делать всё, что может человек. Другие — на экономической полезности, широкой компетентности в решении задач, открытом мышлении или способности к обучению. Эти определения не эквивалентны и не дают единой цели оценки.
Исследователи утверждают, что существующие определения ОИИ недостаточны, поскольку они часто неоднозначны, трудны для оценки или не являются по-настоящему общими, если их внимательно изучить.
Переход от ОИИ к СЧИ
Альтернативой исследователи предлагают сверхчеловеческий адаптивный интеллект (СЧИ). Они определяют СЧИ как интеллект, который может адаптироваться, чтобы превосходить человека в любой задаче, которую может выполнить человек, а также адаптироваться к полезным задачам за пределами человеческой области.
Это тонкий, но важный сдвиг. Вместо того чтобы спрашивать, соответствует ли система человеку по фиксированному списку задач, исследователи спрашивают, как быстро система может научиться чему-то новому и как широко она может продолжать адаптироваться. В этой системе ключевым показателем является скорость адаптации: скорость, с которой агент приобретает новые навыки и учится новым задачам.
Почему скорость адаптации важнее статических ориентиров
Это переосмысливает проблему в более удобной для инженеров форме. Ориентир, основанный на растущем каталоге задач, быстро становится запутанным; пространство возможных навыков практически неограниченно. Исследователи утверждают, что оценка интеллекта как статического перечня компетенций — это неправильная абстракция.
Более важно то, может ли система быстро специализироваться, когда она сталкивается с новой областью, новой целью или новой средой. Поэтому исследователи рассматривают адаптивность, а не универсальность, как более перспективное направление.
Специализация как особенность, а не недостаток
Второй важный тезис в статье заключается в том, что прогресс в области ИИ не должен рассматриваться как движение к одной универсальной модели, которая одинаково хорошо справляется со всем. Исследователи утверждают, что специализация — это не слабость интеллекта, а практический путь к высокой производительности.
Они утверждают, что будущие системы ИИ, скорее всего, будут нуждаться во внутренней специализации, иерархии и разнообразии моделей и модальностей, а не в одной монолитной системе.
Почему исследование указывает на самоконтролируемое обучение?
Исследователи связывают СЧИ с самоконтролируемым обучением. Логика проста: если цель — быстрая адаптация в очень большом пространстве задач, то полагаться только на контролируемое обучение становится ограничением, поскольку контролируемые методы предполагают доступ к большим, надёжным наборам данных с метками. В реальных условиях это предположение часто не выполняется.
Исследователи утверждают, что самоконтролируемое обучение — это многообещающий путь, поскольку оно может использовать структуру необработанных данных и уже дало сильные результаты в разных областях.
Мировые модели и пределы поверхностного прогнозирования
Исследователи также утверждают, что сильная адаптация, вероятно, выигрывает от мировых моделей. Они отходят от идеи, что прогнозирования на уровне токенов или пикселей достаточно для надёжного интеллекта в физическом мире. Они утверждают, что важно научиться компактным представлениям, которые отражают динамику системы.
Мировая модель поддерживает моделирование и планирование, которые, в свою очередь, поддерживают адаптацию с нуля и с нескольких попыток.
Предупреждение против архитектурной монокультуры
Исследователи также критикуют текущий уровень архитектурной однородности в передовом ИИ. Они отмечают, что авторегрессивные LLM и LMM доминируют в сфере «общего» ИИ отчасти потому, что общее инструментальное обеспечение и ориентиры создают импульс.
Но исследователи утверждают, что такая концентрация сужает пространство поиска и может замедлить прогресс. Они также утверждают, что авторегрессивные системы имеют известные слабости, включая накопление ошибок в течение длительного времени, что делает долгосрочное взаимодействие хрупким.
Основные выводы
* ОИИ не является точной научной целью: согласно исследователям, ОИИ используется непоследовательно в научных и промышленных кругах, что затрудняет его определение, измерение или использование в качестве стабильной цели исследования.
* Человеческий интеллект не следует рассматривать как определение «общего» интеллекта: исследователи утверждают, что люди кажутся универсальными только в рамках пространства задач, сформированного биологией и выживанием, но за пределами этого диапазона человеческие возможности ограничены.
* Исследователи предлагают сверхчеловеческий адаптивный интеллект (СЧИ) в качестве лучшей цели: СЧИ определяется способностью адаптироваться, чтобы превосходить человека в выполнении человеческих задач, а также учиться полезным задачам за пределами человеческой области.
* Скорость адаптации важнее, чем статическая широта ориентиров: вместо того чтобы спрашивать, знает ли система множество задач, исследователи фокусируются на том, как быстро она может приобретать новые навыки и адаптироваться к новым средам.
* Исследование отдаёт предпочтение специализации, самоконтролируемому обучению и мировым моделям, а не одному монолитному пути к интеллекту: исследователи утверждают, что будущие системы ИИ, скорее всего, будут нуждаться во внутренней специализации и сильном моделировании мира, а не в предположении, что одна универсальная архитектура решит всё.
1. Почему, согласно статье, термин «искусственный общий интеллект» (ОИИ) стал слабой научной целью для оценки прогресса или руководства исследованиями?
Ответ: в статье утверждается, что термин «искусственный общий интеллект» (ОИИ) стал слабой научной целью из-за отсутствия стабильного операционального определения. Это затрудняет его чёткое определение, измерение и использование в качестве стабильной цели исследования.
2. Какие аргументы приводятся в статье для обоснования того, что человеческий интеллект не является по-настоящему «общим»?
Ответ: в статье утверждается, что человеческий интеллект не является по-настоящему «общим», поскольку люди кажутся универсальными только в рамках пространства задач, сформированного биологией и выживанием. За пределами этого диапазона человеческие способности ограничены, и во многих случаях машины уже превосходят нас.
3. Почему исследователи предлагают перейти от ОИИ к сверхчеловеческому адаптивному интеллекту (СЧИ)?
Ответ: исследователи предлагают перейти от ОИИ к СЧИ, поскольку считают, что СЧИ может адаптироваться, чтобы превосходить человека в любой задаче, которую может выполнить человек, а также адаптироваться к полезным задачам за пределами человеческой области. Это более перспективное направление, чем оценка интеллекта как статического перечня компетенций.
4. Какие методы обучения исследователи связывают со сверхчеловеческим адаптивным интеллектом (СЧИ)?
Ответ: исследователи связывают СЧИ с самоконтролируемым обучением, поскольку оно может использовать структуру необработанных данных и уже дало сильные результаты в разных областях.
5. Почему исследователи критикуют текущий уровень архитектурной однородности в передовом ИИ?
Ответ: исследователи критикуют текущий уровень архитектурной однородности в передовом ИИ, поскольку считают, что концентрация на определённых архитектурах сужает пространство поиска и может замедлить прогресс. Они также утверждают, что авторегрессивные системы имеют известные слабости, включая накопление ошибок в течение длительного времени, что делает долгосрочное взаимодействие хрупким.