Насколько система искусственного интеллекта может быть рациональной?
Новый курс Массачусетского технологического института (MIT) под названием «6.S044/24.S00: Искусственный интеллект и рациональность» не ставит перед собой цель ответить на этот вопрос. Вместо этого он предлагает студентам исследовать эту и другие философские проблемы через призму исследований в области искусственного интеллекта.
Для следующего поколения учёных понятия рациональности и агентности могут стать ключевыми в принятии решений искусственным интеллектом, особенно под влиянием того, как люди понимают свои когнитивные ограничения и субъективные взгляды на то, что является рациональным, а что нет.
Это исследование основано на глубокой взаимосвязи между информатикой и философией, которые давно сотрудничают в формализации того, что значит формировать рациональные убеждения, учиться на опыте и принимать рациональные решения в стремлении к своим целям.
Лесли Кеэблинг, профессор информатики и инженерии в MIT, говорит: «Вы можете представить, что информатика и философия находятся довольно далеко друг от друга, но они всегда пересекались. Технические части философии действительно пересекаются с ИИ, особенно с ранним ИИ». Она вспоминает Алана Тьюринга, который был одновременно учёным-компьютерщиком и философом.
Брайан Хедден, профессор лингвистики и философии, отмечает, что эти две дисциплины более согласованы, чем может показаться, добавляя, что «различия заключаются в акцентах и перспективах».
Инструменты для дальнейшего теоретического мышления
Курс «Искусственный интеллект и рациональность», впервые предложенный осенью 2025 года, был создан Кеэблинг и Хедден в рамках инициативы «Общее поле для компьютерного образования» (Common Ground for Computing Education) — междисциплинарной инициативы MIT Schwarzman College of Computing, которая объединяет несколько факультетов для разработки и преподавания новых курсов и запуска новых программ, сочетающих информатику с другими дисциплинами.
Зарегистрировано более двух десятков студентов. «Искусственный интеллект и рациональность» — один из двух курсов Common Ground, основанных на философии, другой — «6.C40/24.C40: Этика вычислений».
В то время как «Этика вычислений» исследует опасения по поводу влияния быстро развивающихся технологий на общество, «Искусственный интеллект и рациональность» изучает спорное определение рациональности, рассматривая несколько компонентов: природу рациональной агентности, концепцию полностью автономного и интеллектуального агента, а также приписывание убеждений и желаний этим системам.
Кеэблинг и Хедден обсудили темы, которые могли бы обеспечить плодотворное обсуждение и взаимодействие между двумя перспективами — информатикой и философией.
Кеэблинг говорит: «Когда я работаю со студентами, изучающими машинное обучение или робототехнику, важно, чтобы они немного отступили назад и изучили предположения, которые они делают. Размышление о вещах с философской точки зрения помогает людям лучше понять, как расположить свою работу в реальном контексте».
Оба преподавателя подчёркивают, что этот курс не даёт конкретных ответов на вопросы о том, что значит создать рационального агента.
Хедден говорит: «Я вижу, что курс закладывает их основы. Мы не даём им свод доктрин, чтобы они могли выучить, запомнить и затем применить. Мы вооружаем их инструментами для критического мышления, когда они пойдут в выбранную ими карьеру, будь то исследования, промышленность или правительство».
Быстрый прогресс в области искусственного интеллекта также создаёт новый набор задач в академической среде. Предсказать, что студенты могут захотеть узнать через пять лет, — это задача, которую Кеэблинг считает невыполнимой. «Что нам нужно сделать, так это дать им инструменты более высокого уровня — привычки ума, способы мышления, которые помогут им подойти к вещам, которые мы сейчас не можем предвидеть», — говорит она.
Смешение дисциплин и постановка под сомнение предположений
Пока курс привлёк студентов из самых разных дисциплин — от тех, кто твёрдо стоит на ногах в области информатики, до тех, кто заинтересован в изучении того, как ИИ пересекается с их областями обучения.
В течение семестра, посвящённого чтению и дискуссиям, студенты боролись с различными определениями рациональности и тем, как они противостоят предположениям в своих областях.
Аманда Паредес Риобоо, студентка старших курсов в EECS, говорит: «Нас как бы учат, что математика и логика — это золотой стандарт или истина. Этот курс показал нам множество примеров того, что люди действуют непоследовательно с этими математическими и логическими рамками. Мы открыли целый ящик Пандоры относительно того, кто иррационален: люди, созданные нами системы машинного обучения или сама математика и логика?»
Джуниор Окороафор, аспирант кафедры наук о мозге и когнитивных науках, высоко оценил задачи курса и то, как определение рационального агента может меняться в зависимости от дисциплины. «Представление того, что каждая область означает под рациональностью в формальной структуре, проясняет, какие именно предположения должны быть общими, а какие — разными в разных областях».
Совместное преподавание и совместная структура курса, как и во всех инициативах Common Ground, дали студентам и преподавателям возможность услышать разные точки зрения в режиме реального времени.
Для Паредес Риобоо это третий курс Common Ground. Она говорит: «Мне действительно нравится междисциплинарный аспект. Они всегда казались мне хорошим сочетанием теоретических и прикладных знаний, поскольку им нужно пересекать границы полей».
По словам Окороафора, Кеэблинг и Хедден продемонстрировали очевидную синергию между полями, сказав, что казалось, будто они вовлечены в процесс обучения вместе с классом. «Философия также может вас удивить», — добавляет он.
1. Какова цель курса «Искусственный интеллект и рациональность» в MIT?
Цель курса «Искусственный интеллект и рациональность» в MIT — не дать конкретные ответы на вопросы о том, что значит создать рационального агента, а вооружить студентов инструментами для критического мышления и дальнейшего теоретического осмысления философских проблем в области искусственного интеллекта.
2. Какие философские и технические аспекты рассматриваются в курсе «Искусственный интеллект и рациональность»?
В курсе «Искусственный интеллект и рациональность» рассматриваются философские и технические аспекты, связанные с определением рациональности в контексте искусственного интеллекта, включая природу рациональной агентности, концепцию полностью автономного и интеллектуального агента, а также приписывание убеждений и желаний этим системам.
3. Почему важно изучать философию в контексте искусственного интеллекта?
Изучение философии в контексте искусственного интеллекта важно, потому что оно помогает понять предположения, которые делают учёные и инженеры при разработке ИИ-систем, а также способствует критическому осмыслению этих систем в контексте их взаимодействия с обществом и человеком.
4. Какие дисциплины представлены среди студентов курса «Искусственный интеллект и рациональность»?
Среди студентов курса «Искусственный интеллект и рациональность» представлены студенты из самых разных дисциплин — от тех, кто твёрдо стоит на ногах в области информатики, до тех, кто заинтересован в изучении того, как ИИ пересекается с их областями обучения.
5. Какие выводы сделали студенты курса «Искусственный интеллект и рациональность» о рациональности и её определении?
Студенты курса «Искусственный интеллект и рациональность» пришли к выводу, что определение рациональности может меняться в зависимости от дисциплины и контекста. Они также обнаружили, что люди могут действовать непоследовательно с математическими и логическими рамками, что ставит под сомнение традиционные представления о рациональности.