С момента широкого распространения ChatGPT в декабре 2022 года искусственный интеллект (ИИ) завоевал значительную часть мира, включая академическую сферу. Большинство этих изменений произошло при минимальном сопротивлении со стороны политиков, разработчиков политики и университетских советов, несмотря на множество проблем, связанных с технологиями ИИ.
В статье, опубликованной в виде препринта на Zenodo, исследователи из Университета Радбауд утверждают, что противостоять ИИ в академической среде возможно и необходимо.
Оливия Гест, учёный, занимающийся вычислительным когнитивистикой в Университете Радбауд и ведущий автор статьи, объясняет: «Университеты не в первый раз оказываются втянутыми в разработки, которые впоследствии их настигают».
Она приводит примеры: «От двигателей внутреннего сгорания до табака — университеты в прошлом использовались для обеления ныне спорных продуктов. Долгое время табачная индустрия ссылалась на исследования, которые она финансировала в университетах, чтобы утверждать, что их продукция полезна для здоровья».
В своей статье исследователи предупреждают, что подобные проблемы возникают и с технологиями искусственного интеллекта. «Многие академические исследования в области ИИ в настоящее время также финансируются индустрией ИИ, что создаёт риск искажения научных знаний, подобно тому, как мы это видели в прошлом», — добавляет Ирис ван Руй, соавтор и профессор вычислительной когнитивистики в Университете Радбауд.
Исследователи объясняют, что нынешнее некритичное внедрение ИИ на высшем уровне в университетах противоречит желаниям большинства студентов и сотрудников. «ИИ часто внедряется в наши классы и исследовательские среды без надлежащих дебатов или согласия», — говорит ван Руй. «Речь идёт не только об использовании таких инструментов, как ChatGPT. Это более широкое влияние технологической индустрии на то, как мы преподаём, как мы думаем и как мы определяем знания».
«Исследование за исследованием показывает, что студенты хотят развивать навыки критического мышления, они не ленивы, и многие из них были бы за запрет ChatGPT и подобных инструментов в университетах», — говорит Гест.
Выступая с критикой, исследователи стремятся показать, что «неизбежность» ИИ — это просто маркетинговый ход, продвигаемый индустрией, и что сопротивление возможно в гораздо большей степени, чем мы часто видим.
Гест, ван Руй и их коллеги перечисляют в своей статье множество проблемных аспектов технологий ИИ. Они варьируются от экологических проблем (использование огромного количества энергии и ресурсов), незаконных трудовых практик (таких как плагиат и кража чужих текстов) до рисков снижения квалификации студентов.
Гест сказала: «Некритичное внедрение ИИ может привести к тому, что студенты не будут развивать основные академические навыки, такие как критическое мышление и письмо. Если студентов учат учиться с помощью автоматизации, не объясняя, как и почему всё работает, они не смогут решать проблемы, когда что-то действительно сломается — что часто бывает, судя по выводам ИИ, которые мы видим сейчас».
Исследователи также предупреждают о том, что технологии ИИ могут нанести вред будущим исследованиям и способствовать распространению дезинформации. «Всего за несколько лет ИИ ускорил распространение ложной информации. Он не способен создавать настоящую, качественную академическую работу, несмотря на заявления некоторых представителей индустрии ИИ», — говорится в статье.
«Как исследователи, как университеты, мы должны яснее высказываться против этих ложных утверждений со стороны индустрии ИИ. Нам говорят, что ИИ неизбежен, что мы должны адаптироваться или остаться позади. Но университеты — это не технологические компании. Наша роль — способствовать развитию критического мышления, а не следовать тенденциям индустрии без критики», — заключают исследователи.
Предоставлено Университетом Радбауд.