ИИ делает нас тупыми?

Исследователи из Microsoft и Университета Карнеги-Меллона недавно опубликовали исследование о том, как использование генеративного ИИ на работе влияет на навыки критического мышления.

«Ненадлежащее использование технологий может привести к ухудшению когнитивных способностей, которые следует сохранить», — говорится в документе.

Когда люди полагаются на генеративный ИИ во время работы, их усилия смещаются на проверку того, что ответ ИИ достаточно хорош для использования, вместо использования навыков критического мышления высшего уровня, таких как создание, оценка и анализ информации.

Если люди вмешиваются только тогда, когда реакция искусственного интеллекта недостаточна, говорится в документе, тогда работники лишаются «обычных возможностей попрактиковать свое суждение и укрепить свою когнитивную мускулатуру, оставляя их атрофированными и неготовыми, когда возникают исключения».

Другими словами, когда мы слишком полагаемся на ИИ, чтобы думать за нас, мы хуже решаем проблемы самостоятельно, когда ИИ не справляется.

В этом исследовании 319 человек, которые сообщили, что используют генеративный ИИ по крайней мере раз в неделю на работе, респондентов попросили поделиться тремя примерами того, как они используют генеративный ИИ на работе, которые делятся на три основные категории: создание (например, написание шаблонного электронного письма коллеге); информация (исследование темы или конспектирование большой статьи); и советы (просьба о руководстве или создание диаграммы из имеющихся данных).

Затем их спросили, практикуют ли они навыки критического мышления во время выполнения задания, и заставляет ли их использование генеративного ИИ прилагать больше или меньше усилий для критического мышления. Для каждого задания, которое упомянули респонденты, их также попросили поделиться, насколько они уверены в себе, в генеративном ИИ и в своей способности оценивать результаты ИИ.

Около 36% участников сообщили, что они использовали навыки критического мышления, чтобы смягчить потенциальные негативные последствия использования ИИ. Одна участница сказала, что использовала ChatGPT для написания обзора производительности, но дважды проверила вывод ИИ из-за страха, что она может случайно отправить что-то, что приведет к ее отстранению. 

Другой респондент сообщил, что ему приходилось редактировать электронные письма, сгенерированные искусственным интеллектом, которые он отправлял своему боссу, культура которого уделяет больше внимания иерархии и возрасту, чтобы он не сделал ошибку. Во многих случаях участники проверяли ответы, сгенерированные искусственным интеллектом, с помощью более общих веб-поисков на таких ресурсах, как YouTube и Wikipedia, что, вероятно, вообще препятствовало использованию ИИ.

Чтобы работники компенсировали недостатки генеративного искусственного интеллекта, им нужно понять, как эти недостатки возникают. Но не все участники были знакомы с ограничениями ИИ.

«Потенциальный вред, который могут нанести ответы GenAI, может побудить к критическому мышлению, но только если пользователь осознает такой вред», — говорится в статье.

Фактически, исследование показало, что участники, которые сообщили об уверенности в ИИ, использовали меньше усилий критического мышления, чем те, кто сообщили об уверенности в собственных способностях.

Хотя исследователи защищаются от утверждений, что генеративные инструменты ИИ делают вас глупее, исследование показывает, что чрезмерная зависимость от генеративных инструментов ИИ может ослабить нашу способность самостоятельно решать проблемы.