ШІ робить нас тупими?

Дослідники з Microsoft і Університету Карнегі-Меллона нещодавно опублікували дослідження про те, як використання генеративного ШІ на роботі впливає на навички критичного мислення.

«Неналежне використання технологій може призвести до погіршення когнітивних здібностей, які слід зберегти», — йдеться в документі.

Коли люди покладаються на генеративний ШІ під час роботи, їхні зусилля зміщуються на перевірку того, що відповідь ШІ достатньо хороша для використання, замість використання навичок критичного мислення вищого рівня, таких як створення, оцінка та аналіз інформації. Якщо люди втручаються лише тоді, коли реакція штучного інтелекту є недостатньою, йдеться в документі, тоді працівники позбавляються «звичайних можливостей попрактикувати своє судження та зміцнити свою когнітивну мускулатуру, залишаючи їх атрофованими та неготовими, коли виникають винятки».

Іншими словами, коли ми занадто покладаємося на ШІ, щоб думати за нас, ми гірше вирішуємо проблеми самостійно, коли ШІ не справляється.

У цьому дослідженні 319 людей, які повідомили, що використовують генеративний ШІ принаймні раз на тиждень на роботі, респондентів попросили поділитися трьома прикладами того, як вони використовують генеративний ШІ на роботі, які поділяються на три основні категорії: створення (наприклад, написання шаблонного електронного листа колезі); інформація (дослідження теми або конспектування великої статті); і поради (прохання про керівництво або створення діаграми з наявних даних).

Потім їх запитали, чи практикують вони навички критичного мислення під час виконання завдання, і чи змушує їх використання генеративного ШІ докладати більше чи менше зусиль для критичного мислення. Для кожного завдання, яке згадали респонденти, їх також попросили поділитися, наскільки вони впевнені в собі, у генеративному ШІ та в своїй здатності оцінювати результати ШІ.

Близько 36% учасників повідомили, що використовували навички критичного мислення для пом'якшення потенційних негативних наслідків використання ШІ. Одна з учасниць розповіла, що використовувала ChatGPT для написання атестації, але двічі перевіряла результати роботи штучного інтелекту, побоюючись, що може випадково написати щось таке, що призведе до її відсторонення від роботи.

Інший респондент повідомив, що йому доводилося редагувати створені штучним інтелектом електронні листи, які він надсилав своєму начальнику, чия культура робить більший акцент на ієрархії та віці, щоб не допустити помилки. У багатьох випадках учасники перевіряли згенеровані ШІ відповіді за допомогою більш загальних веб-пошуків на таких ресурсах, як YouTube і Вікіпедія, що, можливо, суперечило меті використання ШІ в першу чергу.

Щоб працівники компенсували недоліки генеративного штучного інтелекту, їм потрібно зрозуміти, як ці недоліки виникають. Але не всі учасники були знайомі з обмеженнями ШІ.

«Потенційна шкода реакцій GenAI може спонукати до критичного мислення, але лише якщо користувач свідомо усвідомлює таку шкоду», — йдеться в документі.

Фактично, дослідження показало, що учасники, які повідомили про впевненість у ШІ, використовували менше зусиль критичного мислення, ніж ті, хто повідомили про впевненість у власних здібностях.

Хоча дослідники захищаються від тверджень, що генеративні інструменти ШІ роблять вас дурнішими, дослідження показує, що надмірна залежність від генеративних інструментів ШІ може послабити нашу здатність самостійно вирішувати проблеми.