Używanie AI prowadzi do przeceniania własnych umiejętności, alarmują badacze
Coraz częściej oceniamy się jako nieznacznie lepsi od przeciętniaka – taka tendencja jest dobrze znana w badaniach nad percepcją własnych umiejętności. Okazuje się, że im gorzej radzimy sobie z danym zadaniem, tym bardziej przesadnie oceniamy swoje kompetencje, a osoby o wysokich umiejętnościach często niedoceniają swoich zdolności. Zjawisko to, nazywane efektem Dunninga-Krugera, dotyczy jednak wielu obszarów, a nowe badania wskazują, że w przypadku interakcji z systemami sztucznej inteligencji, a konkretnie z dużymi modelami językowymi, takim jak ChatGPT, ten efekt znika, a wręcz odwraca się. Użytkownicy, niezależnie od poziomu zaawansowania, wykazywali tendencję do wyraźnego przeceniania swojej efektywności.
Najnowsze badania przeprowadzone przez Aalto University, publikowane w czasopiśmie "Computers in Human Behavior", ujawniają zaskakujące rezultaty. Zamiast oczekiwanego związku pomiędzy wiedzą o AI a zdolnością do samooceny, badacze zaobserwowali, że osoby uważające się za bardziej zaawansowanych użytkowników systemów AI, bardziej niżeli inni, przeceniają swoje możliwości. “Odkryliśmy, że w przypadku AI efekt Dunninga-Krugera nie występuje. Co bardziej zaskakujące, wyższy poziom biegłości w AI prowadzi do większej pewności siebie, która nie zawsze odzwierciedla rzeczywiste umiejętności," podkreśla Profesor Robin Welsch.
Znaczący trend przeceniania własnych możliwości związany z korzystaniem z AI rodzi poważne obawy, szczególnie w kontekście rosnącej zależności od automatyzacji i rosnącego ryzyka "rozleniwienia" umysłowego oraz spadku kompetencji zawodowych. "Biegłość w AI jest dziś niezwykle ważna, a ten efekt jest niezwykle zaskakujący. Wiedza techniczna o AI nie przekłada się bezpośrednio na umiejętność efektywnej interakcji z systemami sztucznej inteligencji," dodaje Profesor Welsch. Doktorant Daniela da Silva Fernandes zwraca uwagę na potrzebę opracowania platform, które sprzyjaliby procesowi refleksji i samodzielnej oceny. "Obecne narzędzia AI są niewystarczające – nie stymulują one procesów poznawczych i nie pozwalają nam uczyć się na własnych błędach."
Niedostateczna refleksja nad wynikami – klucz do problemu
Badanie, w którym wzięło około 500 uczestników, zostało podzielone na dwa eksperymenty. Połowa grupy korzystała z AI do rozwiązywania zadań logicznych pochodzących z testów wstępnych na studia prawnicze (LSAT) w Stanach Zjednoczonych, podczas gdy pozostała grupa nie korzystała z żadnej pomocy. Po każdym zadaniu uczestnicy byli proszeni o ocenę swojej wydajności, a dokładna samoocena wiązała się z dodatkową zapłatą. Wyniki ujawniły, że użytkownicy rzadko korzystali z ChatGPT więcej niż raz na pytanie. Często kopiowali treść zadania, wklejali je do systemu AI i akceptowali wynik bez weryfikacji lub zastanowienia się nad nim.
"Sprawdziliśmy, czy użytkownicy rzeczywiście analizowali wyniki z systemem AI i okazało się, że uważali, że AI rozwiąże problem za nich. Zwykle wystarczyła pojedyncza interakcja, co oznacza, że użytkownicy ślepo ufali systemowi. Jest to tak zwane odciążaniem poznawcze, kiedy to cała praca umysłowa jest wykonywana przez AI," wyjaśnia Profesor Welsch. Taka powierzchowna interakcja mogła ograniczać dostęp do informacji potrzebnych do kalibracji pewności siebie i dokładnej samooceny. Profesor sugeruje, że zachęcanie do wielokrotnego zadawania pytań mogłoby dostarczyć lepszych informacji zwrotnych, poprawiając metacognicję.
Jak zwiększyć świadomość użytkowników?
"AI mogłoby pytać użytkowników, czy potrafią wyjaśnić swoje rozumowanie dalej. To zmusiłoby użytkownika do bardziej zaangażowanej interakcji z AI, do zmierzenia się z iluzją wiedzy i promowałoby krytyczne myślenie," proponuje Daniela Fernandes. Badanie podkreśla, że poleganie na jednym zadaniu i niechęć do głębszej analizy i samodzielnego weryfikowania odpowiedzi to poważny problem. Wiedza o działaniu AI, sama w sobie, nie gwarantuje świadomego i krytycznego podejścia do generowanych przez nią treści. Kluczowe wydaje się promowanie aktywnej refleksji i zachęcanie do bardziej świadomego korzystania z narzędzi sztucznej inteligencji. W przeciwnym razie ryzyko utraty kompetencji i ograniczenia zdolności do samodzielnego myślenia staje się coraz bardziej realne.