Ricercatori di Microsoft e dell'Università di Carnegie Mellon hanno recentemente pubblicato uno studio che esamina come l'uso dell'IA generativa sul lavoro influisce sulle capacità di pensiero critico.
“Utilizzate impropriamente, le tecnologie possono e hanno come risultato la deteriorazione delle facoltà cognitive che dovrebbero essere conservate”, afferma il paper.
Quando le persone si basano sull'IA generativa sul lavoro, il loro sforzo si sposta verso la verifica che la risposta dell'IA sia abbastanza buona da utilizzare, invece di utilizzare abilità di pensiero critico di ordine superiore come creare, valutare e analizzare informazioni. Se gli esseri umani intervengono solo quando le risposte dell'IA sono insufficienti, dice il paper, allora ai lavoratori vengono precluse “routine opportunità di esercitare il loro giudizio e rafforzare il loro muscolo cognitivo, lasciandoli atrofizzati e impreparati quando le eccezioni si presentano.”
In altre parole, quando ci affidiamo troppo all'IA per pensare per noi, diventiamo peggiori nel risolvere i problemi da soli quando l'IA fallisce.
In questo studio condotto su 319 persone che dichiaravano di utilizzare almeno una volta alla settimana l'IA generativa sul lavoro, ai partecipanti è stato chiesto di condividere tre esempi di come utilizzano l'IA generativa sul lavoro, che rientrano in tre categorie principali: creazione (ad esempio scrivere una email formulistica a un collega); informazioni (ricercare un argomento o riassumere un lungo articolo); e consigli (chiedere indicazioni o realizzare un grafico dai dati esistenti). Poi, è stato chiesto loro se praticano abilità di pensiero critico quando svolgono il compito, e se l'uso dell'IA generativa li fa impiegare più o meno sforzo nel pensare in modo critico. Per ciascun compito che i partecipanti hanno menzionato, è stato chiesto loro anche di condividere quanto fossero sicuri di se stessi, dell'IA generativa e della propria capacità di valutare le uscite dell'IA.
Circa il 36% dei partecipanti ha riferito di aver utilizzato abilità di pensiero critico per mitigare potenziali esiti negativi dell'utilizzo dell'IA. Un partecipante ha detto di aver utilizzato ChatGPT per scrivere una valutazione delle prestazioni, ma ha controllato il risultato dell'IA per paura di poter inviare accidentalmente qualcosa che gli avrebbe causato una sospensione. Un altro partecipante ha riferito di dover modificare le email generati dall'IA che avrebbe inviato al suo capo — la cui cultura pone maggiore enfasi sulla gerarchia e sull'età — in modo da non commettere un faux pas. E in molti casi, i partecipanti hanno verificato le risposte generate dall'IA con ricerche più generali sul web da risorse come YouTube e Wikipedia, sconfiggendo forse lo scopo dell'uso dell'IA in primo luogo.
Perché i lavoratori possano compensare i difetti dell'IA generativa, devono comprendere come questi difetti si verificano. Ma non tutti i partecipanti erano familiari con i limiti dell'IA.
“I potenziali danni downstream delle risposte di GenAI possono motivare il pensiero critico, ma solo se l'utente è consapevole coscientemente di tali danni”, recita il paper.
Infatti, lo studio ha rilevato che i partecipanti che hanno riportato fiducia nell'IA hanno impiegato meno sforzo di pensiero critico rispetto a coloro che hanno riportato fiducia nelle proprie capacità.
Anche se i ricercatori si guardano dal dire che gli strumenti di IA generativa ti rendono più stupido, lo studio mostra che un'eccessiva dipendenza da tali strumenti può indebolire la nostra capacità di risolvere autonomamente i problemi.
