Pappagallo stocastico

Pappagallo stocastico, dall'inglese stochastic parrot, è un'espressione impiegata nell'ambito del dibattito sull'intelligenza artificiale^[1] per indicare la sostanziale incapacità, da parte dei sistemi di elaborazione del linguaggio, di produzione di risposte o pensieri che possano essere definiti propri.

Una parte degli studi su IA sostiene che i large language models (LLM) riproducano, ripetano senza consapevolezza (pappagallo) sequenze di parole la cui efficacia nel rispondere ad una richiesta è semplicemente calcolata in modo statistico (stocastico): la pertinenza della risposta e la sua affidabilità dipendono solo dal numero di occorrenze reperito nel materiale di apprendimento, potenzialmente l'intero contenuto del web.^[2]

La credibilità delle risposte si fonda sull'elaborazione di un enorme numero di frasi ed espressioni comunemente (in senso numerico) accettate e precedentemente scritte, che possono essere rafforzate da bias di conferma preesistenti nel pensiero del richiedente. Inoltre, la pur vastissima disponibilità di informazioni cui il Sistema attinge non è né completa (dal web mancano intere lingue, culture che non vi hanno accesso, per esempio), né provata, né affidabile, in senso scientifico (chiunque può riversare in rete, senza alcuna verifica, informazioni false, non corrette, deliberatamente o per inconsapevole ignoranza).

Scomodando la gnoseologia, l'intelligenza (umana) opera una inferenza induttiva e selettiva dalla propria esperienza, per esempio, del cavallo (citando Platone), fino a creare un'idea di cavallo da cui inferire in modo deduttivo nuove risposte; chi usa l'espressione "pappagallo stocastico" sostiene che la macchina combini risposte esistenti, senza aver costruito un'astrazione, senza una visione di cosa sia e come sia fatto un cavallo: riesce a mettere insieme parole che parlano coerentemente e in modo convincente di cavalli, fornendo l'impressione di stare formulando un pensiero proprio, che non ha: sa ripetere tutto quello che si dice dei cavalli, ma non ne ha un'idea astratta.

• Lindholm, A.; Wahlström, N.; Lindsten, F.; Schön, T. B., Machine Learning: A First Course for Engineers and Scientists, Cambridge University Press., 2022, ISBN 978-1-108-84360-7.