Pensare, conoscere, comprendere, ricordare.
Si tratta di termini di uso comune per descrivere ciò che accade nella mente umana. Ma quando questi stessi termini vengono applicati all’intelligenza artificiale, possono inavvertitamente far apparire le macchine più umane di quanto non siano in realtà.
“Nella vita di tutti i giorni usiamo continuamente verbi che indicano capacità mentali, quindi è logico che li utilizziamo anche quando parliamo di macchine: ci aiutano a relazionarci con esse”, ha affermato Jo Mackiewicz, professoressa di inglese all’Iowa State University. “Tuttavia, quando applichiamo i verbi mentali alle macchine, si corre anche il rischio di confondere il confine tra ciò che gli esseri umani e l’intelligenza artificiale possono fare”.
Mackiewicz e Jeanine Aune, docente di inglese e direttrice del programma di comunicazione avanzata presso la Iowa State University, fanno parte di un team di ricerca che ha studiato come gli autori descrivono l’intelligenza artificiale utilizzando un linguaggio simile a quello umano. Questo tipo di linguaggio, noto come antropomorfismo, attribuisce caratteristiche umane a sistemi non umani. Il loro studio, “Anthropomorphizing Artificial Intelligence: A Corpus Study of Mental Verbs Used with AI and ChatGPT”, è stato pubblicato su Technical Communication Quarterly .
Il team di ricerca comprendeva anche Matthew J. Baker, professore associato di linguistica alla Brigham Young University, e Jordan Smith, professore assistente di inglese all’Università del Northern Colorado. Entrambi avevano precedentemente studiato alla Iowa State University.
Perché il linguaggio simile a quello umano usato per descrivere l’intelligenza artificiale può essere fuorviante.
Secondo i ricercatori, l’utilizzo di verbi mentali per descrivere l’intelligenza artificiale può creare un’impressione errata. Parole come “pensare”, “sapere”, “capire” e “volere” suggeriscono che un sistema possieda pensieri, intenzioni o consapevolezza. In realtà, l’intelligenza artificiale non ha credenze o sentimenti. Produce risposte analizzando schemi nei dati, non formulando idee o prendendo decisioni consapevoli.
Mackiewicz e Aune hanno inoltre sottolineato come questo tipo di linguaggio possa esagerare le capacità dell’IA. Frasi come “l’IA ha deciso” o “ChatGPT sa” possono far apparire i sistemi più indipendenti o intelligenti di quanto non siano in realtà. Ciò può generare aspettative irrealistiche sull’affidabilità e le capacità dell’IA.
Esiste anche una preoccupazione più ampia. Quando l’IA viene descritta come se avesse delle intenzioni, si rischia di distogliere l’attenzione dagli esseri umani che la creano. Sviluppatori, ingegneri e organizzazioni sono responsabili di come questi sistemi vengono costruiti e utilizzati.
“Alcune frasi antropomorfiche potrebbero addirittura rimanere impresse nella mente dei lettori e potenzialmente influenzare la percezione pubblica dell’IA in modi controproducenti”, ha affermato Aune.
Come i giornalisti utilizzano effettivamente il linguaggio dell’IA
Per comprendere meglio la frequenza con cui compare questo tipo di linguaggio, i ricercatori hanno analizzato il corpus News on the Web (NOW). Questo enorme set di dati contiene oltre 20 miliardi di parole tratte da articoli di notizie in lingua inglese pubblicati in 20 paesi.
Si sono concentrati sulla frequenza con cui verbi mentali come “apprende”, “significa” e “sa” venivano usati insieme a termini come AI e ChatGPT.
I risultati sono stati inaspettati.
I verbi mentali sono meno comuni del previsto.
Lo studio ha rilevato che i giornalisti non associano frequentemente termini relativi all’intelligenza artificiale a verbi che indicano processi mentali.
Sebbene l’antropomorfismo sia comune nel linguaggio quotidiano, appare molto meno frequente negli articoli di cronaca. “È stato dimostrato che l’antropomorfismo è comune nel linguaggio di tutti i giorni, ma abbiamo scoperto che il suo utilizzo è molto inferiore negli articoli di cronaca”, ha affermato Mackiewicz.
Tra gli esempi identificati, la parola “needs” è apparsa più frequentemente in associazione con l’IA, comparendo 661 volte. Per ChatGPT, “knows” è stata la combinazione più frequente, ma è apparsa solo 32 volte.
I ricercatori hanno osservato che gli standard editoriali potrebbero avere un ruolo. Le linee guida dell’Associated Press, che scoraggiano l’attribuzione di emozioni o tratti umani all’intelligenza artificiale, potrebbero influenzare il modo in cui i giornalisti scrivono di queste tecnologie.
Il contesto conta più delle parole stesse.
Anche quando venivano usati verbi mentali, non erano sempre antropomorfici.
Ad esempio, il termine “bisogni” spesso descrive requisiti di base piuttosto che qualità umane. Frasi come “L’IA ha bisogno di grandi quantità di dati” o “L’IA ha bisogno di un po’ di assistenza umana” sono simili al modo in cui le persone descrivono sistemi non umani come automobili o ricette. In questi casi, il linguaggio non implica che l’IA abbia pensieri o desideri.
In altri casi, il verbo “bisogni” veniva usato per esprimere ciò che si doveva fare, come ad esempio “l’IA deve essere addestrata” o “l’IA deve essere implementata”. Aune ha spiegato che questi esempi erano spesso scritti in forma passiva, il che sposta la responsabilità sugli esseri umani anziché sulla tecnologia stessa.
L’antropomorfismo esiste su uno spettro
Lo studio ha inoltre dimostrato che non tutti gli usi dei verbi mentali sono uguali. Alcune espressioni si avvicinano maggiormente a suggerire qualità simili a quelle umane.
Ad esempio, affermazioni come “l’IA deve comprendere il mondo reale” possono implicare aspettative legate al ragionamento umano, all’etica o alla consapevolezza. Questi utilizzi vanno oltre le semplici descrizioni e iniziano a suggerire capacità più profonde.
“Questi casi hanno dimostrato che l’antropomorfizzazione non è un fenomeno del tipo ‘tutto o niente’, ma si colloca piuttosto su uno spettro”, ha affermato Aune.
Perché le scelte linguistiche relative all’IA sono importanti
Nel complesso, i ricercatori hanno scoperto che l’antropomorfismo nella copertura giornalistica è sia meno frequente che più sfumato di quanto molti potrebbero immaginare.
“Nel complesso, la nostra analisi dimostra che l’antropomorfizzazione dell’IA negli articoli di cronaca è molto meno comune e molto più sfumata di quanto potremmo pensare”, ha affermato Mackiewicz. “Anche i casi in cui l’IA è stata antropomorfizzata presentavano un’intensità molto variabile.”
I risultati evidenziano l’importanza del contesto. Contare semplicemente le parole non è sufficiente per comprendere come il linguaggio plasmi il significato.
“Per gli scrittori, questa sfumatura è importante: il linguaggio che scegliamo influenza il modo in cui i lettori comprendono i sistemi di intelligenza artificiale, le loro capacità e gli esseri umani che ne sono responsabili”, ha affermato Mackiewicz.
Il team di ricerca ha inoltre sottolineato che queste scoperte possono aiutare i professionisti a riflettere con maggiore attenzione su come descrivono l’IA nel loro lavoro.
“I nostri risultati possono aiutare i professionisti della comunicazione tecnica e professionale a riflettere su come considerano le tecnologie di intelligenza artificiale come strumenti nel loro processo di scrittura e su come scrivono di intelligenza artificiale”, ha scritto il team di ricerca nello studio pubblicato.
Con il continuo sviluppo dell’intelligenza artificiale, il modo in cui le persone ne parlano rimarrà fondamentale. Mackiewicz e Aune hanno affermato che gli scrittori dovranno prestare attenzione a come la scelta delle parole influenzi la percezione.
Guardando al futuro, il team ha suggerito che studi futuri potrebbero esplorare come parole diverse influenzino la comprensione e se anche rari usi del linguaggio antropomorfico abbiano un forte impatto su come le persone percepiscono l’intelligenza artificiale.
by 