Potenzialmente, c’è fiducia nelle nuove tecnologie generative come ChatGPT, inclusa la produzione di contenuti scritti, la creazione di materiali di formazione per studenti di medicina o la scrittura e il debug del codice. Tuttavia, il lancio di ChatGPT e tecnologie simili ha dimostrato che ha ancora un problema riguardo l’accuratezza delle risposte, che può diventare un problema per gli utenti.
Con la ricerca abilitata per ChatGPT, i risultati non vengono visualizzati come un elenco di collegamenti ma come un riepilogo accurato delle informazioni all’interno dei collegamenti, presentato in uno stile colloquiale. Le risposte possono essere perfezionate attraverso più domande, proprio come se si stesse chattando con un amico o un consulente.
Il problema dell’affidabilità delle risposte sorge quando ad esempio nel caso si sia richiesta una consulenza sanitaria o finanziaria o si sia verificata una disinformazione deliberata che potrebbe causare problemi sociali più ampi.
Il problema è che tecnologie come ChatGPT sono molto brave a scrivere risposte convincenti, ma “convincente non significa “affidabile”. Infatti OpenAI è stato chiaro sul fatto che ChatGPT non è stato progettato per scrivere testo vero, ma è stato addestrato a prevedere la parola successiva e a creare risposte che suonino altamente plausibili, il che significa che una risposta fuorviante o falsa potrebbe sembrare altrettanto convincente di una vera e affidabile.
La consegna rapida di falsità convincenti e plausibili attraverso strumenti come ChatGPT diventa un problema critico nelle mani degli utenti il cui unico scopo è fuorviare, ingannare e frodare. Modelli linguistici di grandi dimensioni come ChatGPT possono essere addestrati per apprendere toni e stili diversi, il che li rende maturi per lo sfruttamento. Ad esempio, le e-mail di phishing convincenti diventano improvvisamente molto più facili da comporre e le immagini persuasive ma fuorvianti sono più veloci da creare.
Truffe e frodi potrebbero diventare sempre più sofisticate e la disinformazione sempre più difficile da distinguere. Entrambi potrebbero diventare immuni alle difese che finora sono state costruite. Questo è un aspetto su cui si dovrà collaborare tra aziende ed istituzioni.
