L’ascesa dei chatbot basati sull’intelligenza artificiale è così rapida che è difficile mantenersi al passo. Di fatto, durante la scrittura della prima parte di questo post, OpenAI ha già pubblicato una nuova versione di ChatGPT. GPT-4 offre abilità davvero notevoli come il superamento di test standardizzati, l’analisi di immagini e la scrittura di codice in tutti i linguaggi di programmazione principali.
Mentre le aziende si affannano per superare le proprie creazioni precedenti, è il momento giusto per prendersi una pausa e valutare se questi chatbot risultano davvero “nuovi e migliorati”. Ora valuteremo le promesse e i rischi legati alla tecnologia dei chatbot basati su IA per il settore della traduzione.
I vantaggi dei chatbot basati sull’IA
Dalla prospettiva delle aziende, l’IA sembra aprire nuove strade per la riduzione dei costi e dei tempi di consegna. Ad esempio, si possono utilizzare chatbot sofisticati per migliorare il servizio clienti e il coinvolgimento dei clienti, per realizzare script video e descrizioni di prodotti o per aiutare a eliminare i bug dal codice. I chatbot sono in grado di produrre contenuto multilingue in numerosi formati con un minor utilizzo di tempo e denaro.
Per quanto riguarda la traduzione, i traduttori possono usare i chatbot come strumento di supporto. Le piccole aziende con budget limitati potrebbero essere particolarmente tentate di utilizzare un chatbot per le attività linguistiche. E se un’azienda volesse offrire, ad esempio, miglior assistenza clienti in tempo reale in un centinaio di lingue senza dover retribuire un centinaio di team IT diversi sparsi in tutto il mondo, un chatbot potrebbe essere la soluzione giusta.
I rischi legati ai chatbot basati sull’IA
Ma questi pro superano i contro? Ecco le tre problematiche principali legate ai chatbot basati sull’IA per il settore della traduzione.
Contenuti dannosi e mancanza di accuratezza
I chatbot basati sull’IA sono validi solo quanto i dati utilizzati per addestrarli. E purtroppo i set di dati sono per loro stessa natura pieni di errori. Le prove effettuate hanno prodotto contenuti che variano da inaccurati in modo imbarazzante a molto allarmanti, come chatbot che minacciano di fare del male agli utenti o che li assistono nell’incitamento all’odio. Gli sviluppatori hanno riconosciuto che talvolta l’intelligenza artificiale può inventarsi fatti non veritieri che i chatbot presentano con la massima fiducia.
OpenAI sta tentando di risolvere alcune di queste problematiche con GPT-4, che viene descritto come meno soggetto a errori rispetto al suo predecessore. Tuttavia, nessun chatbot garantisce l’azzeramento del rischi di generazione di contenuti offensivi. Poiché non hanno la sensibilità linguistica e culturale che caratterizza gli esseri umani, i chatbot basati sull’intelligenza artificiale sono impreparati a gestire traduzioni in situazioni ad alta posta in gioco, come quelle richieste negli ospedali, nei tribunali, nella politica internazionale e altro ancora.
Dilemmi etici
Inoltre, l’etica dei contenuti generati dall’IA non è ben definita, pertanto è necessario prestare attenzione prima di imbarcarsi nell’impresa.
Ad esempio, le università hanno fatto scattare l’allarme sull’utilizzo dei chatbot per generare saggi e altri materiali richiesti agli studenti e ciò ha comportato accuse di plagio. I chatbot basati sull’IA hanno un rapporto travagliato anche con l’ambito lavorativo, poiché si teme che l’intelligenza artificiale possa comportare tagli di personale su vasta scala; inoltre, è stato segnalato il problema dei lavoratori sottopagati spesso sfruttati per l’addestramento iniziale delle IA. E questo ancora prima di entrare in merito al potenziale impatto dei modelli di IA ad alto consumo energetico sulle emissioni di anidride carbonica in un momento in cui un numero sempre maggiore di aziende dà priorità alla sostenibilità.
Fatto ancora peggiore, ChatGPT ha spalancato le porte ai malintenzionati che utilizzano deliberatamente il chatbot per la creazione di malware, di email di phishing ben affinate e per la diffusione di notizie false. Anche se le aziende si stanno impegnando per bloccare l’utilizzo improprio delle loro piattaforme, gli hacker sono altrettanto veloci a trovare scappatoie per aggirare le misure di protezione. Considerando che i chatbot basati sull’IA costituiscono un campo minato a livello etico, i traduttori devono essere estremamente cauti nell’affidarsi a essi senza un rigoroso controllo di qualità svolto da esperti.
Sicurezza e privacy
Sicuramente le carenze dei chatbot in ambito di sicurezza sono un problema di importanza primaria nel settore della traduzione. Non vi è nessuna garanzia sul fatto che terze parti non possano accedere ai contenuti inseriti nel chatbot. In realtà qualsiasi input viene “copiato” dal chatbot e utilizzato per migliorare il suo set di dati senza possibilità di dare disdetta. I set di dati dei chatbot basati sull’IA consistono in migliaia di parole prese dal web senza il consenso dei proprietari del contenuto.
Ciò pone problemi significativi per i traduttori che lavorano con materiali sensibili e proprietà intellettuali. Se uniamo questo fatto ai dubbi sollevati dall’informativa sulla privacy degli utenti di OpenAI e dalla condivisione dei dati, attualmente non è chiaro se ChatGPT e GPT-4 siano conformi o meno allo European General Data Protection Regulation (GDPR). La mancata conformità sarebbe uno svantaggio di grande rilievo per le aziende che svolgono attività in Europa.
I chatbot basati sull’IA sostituiranno i traduttori umani?
Complessivamente, quando ci chiediamo se i chatbot basati sull’IA sostituiranno i traduttori umani la risposta è molto probabilmente no… almeno per ora. Vale la pena ricordare che i bot richiedono input umani e addestramento su vasta scala per poter essere anche solo minimamente fruibili, diversamente dagli esseri umani, che sono in grado di adattarsi all’istante, essere flessibili, comprendere l’umorismo e applicare la conoscenza culturale alla traduzione.
La vera promessa dell’IA generativa potrebbe invece essere la creazione di una domanda crescente di post-editing delle traduzioni automatiche da parte di editor umani. Se le aziende utilizzano i chatbot per produrre una maggior quantità di contenuti, disporre di traduttori professionisti che aiutino a renderli corretti e fluenti diventa un must.
Immagine di Alexandra_Koch da Pixabay
