Je zou machines kunnen vertrouwen om je afwas te doen of je agenda bij te houden, maar moet je ze vertrouwen om voor jou te praten?
Nu de onderwijs- en technologiewereld zich buigen over de mogelijkheden (en valkuilen) van AI-tools zoals ChatGPT, is het tijd om eens diep in te gaan op een ander hulpmiddel dat vaak wordt aangeprezen als de oplossing voor complexe problemen: machine vertaling (MT). Het valt niet te ontkennen dat machine vertaalsoftware zoals Google Translate en Microsoft Translator ongelooflijk geavanceerd is geworden. Gebouwd met geavanceerde neurale netwerken en algoritmen, kan machine vertaling alles doen, van het vertalen van honderden pagina’s technisch jargon tot het helpen bij het bestellen van eten in het buitenland.
Maar wat gebeurt er als er iets mis gaat? Als eerste van een tweeluik over machine vertaling worden in dit bericht de potentiële gevaren van MT onderzocht.
Fouten kunnen leiden tot rampzalige misverstanden
Het is gemakkelijk voor te stellen om machine vertaling te gebruiken om eenvoudige, maar potentieel lastige gaten in de communicatie te overbruggen, bijvoorbeeld door de weg te vragen naar het vliegveld of iemand te begroeten in een onbekende taal.
Omdat machine vertaalalgoritmen echter niet in staat zijn toon, context en idioom te interpreteren, kunnen zij een schijnbaar alledaagse interactie snel laten escaleren tot daadwerkelijk geweld. In oktober 2017, bijvoorbeeld, vertaalde Facebook het onschuldige fotobijschrift van een Palestijnse man grovelijk verkeerd, van het oorspronkelijke Arabische “goede morgen” (yusbihuhum), in “val hen aan” in het Hebreeuws en “kwets hen” in het Engels. De man werd gearresteerd en ondervraagd door de Israëlische politie.
In een studie over kritische fouten in machine vertalingen hebben onderzoekers van het Imperial College London vastgesteld dat MT-algoritmenvooral moeite hebben met giftige taal. Ze hebben niet alleen de neiging dergelijke taal verkeerd te vertalen, maar ze kunnen zelfs schadelijke inhoud en beledigende implicaties introduceren die helemaal niet in de oorspronkelijke zin stonden.
Overdreven vertrouwen in een omgeving waar er veel op het spel staat
De gretigheid van organisaties om machine vertaling te bevorderen en goed te keuren, vaak als kostenbesparende maatregel, is vooral gevaarlijk in situaties waar de belangen groot zijn.
Het gebruik van Google Translate bijvoorbeeld voor instructies op de spoedeisende hulp leidt steevast tot kritieke fouten, vooral bij zeldzamere talen. Het is niet te onderschatten hoe belangrijk goede vertaling is als het gaat om gezondheidszorg. Metingen, doseringen, instructies, symptomen en nog veel meer moeten nauwkeurig worden overgebracht om allergische reacties, overdoses en andere mogelijk fatale gevolgen te voorkomen.
Overheidsinstellingen gebruiken ook machine vertaling in sectoren waar een verkeerde vertaling een enorme effect kan hebben. Eind 2022 ontsloeg de FEMA een bedrijf dat bij rampen machine vertaling gebruikte voor hulpverlening aan inheemse gemeenschappen in Alaska. In plaats van kritische hulp in de nasleep van een gevaarlijke tyfoon, werden sprekers van Inupiaq en andere talen geconfronteerd met belachelijke zinnen als “Je man is een ijsbeer, mager”.
Het gebruik van machine vertaling bij wetshandhaving leidt ook tot lastige juridische kwesties. In 2017 gebruikte de lokale politie bijvoorbeeld Google Translate om een Spaanstalige bestuurder ervan te overtuigen dat hij zijn auto mocht doorzoeken. De rechter oordeelde echter dat de “goed genoeg” vertaling van Google Translate bij lange na niet voldoende was voor een grondwettelijk onderzoek en de zaak werd geseponeerd.
Hulpmiddelen voor machinaal leren en ethische dilemma’s
Ten slotte roept de snelle ontwikkeling van hulpmiddelen voor machinaal leren op zichzelf al enkele ethische vragen op. Onderzoekers ontdekten dat het ontwikkelen van één groot AI-model meer dan 626.000 pond CO2 -equivalent kan uitstoten. Dat is bijna vijf keer de levenslange uitstoot van een gemiddelde auto! Hoewel het inhuren van menselijke vertalers misschien niet zo kostenefficiënt lijkt, is het voor bedrijven die duurzaamheid hoog in het vaandel hebben staan hoogstwaarschijnlijk groener.
Tegelijkertijd zijn de algoritmen die deze technologie aandrijven vaak afhankelijk van de onzichtbare arbeid van laagbetaalde (“microarbeiders”) werkers, vaak in ontwikkelingslanden, die de algoritmen samenstellen door aanstootgevend materiaal te verwijderen, resultaten te rangschikken en andere vervelende taken uit te voeren. Hoewel hulpmiddelen voor machinaal leren ons ervan proberen te overtuigen dat ze op één lijn staan met echte mensen, functioneren ze in werkelijkheid niet zonder streng menselijk toezicht en menselijke input.
Moeten we machinevertalingen gebruiken?
De gevaren van machine vertaling betekenen niet dat MT nooit kan worden gebruikt, ook al kan het zelden de nauwkeurigheid en culturele knowhow van hoogwaardige menselijke vertalingen vervangen. In deel 2 zullen we nagaan hoe sommige van deze problemen kunnen worden vermeden. In de tussentijd kunt u het beste samenwerken met een bedrijf dat hoogwaardige menselijke vertaaldiensten garandeert, waaronder deskundige linguïstenom machinevertalingen te helpen bewerken.
