Você confia nas máquinas para lavar sua louça e cuidar de seu calendário—mas deve confiar nelas para falarem em seu nome?
Como os mundos da educação e da tecnologia estão alvoroçados com as possibilidades (e ciladas) de ferramentas de IA como o ChatGPT, é hora de darmos um mergulho profundo em outra ferramenta normalmente incensada como a solução para problemas complexos: a tradução automática (MT). Não há como negar que softwares de tradução automática, como o Google Translate e o Microsoft Translator, estão incrivelmente sofisticados. Construída com redes e algoritmos neurais inovadores, a tradução automática pode fazer tudo, da tradução de centenas de páginas de jargões técnicos a ajudá-lo a pedir comida no exterior.
Mas o que acontece quando algo dá errado? Sendo a primeira de duas postagens sobre tradução automática, esta aqui explora os possíveis riscos da MT.
Erros podem causar confusões desastrosas
É fácil imaginar o uso da tradução automática para preencher lacunas simples, porém potencialmente embaraçosas, da comunicação—por exemplo, pedir informações sobre como chegar ao aeroporto ou cumprimentar alguém em um idioma pouco familiar.
Contudo, como os algoritmos da tradução automática não têm a habilidade de interpretar o tom, contexto e expressões idiomáticas, eles podem rapidamente transformar uma interação aparentemente banal em violência real. Em outubro de 2017, por exemplo, o Facebook cometeu um terrível engano ao traduzir uma inocente legenda da foto de um palestino—originalmente um “bom dia” (yusbihuhum) em árabe—como “ataque-os” em hebreu e “machuque-os” em inglês. O homem foi preso e interrogado pela polícia israelense.
Na verdade, em um estudo de erros críticos da tradução automática, os pesquisadores da Imperial College London descobriram que os algoritmos da MT têm dificuldades específicas com linguagem tóxica. Eles não apenas tendem a traduzir erroneamente tal linguagem, mas também podem introduzir conteúdo nocivo e implicações ofensivas que não apareciam em parte alguma da frase original.
Confiança excessiva em ambientes de alto risco
O desejo das organizações em promover e adotar a tradução automática, normalmente como uma medida para reduzir custos, é especialmente perigoso em situações de alto risco.
Por exemplo, o uso do Google Translate para fornecer instruções em uma sala de emergências consistentemente acaba em erros críticos, especialmente com idiomas menos conhecidos e usados. É impossível minimizar a importância de uma boa tradução quando se trata da área médica. Aferições, dosagens, instruções, sintomas e muito mais devem ser comunicados com precisão cirúrgica para evitar reações alérgicas, overdoses e outros resultados potencialmente fatais.
Organizações do governo também usam a tradução automática em setores onde uma tradução errada pode causar um tremendo impacto. No final de 2022, a FEMA dispensou uma empresa que usava a tradução automática para fornecer assistência em catástrofes para comunidades nativas do Alasca. Ao invés de ajuda urgente após um destruidor tufão, os falantes de inupiaque e outros idiomas foram surpreendidos com frases absurdas como “Seu marido é um urso polar, magrela.”
O uso da tradução automática no meio policial também cria questões jurídicas delicadas. Em 2017, por exemplo, a polícia local usou o Google Translate para convencer um motorista que falava espanhol a deixá-los revistar seu veículo. Porém, os tribunais decidiram que a tradução do Google Translate para “good enough (suficientemente bom/boa)” não chegou nem perto de ser suficiente para uma revista constitucional, e o caso foi arquivado.
Ferramentas de machine learning e dilemas éticos
Por fim, o rápido desenvolvimento de ferramentas de machine learning traz algumas questões éticas por si só. Pesquisadores descobriram que treinar um único modelo grande de IA pode emitir quase 284.000 quilos de CO2 equivalente. Isso é quase cinco vezes as emissões da vida inteira de um carro comum! Embora o fato de usar tradutores humanos possa não parecer econômico, com certeza é mais ecológico para empresas que priorizam a sustentabilidade.
Ao mesmo tempo, os algoritmos que movem essa tecnologia quase sempre dependem do trabalho invisível de “microtrabalhadores” mal pagos—trabalhadores, normalmente de países em desenvolvimento, que treinam os algoritmos ao remover materiais ofensivos, classificar resultados e outras tarefas tediosas. Embora as ferramentas de machine learning tentem nos convencer de que elas estão no mesmo nível de pessoas reais, na verdade elas não funcionam sem uma supervisão humana rigorosa e sem a inserção de dados pelos humanos.
Devemos usar a tradução automática?
Os riscos da tradução automática não significam que ela nunca possa ser usada, mesmo que ela raramente possa substituir a precisão e o conhecimento cultural de uma tradução humana de qualidade. Na parte 2, veremos como evitar alguns desses problemas. Enquanto isso, sua melhor aposta é se associar a uma empresa que garante serviços de tradução humana de alta qualidade, incluindo linguistas especializados que ajudam a editar traduções automáticas.
