A ascensão dos chatbots de IA é tão meteórica que é difícil acompanhá-la. Na verdade, desde a publicação da Parte 1 desta postagem, a OpenAI já lançou uma versão do ChatGPT novinha em folha. A versão GPT-4 oferece capacidades impressionantes como passar em testes padronizados, analisar imagens e escrever códigos em todas as principais linguagens de programação.
Como as empresas correm para superar suas criações anteriores, é uma boa hora para pausarmos e avaliarmos se esses chatbots são realmente “novos e aperfeiçoados.” Neste blog, avaliamos tanto as promessas quanto os perigos da tecnologia de chatbot de IA para o setor de traduções.
Os benefícios dos chatbots de IA
A partir de uma perspectiva comercial, a IA parece abrir novas e fascinantes avenidas rumo à redução de custos e prazos de entrega. Chatbots sofisticados podem ser usados, por exemplo, para melhorar o atendimento ao cliente e o engajamento do consumidor, para escrever roteiros de vídeos e descrições de produtos ou para ajudar a depurar códigos. Eles podem ajudar a produzir conteúdos multilíngues em inúmeros formatos em menos tempo e com menos dinheiro.
Em termos de traduções, os tradutores individuais podem usar os chatbots como um auxílio à tradução. Pequenos negócios com orçamentos apertados podem achar particularmente tentador usar um chatbot para tarefas relacionadas a idiomas. E, digamos, se uma empresa deseja oferecer um melhor suporte ao cliente em tempo real em centenas de idiomas, sem ter que pagar centenas de equipes de TI ao redor do mundo, um chatbot pode ser a resposta.
Os riscos dos chatbots de IA
Mas esses pontos positivos superam as ciladas? Para o setor de traduções, aqui estão as três principais preocupações em relação aos chatbots de IA.
Conteúdo nocivo e impreciso
Os chatbots de IA são tão bons quanto os dados com os quais eles são treinados. Infelizmente, os conjuntos de dados são inerentemente cheios de vieses. Testes mostraram conteúdos que variam de embaraçosamente imprecisos a totalmente perturbadores, como casos onde os chatbots ameaçaram causar danos aos usuários ou auxiliaram usuários em discursos de ódio. Os desenvolvedores reconhecem que a IA pode, às vezes, “enlouquecer” fatos que não são verdadeiros, fatos esses que os chatbots apresentarão com total confiança.
A OpenAI tenta resolver alguns desses problemas com a versão GPT-4, que é classificada como menos sujeita a falhas que sua antecessora. Porém, não existe chatbot com zero chances de apresentar afrontas. Como eles não possuem a sensibilidade cultural e linguística dos humanos reais, os chatbots de IA não estão devidamente preparados para lidar com traduções de alto risco, como aquelas exigidas em hospitais, tribunais, política internacional e outras mais.
Dilemas éticos
Além disso, a ética dos conteúdos gerados por IA não é bem definida, o que pede cautela antes de aderir a essa onda.
As universidades, por exemplo, já demonstraram preocupação em relação ao uso dos chatbots para a geração de trabalhos e outras tarefas escolares, resultando em acusações de plágio. Os chatbots de IA também possuem um relacionamento conturbado com o trabalho no geral, gerando receios de que a IA possa trazer cortes de empregos em larga escala e começando a mostrar sinais de alerta sobre os trabalhadores explorados, com baixos salários, normalmente usados para “treinar” as IAs. Sem falar do possível impacto dos modelos de IA, que consomem uma enorme quantidade de energia, sobre as emissões de carbono, em uma época onde cada vez mais empresas priorizam a sustentabilidade.
Pior ainda, o ChatGPT abriu suas portas a malfeitores que estão usando o chatbot para geral malware, aperfeiçoar e-mails de phishing e propagar fake news. Embora as empresas estejam trabalhando para bloquear o mau uso de suas plataformas, os hackers trabalham ainda mais rápido para encontrar formas de driblar essas proteções. Devido a esse campo minado ético, os tradutores devem ter extrema cautela ao confiar em chatbots de IA sem uma revisão de qualidade rigorosa feita por especialistas.
Segurança e privacidade
Aliás, a falta de segurança dos chatbots é uma preocupação primária para o setor de traduções. Não existe garantia de que um conteúdo que você insere em um chatbot de IA estará seguro do acesso por parte de terceiros. Na verdade, qualquer inserção de dados será “juntada” pelo chatbot e utilizada para melhorar seus dados sem a oportunidade de exclusão. Os conjuntos de dados dos chatbots de AI consistem de milhares de palavras retiradas da internet sem o consentimento de seus respectivos proprietários.
Para tradutores que trabalham com materiais confidenciais e com propriedade intelectual, isso constitui um problema bem grande. Quando juntamos tudo isso com as preocupações sobre a política de privacidade e compartilhamento de dados do usuário da OpenAI, não fica muito claro se o ChatGPT e o GPT-4 respeitam a Regulamentação Geral de Proteção de Dados (GDPR) da Europa. Deixar de respeitá-la seria um tremendo inconveniente para as empresas que possuem negócios na Europa.
Os chatbots de IA irão substituir os tradutores humanos?
De um modo geral, quando nos perguntamos se os chatbots de IA irão substituir os tradutores humanos, a resposta é muito provavelmente não . . . por enquanto? Vale a pena lembrar que os bots demandam uma ampla inserção de dados e treinamento feitos por humanos para serem minimamente usáveis. Eles são bem diferentes dos humanos, que podem se adaptar instantaneamente, ser flexíveis, entender o humor e aplicar a fluência cultural às traduções.
Na verdade, a promessa real da Generative AI pode estar na criação de uma maior demanda pela pós-edição de traduções automáticas por editores humanos. Conforme as empresas forem usando os chatbots para produzir cada vez mais conteúdo, tradutores profissionais que ajudem a polir esse conteúdo passarão a ser uma prioridade.
Imagem de Alexandra_Koch da Pixabay
