AI 챗봇의 부상은 너무 급격해서 이것을 따라가기가 어렵습니다. 사실, 이 게시글의 파트1을 쓴 이후에 OpenAI는 벌써 ChatGPT의 새로운 버전을 출시했습니다. GPT-4는 표준화된 테스트를 통과하고, 이미지를 분석하고, 모든 주요 프로그래밍 언어로 코드를 작성하는 것과 같은 인상적인 능력을 보여주고 있습니다.
기업들이 이전에 출시한 제품들을 앞지르기 위해 안간힘을 쓰듯, 지금은 이러한 챗봇이 정말로 “새롭고 개선된”것인지 잠시 멈추고 평가해 볼 수 있는 좋은 시간입니다. 여기서 우리는 번역 산업에 대한 AI 챗봇의 기술적 약속과 위험을 모두 평가하겠습니다
AI 챗봇의 이점
비즈니스 관점에서 AI는 비용과 처리 시간을 줄여주는 흥미로운 새 길을 열어주는 듯 합니다. 정교한 챗봇을 사용하면 고객에 대한 서비스와 참여를 개선할 수도 있고, 비디오 스크립트나 제품 설명서를 작성할 수도 있으며, 코드를 디버깅하는 데에도 도움을 받을 수도 있습니다. 또한 적은 시간과 비용으로 다양한 형식의 다국어 콘텐츠를 제작할 수도 있습니다.
번역에 대해서라면, 개별 번역가는 챗봇을 번역 도구로 사용할 수 있습니다. 예산이 부족한 소기업은 특히 언어와 관련된 작업에 챗봇을 사용하고 싶은 유혹을 느낄 수 있습니다. 예를 들어 기업이 전 세계에 있는 100개의 서로 다른 IT 팀에 비용을 지불하지 않고 100개의 언어로 더 나은 실시간 고객 지원을 제공하고 싶다면 챗봇이 답이 될 수 있습니다.
AI 챗봇의 위험성
그러나 이러한 장점이 위험 보다 더 대단한 것인가요? 다음은 AI 챗봇과 관련하여 번역 업계에서 우려하는 세 가지 주요한 문제입니다.
유해한 콘텐츠와 부정확성
AI 챗봇은 훈련된 데이터만큼만 좋습니다. 불행히도 데이터 세트는 본질적으로 편견으로 가득 차 있습니다. 테스트 결과 챗봇은 사용자에게 해를 입히겠다고 위협하거나 혐오 발언을 지지하는 난처할 정도로 부정확한 것에서 부터 완전히 충격적인 것에 이르기까지 다양한 콘텐츠가 생성되었습니다. 개발자들은 AI가 때때로 사실이 아닌 것에 대해 “환각”을 일으킬 수 있지만 어떤 챗봇은 완전한 자신감을 가지고 그것을 제시할 수도 있다고 인정했습니다.
OpenAI는 이전 버전보다 오류가 적은 것으로 홍보되고 있는 GPT-4로 이러한 문제 중 일부를 수정하려고 시도하고 있습니다. 하지만 공격의 위험이 전혀 없는 챗봇은 없습니다. 챗봇은 실제 인간의 문화적, 언어적 감수성이 부족하기 때문에 병원, 법정, 국제 정치 등에서 요구되는 고위험성 번역을 처리하기에는 적합하지 않습니다.
윤리적 딜레마
더욱이 AI로 생성된 콘텐츠의 윤리가 잘 정의되지 않아 추세에 편승하시기 전에 주의가 촉구됩니다.
예를 들어, 대학은 에세이나 기타 과제 작성에 챗봇을 사용하는 것에 대해서 경종을 울렸으며, 이것은 표절 혐의로 이어지기도 합니다. AI 챗봇은 또한 노동과도 불편한 관계여서, AI가 대규모 감원을 가능하게 할 수 있다는 두려움을 촉발시키고 처음에 AI를 “훈련”시키는 데 자주 사용되는 저임금 착취 노동자에 대해 깃발을 들게 했습니다. 더 많은 기업이 지속 가능성을 우선시하는 시기에 에너지를 많이 소비하는 AI 모델이 탄소 배출에 미치는 잠재적 영향에 대해 알아보기 전입니다.
게다가 ChatGPT는 챗봇을 사용하여 맬웨어를 생성하고, 피싱 이메일을 미세하게 조정하고, 가짜 뉴스를 전파하는 나쁜 행위자를 심의할 수 있는 문을 활짝 열었습니다. 기업들은 자사 플랫폼의 오용을 막기 위해 노력하고 있지만, 해커들은 그러한 안전 장치에서 빠져나가기 위해 빠르게 노력하고 있습니다. 이러한 윤리적인 지뢰밭을 감안하고도 번역가는 전문가의 엄격한 품질 검토 없이 AI 챗봇에 의존하는 것을 극도로 경계해야 합니다.
보안 및 개인정보 보호
실제로 챗봇의 취약한 보안은 번역 산업에서 중요한 이슈입니다. AI 챗봇에 제공하는 콘텐츠가 제3자 액세스로부터 안전하다는 보장은 없습니다. 실제로 모든 입력은 챗봇에 의해 “스크랩”되고 옵트아웃할 기회도 없이 데이터를 개선하는데 사용됩니다. AI 챗봇의 데이터 세트는 원래 소유자의 동의 없이 웹에서 가져온 수천 개의 단어로 구성됩니다.
기밀 자료나 지적 재산을 다루는 번역가에게 이것은 심각한 문제를 제기합니다. OpenAI 사용자 개인 정보 보호 정책과 데이터 공유에 대한 우려가 결부되어, 현재 ChatGPT와 GPT-4가 유럽연합 개인정보 보호법(GDPR)을 준수하는지 여부는 명확하지 않습니다. 규정을 어기는 것은 유럽에서 비즈니스를 수행하는 회사에게 중요한 결점이 될 것입니다.
AI 챗봇이 인간 번역가를 대체하게 될까요?
대체로, AI 챗봇이 인간 번역가를 대체할 것인가에 대한 대답은 당분간 ‘아니오’일 가능성이 높습니다. 봇을 조금이라도 사용할 수 있으려면 광범위한 인간의 입력과 훈련이 필요하다는 점을 기억해야 할 것입니다. 순간에 적응하고, 유연하며, 유머를 이해하고, 문화적인 유창성을 번역에 적용하는 인간과는 다르지만,
대신, 생성형 AI의 대단한 장래성으로 인해 인간 에디터들의 기계 번역 사후 편집에 대한 수요는 더 높아질 수 있습니다. 기업들이 챗봇을 사용하여 점점 더 많은 콘텐츠를 생산함에 따라, 그러한 콘텐츠를 다듬는 전문 번역가는 반드시 존재해야 합니다.
이미지: Alexandra_Koch (Pixabay)
