📗 | AI지식_기계 번역

비전공자도 이해할 수 있는 AI 지식 - 6. 외국어를 몰라도 파파고만 있다면

인간의 언어를 기계가 학습하기 어려운 이유

1. 역사와 유행에 따라 무작위로 생겨나는 규칙

• 신조어가 생겨나며 계속 확장함
• 어떤 특정한 규칙을 따라 과학적인 방식으로 발전하지 않음

2. 수많은 오류

• 일상적인 대화엔 문법에 맞지 않는 오류가 있음
  • 그럼에도 대화가 가능한 것은, 우리 뇌가 웬만한 오류를 보정하고 이해하기 때문

3. 언어의 모호성

• 같은 발음을 지닌 단어가 여러 뜻을 갖는 경우가 있음
• 앞뒤 문장과 전체적인 맥락을 살펴봐야 정확한 이해가 가능함

 

 

 

 

 

 

기계 번역(Machine Translation)의 역사

• 인간이 사용하는 언어를 컴퓨터를 사용해 다른 언어로 번역해내는 일

1. 규칙 기반 기계 번역(Rule-Based Machine Translation)

• 시스트란(systran) : 규칙 기반 기계번역의 시초를 대표하는 회사
  • 초창기 기계번역을 연구해 구글, 야후!에 납품
• 한계
  • 규칙을 아무리 세워도 언어의 무궁무진한 변화를 결코 따라갈 수 없음
  • 문법 규칙을 너무 많이 적용하다 보면 규칙 사이의 간섭이 일어나 처리하기 곤란한 경우 발생
  • 언어는 문화를 반영하므로 서로 다른 언어의 의미가 1대1로 맞물리지 않는 경우 발생

2. 예시 기반 기계번역(Example-Based Machine Translation)

• 사람들이 실제로 활용하는 문장 전체의 맥락을 살펴보는 데 주안점을 두고, 풍부한 데이터를 활용하는 방식
• 규칙을 통해'이해'하기 보다, 경험을 통해 '모방'하는 형태
  • 기본적인 문장의 의미를 파악한 다음 비슷한 문장의 의미를 비교해 전체 의미를 '유추'해내는 것
• 한계 : 수많은 동음이의어를 직접 처리해야함

3. 통계 기반 기계 번역(Satistical Machine Translation)

• 문장을 단어 또는 구문 단위로 분할하한 다음 이를 번역하고 다시 문장으로 합치는 과정에 확률적인 방법을 접목
• 문장에 속한 단어의 번역 확률을 나열하고 확률이 높은 순으로 의미를 조합해 번역문을 완성
• But, 조합한 문장을 보면 어색한 경우가 많음
  • 자연스러운 문장을 위해 단어 단위에서 구문 단위로 확장하여 해결

4. 신경망 기반 기계 번역(Neural Machine Traslation)

• 구문 단위를 넘어 문장 전체에 딥러닝 적용
• 문장 전체를 하나의 단어처럼 통째로 번역하여 자연스러운 번역 가능해짐
  • 인공 신경망이라는 풍부한 모델과 이를 견인할 수 있는 방대한 데이터를 확보하며 가능

 

 

 

 

 

 

 

 

 

 

 

 

신경망 기반 기계 번역의 원리

단순한 방식으로 훨씬 더 좋은 번역문을 만들 수 있는 이유

• 엄청나게 많은 데이터를 학습하여 자연스럽게 번역하는 것
  • 기존 규칙 기반 : 문법 위주로 공부한 한국 학생
  • 신경망 기반 : 문법은 모르지만 미국에서 영어로 많이 얘기해본 유학생

1. 문장을 통째로 압축하기

• 문장을 통째로 압축해 숫자로 표현한 벡터를 만들어냄
  • 벡터 : 방향과 크기를 나타내는 값
• 인코더(Encoder) : 문장을 압축하는 부분
  • 문장을 띄어쓰기 단위로 구분한 다음 차례대로 인공 신경망을 통과하며 핵심적인 특징 추출

2. 벡터로 다시 번역문 제조

• 각각의 벡터에 해당하는 번역문을 찾아내어 만듬
• 디코더(Decoder) : 문장을 푸는 부분
  • 압축된 백터를 받아서 순서대로 풀어냄
  • 이 때, 2가지 입력을 받음 
    • 1. 앞선 단어의 번역
    • 2. 인코더가 압축한 백터(문장 번역이 끝날 때까지 디코더는 계속해서 인코더가 압축한 벡터를 참조하며 보다 자연스러운 문장 제조)

문제점

• 1. 번역할 원문의 길이와 관계없이 원문을 일정한 길이의 벡터로 한번만 압축함
• 2. 한번 만든 벡터를 계속 참조하다 보니 번역문이 길어질수록 핵심 단어를 놓침(문장 안에서 거리가 먼 단어의 관계 파악 어렵)

문제점 극복, 어텐션(Attention)

• 단어 사이의 거리가 아무리 멀어도 서로 관련이 있는 단어라면 그 단어에 별도로 표시해 가중치 부여
• 번역문의 단어를 생성할 때마다 출력 문장의 길이에 맞춰 압축 벡터 생성 → 번역문이 길어질 수록 벡터도 함께 길어지기 때문에 긴 문장 번역 시 문제 해결

 

 

 

---

💡INSIGHT

 마지막 장이 인상깊다. 하나님과 동등해지기 위해 바벨탑을 만들었고, 그에 대한 형벌으로 언어의 혼돈이 왔다. 고품질의 기계 번역은 점점 언어의 장벽을 무너뜨리고 있다.

 매일 해외 개발자들과 소통하며 챗GPT의 도움을 많이 받고 있다. 어느정도 소통은 가능하지만, 내가 완전히 이해하고 있고, 잘 전달하고 있는지는 알 수 없다. 따라서 나와 개발자 사이에는 언어의 장벽이 존재한다. 매끄러운 대화는 가능하지만 진심이 닿을 수 없다는 한계를 참 많이 느낀다. 기계의 신경망이 아무리 발전하고, 복잡해진다고 한들 인간의 뇌 만큼 유연하며 복잡하지 않다. 하지만 요즘 기계에 너무 의지를 하니 뇌가 굳는 느낌이다. 기계보다는 성능 좋은 뇌를 위해(ㅋㅋ)짧고 부정확한 영어라도 뱉어보아야겠다. 나의 뇌가 학습하는 것이 결국엔 진정한 소통을 위한 걸음이라는 생각이 든다.

 이제 기계 번역엔 더 이상 규칙을 입력하지 않는다. 수많은 문장을 보며 스스로 규칙을 학습하고 언어를 이해한다. 성능을 높이는 데 필요한 것은 보다 많은 데이터, 보다 많은 문장이다. 기계번역이 발전한 방식 처럼 문법, 단어, 숙어를 공부하기 보다 경험으로 데이터를 쌓으며 언어의 큰 산을 조금씩 넘어야겠다.