자연어 처리 트랜스포머 1강(Embedding, Positional Encoding)

자연어 처리 트랜스포머에 대한 강의에서는 트랜스포머의 구조와 기능을 설명합니다. 트랜스포머는 자연어 처리뿐만 아니라 컴퓨터 비전에서도 사용되며, 번역 기계로서의 역할이 강조됩니다. 기존의 RN 시리즈 모델보다 성능과 학습 속도가 뛰어나며, 인코더와 디코더 구조가 간단합니다. 강의에서는 임베딩과 포지셔널 인코딩에 대해 설명하며, 자연어를 숫자로 변환하는 과정이 중요하다고 강조합니다. 포지셔널 인코딩은 단어의 순서를 인식하기 위해 삼각 함수를 사용하여 안정성을 제공합니다.