오늘날 우리는 트랜스포머(transformer)의 시대에 살고 있다고 말해도 과언이 아니다. 트랜스포머 기반 모델들은 대부분의 NLP task에서 SOTA를 달성하고 있다.
트랜스포머 모델의 핵심은 바로 어텐션(attention) 메커니즘에 있다. 본 시리즈에서는 어텐션 메커니즘에 대해 자세히 알아보겠다.
오늘날 우리는 트랜스포머(transformer)의 시대에 살고 있다고 말해도 과언이 아니다. 트랜스포머 기반 모델들은 대부분의 NLP task에서 SOTA를 달성하고 있다.
트랜스포머 모델의 핵심은 바로 어텐션(attention) 메커니즘에 있다. 본 시리즈에서는 어텐션 메커니즘에 대해 자세히 알아보겠다.
Comments