[2024-04-05] 블로그 리뉴얼
현재 블로그를 리뉴얼 중입니다.
블로그 프레임워크가 변경되어(Jekyll → Vitepress) 기존 글들을 새 프레임워크에 맞게 수정 중입니다.
최대한 빠른 시일 내에 완료할 수 있도록 노력하겠습니다.
불편을 드려 죄송합니다.
※ 아직 이전되지 않은 글들은 github에서 markdown 파일로 확인하실 수 있습니다. github 링크
Reinventing the Wheel
Notices
Recently Added Documents
Python
반복문에서의 else
사용하지 않는 것이 좋음 이 기능은 코드의 가독성을 떨어뜨리므로 되도록 사용하지 않는 것이 좋다. 반복문에서의 else 파이썬에서는 반복문 뒤에 else 블록을 사용할 수 있다. else 블록은 반복문이 중간에 break나 raise 따위로 끊기지 않고 끝까지 실행되었을 때 실행된다. pythonfor i in range(3): print(i) else...
Python
f-string (formatted string literals)
f-string(formatted string literal)이란? 파이썬에서는 단일 따옴표(" 또는 ') 또는 삼중 따옴표(""" 또는 ''')를 사용해 문자열(string literal)을 표현할 수 있다. 파이썬 3.6 이상부터는 이 문자열 앞에 f 또는 F를 붙여 f-string을 만들 수 있다. f-string을 이용하면 문자열 보간(strin...
Machine Learning/Natural Language Processing/어텐션 메커니즘
어텐션 메커니즘 (Attention Mechanism)
어텐션 메커니즘 (Attention Mechanism) 참고 [2015] Neural Machine Translation by Jointly Learning to Align and Translate 어텐션 메커니즘은 Seq2Seq 모델의 문제점을 개선하기 위해 제안되었다. 어텐션 메커니즘의 아이디어는 고정된 크기의 벡터(컨텍스트 벡터) 하나에 입력 시퀸...
Machine Learning/Natural Language Processing/어텐션 메커니즘
트랜스포머 (Transformer)
참고 [2017] Attention Is All You Need 트랜스포머(Transformer) 모델 트랜스포머 모델은 Seq2Seq 모델, 어텐션 이후 NLP 분야에서 나온 또 하나의 큰 도약이다. 트랜스포머 모델의 아이디어는 Seq2Seq + 어텐션 모델에서 RNN 구조를 제거하는 것이다. 즉 RNN을 사용하지 않고 오직 어텐션 연산(과 FC 연산...
Machine Learning/Natural Language Processing/어텐션 메커니즘
Seq2Seq 모델
참고 [2014] Sequence to Sequence Learning with Neural Networks 어텐션 메커니즘은 본래 Seq2Seq 모델을 개선하기 위해 제안된 메커니즘이다. 어텐션 메커니즘을 잘 이해하려면 Seq2Seq 모델을 이해해야 한다. Seq2Seq 모델 Seq2Seq 모델은 번역, 요약과 같이 시퀸스(sequence)를 입력받아...
Recently Modified Documents
Python
반복문에서의 else
사용하지 않는 것이 좋음 이 기능은 코드의 가독성을 떨어뜨리므로 되도록 사용하지 않는 것이 좋다. 반복문에서의 else 파이썬에서는 반복문 뒤에 else 블록을 사용할 수 있다. else 블록은 반복문이 중간에 break나 raise 따위로 끊기지 않고 끝까지 실행되었을 때 실행된다. pythonfor i in range(3): print(i) else...
Python
f-string (formatted string literals)
f-string(formatted string literal)이란? 파이썬에서는 단일 따옴표(" 또는 ') 또는 삼중 따옴표(""" 또는 ''')를 사용해 문자열(string literal)을 표현할 수 있다. 파이썬 3.6 이상부터는 이 문자열 앞에 f 또는 F를 붙여 f-string을 만들 수 있다. f-string을 이용하면 문자열 보간(strin...
Math/Linear Algebra
벡터와 행렬
벡터(vector)란? 여러 개의 값(또는 수식)을 하나의 순서 있는 덩어리(ordered list)로 묶어놓은 것. -tuple 벡터, 혹은 그냥 줄여서 -벡터라 하면 다음처럼 개의 값들을 묶어놓은 벡터를 의미한다. 벡터는 일반적으로 위와 같이 세로 형태로 표현하지만, 표기의 편의를 위해 다음과 같이 가로 형태로 쓰기도 한다(가로로 작성되어 있어도 위...
Math/Linear Algebra
Symmetric Matrix
symmetric matrix 인 정사각행렬 를 symmetric하다고 한다. 인 정사각행렬 를 anti-symmetric하다고 한다. 모든 symmetric matrix들의 집합을 이라 표기한다. 행렬 에 대해, 이므로, 는 항상 symmetric matrix이다. 참고로 이런 꼴의 행렬을 Gram matrix라고 한다. 임의의 정사각행렬 가 있을 때...
Math/Linear Algebra
선형연립방정식 (Linear System)
선형연립방정식(linear system)이란? 변수 , , ..., 에 대해 다음과 같은 형태로 기술되는 식을 선형방정식(linear equation) 이라 한다. 이때 , , ..., 을 계수(coefficient) 라 부른다. 같은 변수를 공유하는 하나 이상의 선형방정식들의 모임을 선형연립방정식(system of linear equation, lin...