Machine Learning/토막글

Padded Sequence vs. Packed Sequence

문제상황 ​ 자연어와 같은 sequence 데이터들을 다루다 보면 짜증나는 요소가 하나 있는데, 바로 그 길이가 일정하지 않다는 것이다. 이미지 데이터의 경우 crop이나 resize 등으로 가로 세로 크기를 맞추고 진행하기에 모든 데이터들을 하나의 batch로 예쁘게 묶을 수 있다. 하지만 sequence 데이터는 길이가 다양해 하나의 batch로 묶기 ...

Machine Learning/토막글

[scikit-learn] pip install sklearn vs. scikit-learn

사이킷런은 다음과 같이 pip을 이용해 간단하게 설치할 수 있다. bashpip install scikit-learn 그런데 다음 명령어로도 사이킷런을 설치할 수 있다. bashpip install sklearn 두 방법의 차이는 무엇일까? pip install sklearn vs. scikit-learn ​ 결론부터 말하자면, pip install sci...

Machine Learning/토막글

[pytorch] Dataset, DataLoader

pytorch는 모델로의 데이터 입력을 편하게 할 수 있도록 위해 torch.utils.data.Dataset 클래스(이하 Dataset)와 torch.utils.data.DataLoader 클래스(이하 DataLoader)를 제공한다. Dataset : 데이터 셋의 각 샘플들에 전처리 등의 작업을 수행해 하나씩 가져오는 역할을 한다. DataLoader ...

Machine Learning/토막글

Positional Encoding vs. Positional Embedding

전통적으로, 자연어로 된 문장을 조작해야 하는 NLP 영역에서는 연속적인(sequential) 데이터를 자연스럽게 입력으로 받아들일 수 있는 RNN 기반 모델이 많이 사용되어 왔다. 예를 들어, 문장 "John loves Susan"과 "Susan loves John"은 같은 단어들로 구성되어 있지만, 그 단어들의 위치(순서)가 달라 서로 다른 문장이다. ...

Machine Learning/토막글

Feed Forward (Neural) Network vs. Fully Connected Network

참고 https://stackoverflow.com/questions/45933670/whats-the-difference-between-feed-forward-network-and-fully-connected-networ Feed Forward (Neural) Network, 줄여서 FFNN이라 불리는 신경망과, Fully Connected (Neural...