출처 : DSBA 유투브, 이유경님 발표 Seq2SeqNeural Machine TranslationEncoder - Decoder 구조의 모델 (RNN 기반의)Attention + Seq2SeqNeural Machine TranslationDecoder가 Source Sentence 의 중요한 정보에 집중하게 하자.TransformerNeural Machine TranslationSelf Attention, Multi-Head AttentionGPT - 1Task AgnosticTransformer Decoder Block언어 자체를 이해할 수 있는 좋은 Representation을 학습해보자!Pre training을 맞춘 뒤, Fine Tuning을 통해 Task를 다뤄보자 라고 제안.BERTTask..
분류 전체보기
출처 링크데이터 확인df = pd.read_csv('파일 경로')df.head(n)df.tail(n)df.columnsdf.shapedf.info() # 열 정보, Null 개수, 열 타입, 사이즈 등의 데이터 프레임 정보df.describe() # 수치형 변수에 대한 통계 정보df.isnull().sum() # Null 데이터 확인df[열 이름].value_counts(normalize = False/True) # 범주형 변수에 대한 각 범주별 빈도수df.select_dtypes(type) # 해당하는 열만 데이터 프레임 형태로 확인 데이터 전처리df.drop(axis=0/1, inplace = False/True)df.replace({'바꾸고자 하는 값': '바뀌는 값'}, inplace ..
출처 : https://coding-yesung.tistory.com/223 Import 하기import torchimport torch.nn as nnimport torch.optim as optimimport torchvision.datasets as datasetsimport torchvision.transforms as transformsimport matplotlib.pyplot as pltfrom torch.utils.data import DataLoader cuda 데꼬오기device = 'cuda' if torch.cuda.is_available() else 'cpu'print(device) 데이터 불러오기train_data = datasets.MNIST( root = 'data', ..
Vector공간에서의 한 점, 원점으로부터의 "상대적" 위치벡터는 크기와 방향이다.동쪽으로 5m per hour (Velocity => Vector)$\vec{V} = (5, 0) = \left[ {\begin{array} {cc} 5 \\ 0 \end{array}} \right] $ Vector의 덧셈다른 벡터로부터 상대적 위치 이동$ \vec{a} + \vec{b}$ 이면, 원점으로부터 $\vec{a}$ 만큼 갔다가 거기서 $\vec{b}$ 만큼 이동.$ \vec{a} + \vec{b} = \vec{b} + \vec{a} $$ \left[ {\begin{array} {cc} 3 \\ 2 \end{array}} \right] + \left[ {\begin{array} {cc} -2 \\ 1 \end..