데분데싸

  • 홈

Transformer 1

transformer 구현 및 설명

transformer에 관한 구현 및 설명을 정리한 것이다. 원문은 wikidocs에 있는 설명 자료를 거의 그대로 카피한 것이고, 공부할 겸, 필사하는 느낌으로 정리했다. transformer 설명 자료 원문 주소 transformer 설명자료¶ transformer 논문: https://arxiv.org/abs/1706.03762 transformer 설명자료: https://www.youtube.com/watch?v=Yk1tV_cXMMU (반드시 볼 것) In [1]: import numpy as np import matplotlib.pyplot as plt import tensorflow as tf 1. transformer의 하이퍼 파라미터 정리¶ $d_{model}$ = 512 트랜스포머의 인..

자연어, 비전 2021.06.03
1
더보기
프로필사진

  • 분류 전체보기 (67)
    • 기계학습 (30)
      • 인공지능및기계학습개론정리 (9)
      • 밑바닥딥러닝3 오독오독 씹기 (8)
      • 베이지안 (5)
      • 수리통계학 (3)
    • 강화학습 (8)
    • 자연어, 비전 (6)
    • 교육자료 (3)
    • 논문 (1)
    • 빅데이터분석기사정리 (2)
    • 끄적끄적 (16)

최근글과 인기글

  • 최근글
  • 인기글

Tag

자연어, NLP, 강화학습, pymc3, 빅데이터, 베이지안, Monte-Carlo, forward, 몬테카를로, 앙상블, 머신러닝, Modeling, reinforcement, MCMC, 빅데이터 분석기사, 분석기사, Bayesian, 밑바닥부터시작하는딥러닝3, HMM, 역전파,

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

티스토리툴바