PyTorch 2019 Paper Review

[논문 리뷰] PyTorch: An Imperative Style, High-Performance Deep Learning Library

NeurIPS 2019에 발표된 PyTorch 원 논문 리뷰. Eager Execution 기반의 설계 철학과 autograd 구현, 그리고 왜 연구자들이 PyTorch에 열광했는지를 정리함.

MLIR 기반 Triton 컴파일 파이프라인

GPU Kernel Compiler: Triton and MLIR

MLIR 기반 GPU 커널 컴파일러인 Triton이 뭔지, CUDA랑 뭐가 다른지, 내부 구조는 어떻게 생겼는지 정리