Inference on Historyhttps://kukie.tech/tags/inference/Recent content in Inference on HistoryHugoko-krMoEhttps://kukie.tech/wiki/moe/Mon, 01 Jan 0001 00:00:00 +0000https://kukie.tech/wiki/moe/Mixture of Experts. 트랜스포머의 FFN 을 여러 전문가로 나누고 라우터가 토큰마다 몇 개만 골라 계산하는 구조. 전체 파라미터는 크지만 토큰 하나에 쓰는 활성 파라미터가 작아, 메모리 대역폭에 묶이는 decode 가 빠르다.