posts/what-is-the-transformers/

[giscus[bot]]

posts/what-is-the-transformers/

Transformer 기반 LLM의 내부 구조를 단계별로 살펴보고, Token Embedding·Attention·LM Head 등 각 모듈의 의미와 KV Cache·MHA·GQA 등 최적화 기법을 정리합니다.

https://hyper-accel.github.io/posts/what-is-the-transformers/