AI / LLM
AI와 LLM을 학습하고 구현한 과정을 기록합니다
Python 기반과 모델 구조부터 애플리케이션 프레임워크, fine-tuning, 추론, 도구 연동과 평가까지. 새로 공부하는 영역을 독립된 세부 주제로 확장해 기록합니다.
- Subtopics
- 11
- Published
- 47
분야 소개11개 주제 · 47개 글
Python 기반과 모델 구조부터 애플리케이션 프레임워크, fine-tuning, 추론, 도구 연동과 평가까지. 새로 공부하는 영역을 독립된 세부 주제로 확장해 기록합니다.
세부 주제11개 보기
세부 주제로 좁혀보기
최신글/ 47
Direct Preference Optimization 해부: 사람의 A가 B보다 낫다는 말을 어떻게 바로 학습할까
Rafailov 외의 Direct Preference Optimization을 RLHF의 보상 모델·PPO와 비교해, Bradley–Terry 선호 확률에서 KL 제약 정책까지의 수식 유도, 실제 공개 코드의 token log-probability 경로, 데이터 계약·평가·운영 한계까지 12세 독자 기준으로 해부한다. DPO가 보상·안전·권한 판단을 자동으로 해결하지 않는 이유도 직접 검증 경계와 함께 설명한다.
2026. 07. 24. · 54분 읽기FlashAttention 원 논문 해부: attention 행렬을 HBM에 쓰지 않고도 정확히 계산하는 법
Dao 외의 FlashAttention 원 논문을 12세 독자 기준으로 해부한다. standard attention이 N×N score·probability를 HBM에 materialize하는 병목, 타일과 online softmax의 m·l·누적 output 상태, forward/backward recomputation, IO·FLOP·memory의 구분, 2022 공식 CUDA source 실행 경로, 순수 Python 직접 검증, 정확한 선택·운영 경계를 사실과 해석으로 분리한다.
2026. 07. 24. · 45분 읽기GPT-2가 Mary를 고르는 회로 — IOI Circuit
Wang 외의 Interpretability in the Wild 원문을 기준으로 GPT-2 small이 indirect object identification에서 중복되지 않은 이름을 고르는 26 attention head·7 class circuit, pABC mean ablation, path patching, logit difference, faithfulness·completeness·minimality를 정리한다. Python 3.9.6으로 IOI 최소 알고리즘과 logit difference를 직접 확인한다.
2026. 07. 24. · 13분 읽기GQA는 무엇을 공유하는가 — KV Cache 추론 병목 풀기
Ainslie 외 GQA 원 논문을 기준으로 MHA·MQA·GQA의 query와 key·value 공유 구조, autoregressive KV cache 대역폭 식, MHA checkpoint mean-pooling uptraining, 실험 수치와 한계를 정리한다. Python 3.9.6으로 cache 크기와 group attention 출력을 직접 재현한다.
2026. 07. 24. · 14분 읽기Induction Head는 문맥의 다음을 어떻게 복사하는가
Olsson 외의 In-context Learning and Induction Heads 원문을 기준으로 [A][B] … [A] → [B] 패턴 복사를 구현하는 previous-token head와 induction head의 2-layer 회로, 논문이 정의한 in-context learning score, training phase change와 여섯 줄 증거의 강도, small attention-only model의 인과 증거와 large model의 상관 증거를 분리해 설명한다. Python 3.9.6으로 가장 작은 sequence-copy algorithm을 직접 실행한다.
2026. 07. 24. · 13분 읽기