GPT 2
[Zero shot learning](https://texonom.com/zero-shot-learning-8c92d9386f6648f5b877cb593ec2747b) [Few shot learning](https://texonom.com/fewshot-learning-f2a97adcbc774f4abd677a6db974329d) 


Reddit Data 40GB
Task에 따른 Fine tuning 없이 기존 Task의 SOTA 모델들을 넘어섬
잘 학습된 LLM 모델 하나로 모든 Task를 할 수 있을지도 모른다는 임팩트
1.5B



> [Algpt2 Part 2](https://bkkaggle.github.io/blog/algpt2/2020/07/17/ALGPT2-part-2.html#replicating-gpt-2)





