ko en ko ko ko ko zh ko ko zh ko ko zh ko ko ko ko ko ko ko ko ko ko ko ko ko ko ko ko en ko ko zh ko ko zh ko ko zh ko ko ko ko ko ko ko ko ko ko ko zh ko ko ko en ko en ko en ko ko zh ko en en en ko en ko en ko en en en en en en ko en en en en en en en en en en en en en en en en en en ko ko en en en fr ko en ko ko ko ko ko ko ru fr ko ko ru oc ko ko de oc ko ko en oc ko ko ru oc ko ko ru fr ko ko ru es ko ko en fr ko ko en en ko ko ru oc ko ko en ru ko ko ru oc ko ko ru en ko ko ru nb ko ko ru ru ko ko ko ko en kn ko en
챗봇 딥러닝 - 초거대모델의 파인튜닝 방법 - P-tuning과 LoRA
AI Dev - 인공지능 개발자 모임
BERT 이후로 딥러닝 자연어처리는 사전훈련 모델(pre-trained model)이 기본이 되었습니다. 보통 위키피디아 같은 데이터로 사전훈련을 하면 언어의 기본적인 특징을 이해하게 됩니다. 그다음 개별 태스크에 맞게 새로운 데이터로 재학습을 하는 파인튜닝(fine-tuning)을 거칩니다.
반면에 GPT-3 같은 초거대모델은 파인튜닝 없이 퓨샷러닝(few-shot learning)을 바로 사용합니다. 입력 프롬프트에 어떤 태스크인지 설명만 넣어주면, 그 뜻을 이해하고 알아서 그렇게 동작을 합니다. 예를 들어, 번역이라면 다음과 같이 몇 가지 예시를 프롬프트에 포함합니다. 그러면 사랑이란 단어의 영어 표현을 자동으로 채워줍니다.
물론 초거대모델도 파인튜닝을 하면 더 성능이 높아집니다. 하지만 실제로 적용하기는 어렵습니다. 워낙 파라미터 사이즈가 크기 때문입니다. 재학습을 하는데 시간과 자원이 너무 많이 소요되니까요.
이런 문제점을 해결하는 방법으로 P-tuning과 LoRA가 있습니다. 둘 다 기본 원리는 비슷합니다. 사전훈련된 가중치는 그대로 두고, 거기에 별도로 추가된 레이어만 새로운 데이터로 학습을 합니다.
P-tuning은 임베딩 레이어에 BiLSTM과 MLP 레이어를 붙입니다. 이렇게 하면 프롬프트의 임베딩이 학습 데이터에 딱 맞게 나오도록 할 수 있습니다. LoRA는 사전훈련 모델의 중간중간에 adapter 레이어를 넣습니다. 그리고 사전훈련 레이어와 adapter 레이어의 결과를 합쳐서 출력값을 생성합니다.
GPT-3도 2021년 12월에 파인튜닝 기능이 새로 생겼습니다. 정확한 알고리즘은 공개되지 않았습니다. 아마 P-tuning이나 LoRA 같이 일부 가중치를 추가하여 거기만 새로 학습하는 방식일 것 같습니다. 재학습을 하는데 데이터 크기에 따라 비용이 부과됩니다. 또한 파인튜닝한 모델을 사용할 경우, 기존보다 2배 정도 가격이 더 비쌉니다. 네이버의 하이퍼클로바도 이런 파인튜닝 기능을 지원할 것 같습니다.
네이버의 초거대모델인 하이퍼클로바 가격 공개
유저 피드백을 받아 지속적으로 학습을 하는 챗봇 - BlenderBot 3
최신 자연어처리 모델 소개
러시아의 구글 얀덱스, 100B 초거대모델 무료 공개
구글의 초거대모델 PaLM의 추론과 상식 능력
글자, 사진, 영상을 동시에 처리하는 딥마인드의 딥러닝 모델 - Flamingo
메타, GPT-3와 동급인 175B의 초거대모델 무료 공개
GPT-3보다 3배 더 큰 구글의 초거대모델, PaLM
초거대모델의 파인튜닝 방법 - P-tuning과 LoRA
교육용 챗봇의 미래!? 구글 람다 (LaMDA)
하이퍼클로바 활용예 및 사용가이드
네이버의 초거대모델인 하이퍼클로바 사용 후기
구글의 대화기반 초거대모델 LaMDA, 논문 공개
프로그램을 작성하는 딥마인드의 알파코드
GPT-3를 강화학습으로 업그레이드한 InstructGPT
첫 페이지 1 2 3 4 5 6 7 8 9 10 끝 페이지
Board Search 제목+내용 제목 내용 댓글 닉네임 태그 검색
© 2022 AI Dev - 인공지능 개발자 모임 Powered by XE