· 학습 목표
Fine-tuning 기법에 대한 이해합니다.
· 주요 내용
1. Fine-tuning 기법에 대한 이해
2. 딥러닝 관련 다양한 Task에 적용되는 Fine-tuning 기술에 대한 이해
[Chapter 2. 자연어 처리 에서의Fine-tuning]
· 학습 목표
PLM을 이용한 Sentiment-analysis 모델을 이해하고 구현합니다.
· 주요 내용
1. Sentiment-analysis를 위한 데이터 전처리 및 모델 학습
2. Naver 영화 리뷰 데이터를 활용한 실습 진행
[Chapter 3. Hugging Face Trainer API 를 이용한 Fine-tuning]
· 학습 목표
Transformers 라이브러리의 Trainer API 사용 방법을 이해합니다.
· 주요 내용
1. Transformers 라이브러리와 Trainer API 소개
2. Pre-trained Language Model의 로딩 및 Fine-tuning 실습
[Chapter 4. Hugging Face PEFT 라이브러리를 이용한 Fine-tuning]
· 학습 목표
PEFT 라이브러리를 이용한 Fine-tuning 기법을 이해합니다.
· 주요 내용
1. LLM 모델 Fine-tuning의 문제점
2. PEFT 라이브러리에 대한 이해
3. PEFT 라이브러리 LoRA 방식을 이용한 Fine-Tuning
[Chapter 5. Hugging Face PEFT 라이브러리를 이용한 Instruction-tuning]
· 학습 목표
Instruction-tuning 기법을 배웁니다.
· 주요 내용
1. Instruction-tuning 에 대한 이해
2. PEFT 라이브러리 QLoRA 방식을 이용한 Instruction-tuning(KoAlpaca 데이터 셋)
3. Hugging Face Space와 Gradio를 이용한 Custom 챗봇 서비스 구현 및 배포

