모델 배포 기초
- 모델 관리
- 배포 방법
배치 배포 (Batch Deployment)
- 배치 배포 소개
- 배치 추론 (Batch Inference)
- SLM을 활용한 배치 추론 워크플로우
실시간 배포 (Real-Time Deployment)
- 실시간 배포 소개
- Databricks 모델 서빙
- 모델 서빙을 활용한 외부 모델 서빙
- LLM 체인의 Databricks 모델 서빙 배포
- 커스텀 모델 배포 및 A/B 테스트
AI 시스템 모니터링 (AI System Monitoring)
- AI 애플리케이션 모니터링
- LLM RAG 체인 온라인 모니터링
LLMOps 개념
- MLOps 기초
- LLMOps vs MLOps
- 모델 관리
- 배포 방법
배치 배포 (Batch Deployment)
- 배치 배포 소개
- 배치 추론 (Batch Inference)
- SLM을 활용한 배치 추론 워크플로우
실시간 배포 (Real-Time Deployment)
- 실시간 배포 소개
- Databricks 모델 서빙
- 모델 서빙을 활용한 외부 모델 서빙
- LLM 체인의 Databricks 모델 서빙 배포
- 커스텀 모델 배포 및 A/B 테스트
AI 시스템 모니터링 (AI System Monitoring)
- AI 애플리케이션 모니터링
- LLM RAG 체인 온라인 모니터링
LLMOps 개념
- MLOps 기초
- LLMOps vs MLOps
