DSCI-276: Cloudera AI Inference: From Model Deployment to Intelligent Applications

Cloudera AI Inference를 활용해 대규모 언어 모델(LLM)을 배포하고 운영하는 방법을 배우는 실습 중심의 1일 과정입니다.
AI Registry에 모델을 등록하고 추론 엔드포인트로 배포하는 과정을 실습하며, 성능과 비용을 고려한 리소스 구성 방법을 익힙니다.
또한 Cloudera Copilot, SQL AI Assistant, Agent Studio를 활용하여 코드 작성과 SQL 작업의 효율을 높이고, AI 에이전트를 구축하는 방법을 학습합니다.

수강대상

기업 환경에서 AI 모델을 배포·운영하는 실무자

AI/ML 엔지니어

데이터 사이언티스트

MLOps 엔지니어

플랫폼 엔지니어

데이터 엔지니어

AI 워크로드를 지원하는 DevOps 엔지니어

솔루션 아키텍트

기술 혁신 담당 팀

교육목표

- Cloudera AI Inference와 AI Registry의 구조 및 핵심 구성 요소 이해
- 머신러닝 모델과 LLM을 등록·관리하고, 확장 가능한 추론 엔드포인트로 배포
- CPU/GPU 리소스 구성, 모델 양자화 및 워크로드 규모 산정을 통한 성능 최적화
- 지연 시간, 처리량, 동시 처리, 입출력 비율 등 주요 개념 이해
- API를 활용한 추론 엔드포인트 호출 및 기업 업무 흐름과의 연동
- JupyterLab에서 Cloudera Copilot을 활용한 AI 기반 개발 지원 기능 활성화
- SQL AI Assistant를 활용한 자연어 기반 SQL 쿼리 생성·최적화 및 오류 해결
- Agent Studio를 활용해 전체 업무 흐름을 처리하는 AI 에이전트 구축 및 연동

강의내용

제품 개요 및 아키텍처
- Cloudera AI Inference 개요
- 컨트롤 플레인 및 런타임 아키텍처
- Cloudera AI 생태계 내 연동
- CPU 및 GPU 기반 배포 방식
- 기업 환경을 위한 주요 기능
- AI Registry 개요
- Cloudera Model Hub
- Cloudera AI Registry를 활용한 모델 등록 및 거버넌스 관리
- 모델 크기와 정밀도의 기본 개념
- 모델 크기, 정밀도 및 양자화
- 지연 시간과 처리량 간의 상충 관계
- 입출력 비율과 동시 처리의 기본 개념
- 입출력 비율과 동시 처리를 고려한 워크로드 규모 산정
- AI 추론을 위한 NVIDIA GPU 참고 가이드
- AI 추론을 위한 GPU 선택 기준
- 비용 최적화를 위한 GPU 선택
- NVIDIA NIM 및 벤치마킹

실습
- AI Inference 인터페이스 살펴보기
- AI Registry에 LLM 가져오기
- Cloudera AI Inference UI에서 모델 엔드포인트 배포
- 인증 및 엔드포인트 호출
- Hugging Face에서 모델 가져오기

Cloudera Copilot 및 AI 기반 개발 지원
- Cloudera Copilot 개요
- JupyterLab 편집기 연동
- 기반 기술인 JupyterAI 확장 기능 이해
- Cloudera AI Inference에 배포된 모델과 Copilot 연결

실습
- AI Workbench에서 Copilot 활성화
- Copilot과 AI Inference 엔드포인트 연결
- AI를 활용한 코드 생성
- 확장 기능 로드, 모델 목록 확인 및 별칭 등록
- --format code를 활용한 Python 및 PySpark 코드 생성
- Markdown, HTML, 수식 출력 형식 활용
- %ai error를 활용한 SQL 및 Python 오류 디버깅
- 복잡한 코드를 이해하기 쉬운 언어로 설명
- 대화 맥락을 유지하며 반복적으로 개발
- 채팅 패널 명령어 활용: /ask, /fix, /generate
- 실제 업무 과제 수행: ETL, 머신러닝 템플릿, 문서화
- 별칭 등록·사용·수정·삭제

Cloudera Data Warehouse의 SQL AI Assistant
- SQL AI Assistant 소개 및 주요 기능
- Hive를 지원하는 자연어 기반 SQL 생성
- 기반 기술인 JupyterAI 확장 기능 이해
- Cloudera AI Inference에 배포된 모델과 Copilot 연결

실습
- Hue에서 AI Assist 활성화
- GENERATE를 활용한 업무 질문 기반 SQL 쿼리 생성
- AI 기반 쿼리 최적화 및 성능 개선
- FIX를 활용한 SQL 오류 디버깅 및 수정
- EXPLAIN을 활용한 복잡한 SQL 쿼리 설명
- 대화형 인터페이스에서 Generate, Edit, Optimize, Fix, Comment 기능 활용

Cloudera AI Inference와 Agent Studio를 연동한 멀티 에이전트 워크플로
- 기업 업무 자동화 및 의사결정에 활용되는 AI 에이전트 개요
- Cloudera Agent Studio를 활용한 멀티 에이전트 워크플로 구축 및 관리
- Cloudera AI Inference 연동을 통한 에이전트의 실시간 AI 처리
- LLM, 도구 및 오케스트레이션으로 구성된 에이전트 시스템 구조

실습
- Agent Studio에서 데이터베이스 에이전트 구축 및 살펴보기
- Hive 도구를 사용해 에이전트를 Cloudera Data Warehouse(CDW)에 연결
- SQL 실행 에이전트와 데이터베이스 도구 간의 상호작용 이해
- 에이전트 인터페이스에서 일상적인 영어로 업무 관련 질문 입력
- CDW에서 Hive SQL 쿼리 자동 생성 및 실행
- SQL 에이전트와 분석 에이전트의 협업을 통한 심층 분석
- 사용자 질문부터 SQL 생성, 데이터 조회, 응답까지 전체 과정 실행
- 대화형 AI를 활용한 실제 데이터 탐색

자주 묻는 질문

DSCI-276: Cloudera AI Inference: From Model Deployment to Intelligent Applications 과정은 어떤 내용을 다루나요?

Cloudera AI Inference를 활용해 대규모 언어 모델(LLM)을 배포하고 운영하는 방법을 배우는 실습 중심의 1일 과정입니다. AI Registry에 모델을 등록하고 추론 엔드포인트로 배포하는 과정을 실습하며, 성능과 비용을 고려한 리소스 구성 방법을 익힙니다. 또한 Cloudera Copilot, SQL AI Assistant, Agent Studio를 활용하여 코드 작성과 SQL 작업의 효율을 높이고, AI 에이전트를 구축하는 방법을 학습합니다.

DSCI-276: Cloudera AI Inference: From Model Deployment to Intelligent Applications 교육 대상은 누구인가요?

기업 환경에서 AI 모델을 배포·운영하는 실무자 AI/ML 엔지니어 데이터 사이언티스트 MLOps 엔지니어 플랫폼 엔지니어 데이터 엔지니어 AI 워크로드를 지원하는 DevOps 엔지니어 솔루션 아키텍트 기술 혁신 담당 팀

DSCI-276: Cloudera AI Inference: From Model Deployment to Intelligent Applications 과정을 통해 무엇을 배울 수 있나요?

- Cloudera AI Inference와 AI Registry의 구조 및 핵심 구성 요소 이해 - 머신러닝 모델과 LLM을 등록·관리하고, 확장 가능한 추론 엔드포인트로 배포 - CPU/GPU 리소스 구성, 모델 양자화 및 워크로드 규모 산정을 통한 성능 최적화 - 지연 시간, 처리량, 동시 처리, 입출력 비율 등 주요 개념 이해 - API를 활용한 추론 엔드포인트 호출 및 기업 업무 흐름과의 연동 - JupyterLab에서 Cloudera Copilot을 활용한 AI 기반 개발 지원 기능 활성화 - SQL AI Assistant를 활용한 자연어 기반 SQL 쿼리 생성·최적화 및 오류 해결 - Agent Studio를 활용해 전체 업무 흐름을 처리하는 AI 에이전트 구축 및 연동

DSCI-276: Cloudera AI Inference: From Model Deployment to Intelligent Applications 교육 기간은 얼마나 되나요?

1일 과정입니다. 상세 일정은 교육 페이지에서 확인하실 수 있습니다.

DSCI-276: Cloudera AI Inference: From Model Deployment to Intelligent Applications 다음 교육 일정은 언제인가요?

가장 가까운 교육 일정은 2026년 11월 27일입니다. 최신 일정은 https://trainocate.co.kr/v1/training/detail.php?sn=1753 에서 확인하실 수 있습니다.

트레이노케이트는 Cloudera 공인 교육 기관인가요?

트레이노케이트(Trainocate Korea)는 Authorized Cloudera Training Partner(ACTP)로서, Cloudera 공인 커리큘럼 기반의 빅데이터·데이터 플랫폼 전문 교육을 제공합니다.