상세정보
미리보기
LLMOps 완벽 가이드
- 저자
- 아비 아리안 저/박조은,박주환 역
- 출판사
- 한빛미디어
- 출판일
- 2026-05-21
- 등록일
- 2026-07-31
- 파일포맷
- PDF
- 파일크기
- 4MB
- 공급사
- YES24
- 지원기기
-
PC
PHONE
TABLET
웹뷰어
프로그램 수동설치
뷰어프로그램 설치 안내
책소개
성공적인 생성형 AI 도입의 마지막 관문신뢰할 수 있는 LLM 시스템 설계와 운영 전략오픈 소스 모델이나 상용 API로 대규모 언어 모델(LLM)에 접근하는 것은 쉬워졌지만, 이를 실제 운영 환경에 올리는 순간 추론 비용, 지연 시간, 환각 현상, 보안 위협 등 전혀 다른 차원의 문제에 직면하게 된다. 이 책은 기존 MLOps의 한계를 넘어 생성형 AI의 고유한 특성을 통제하기 위해 등장한 LLMOps 프레임워크를 포괄적으로 다룬다. 데이터 엔지니어링부터 배포, 평가, 거버넌스까지 전체 수명 주기를 하나의 흐름으로 연결해 LLM 기반 애플리케이션이 신뢰성, 확장성, 견고성, 보안이라는 네 가지 핵심 목표를 달성하도록 돕는다.
저자소개
Abide AI의 설립자이자 머신러닝 연구 엔지니어로, 10년 가까이 프로덕션 수준의 머신러닝 시스템을 구축해 왔습니다. 수학을 전공했으며 과거 UCLA 인지 시스템 연구실(CSL)에서 주데아 펄(Judea Pearl) 교수의 지도 아래 방문 연구원으로 활동하며 지능형 에이전트 개발에 집중했습니다.
AutoML, 다중 에이전트 시스템, 대규모 언어 모델 분야에서 다수의 연구 논문을 저술했으며, 신경 정보 처리 시스템 학회(NeurIPS), 계산 언어 학회(ACL), 자연어 처리 실증 방법 학회(EMNLP), 근사 베이지안 추론 학회(AABI) 등 주요 학술 대회와 워크숍에서 리뷰어로 활발히 활동합니다. 현재는 AI 에이전트의 반성적 지능(reflective intelligence), 다중 에이전트 시스템의 분산형 자기 복구 프로토콜, 초대규모 AI 시스템의 GPU 엔지니어링 연구를 진행하고 있습니다.
목차
CHAPTER 1 대규모 언어 모델 소개_1.1 주요 용어_1.2 트랜스포머 모델_1.3 대규모 언어 모델_1.4 LLM 구조_1.5 LLM 선택_1.6 기업의 LLM 활용 사례_1.7 LLM을 활용한 구축의 도전 과제_1.8 결론참고 문헌CHAPTER 2 LLMOps 소개_2.1 운영 프레임워크의 개념_2.2 LLMOps 팀과 역할_2.3 LLM과 조직_2.4 LLMOps의 네 가지 목표_2.5 LLMOps 성숙도 모델_2.6 결론참고 문헌읽을거리CHAPTER 3 LLM 기반 애플리케이션_3.1 애플리케이션에서 AI 모델 사용하기_3.2 인프라 애플리케이션_3.3 VLM과 멀티모달 LLM의 부상_3.4 LLMOps 질문_3.5 LLM 기반 애플리케이션에서 무엇을 제어할 수 있는가?_3.6 LLM 기반 인프라 시스템의 도전 과제_3.7 결론참고 문헌CHAPTER 4 LLM 데이터 엔지니어링_4.1 데이터 엔지니어링과 LLM의 부상_4.2 데이터옵스 엔지니어 역할_4.3 데이터 관리_4.4 일반적 LLM 데이터 전처리 파이프라인_4.5 벡터화_4.6 결론참고 문헌읽을거리CHAPTER 5 LLM 기반 애플리케이션의 모델 도메인 적응_5.1 LLM 기초 훈련_5.2 모델 앙상블 접근 방식_5.3 모델 도메인 적응_5.4 프롬프트 엔지니어링_5.5 파인 튜닝_5.6 전문가 혼합 모델_5.7 자원 제약 장치용 모델 최적화_5.8 효과적인 LLM 개발 전략_5.9 결론참고 문헌CHAPTER 6 API 우선 LLM 배포_6.1 모델 배포하기_6.2 LLM용 API 개발하기_6.3 API 구현하기_6.4 자격 증명 관리_6.5 API 게이트웨이_6.6 API 버전 관리 및 수명 주기 관리_6.7 LLM 배포 아키텍처_6.8 검색 재정렬기 파이프라인을 활용한 RAG 자동화_6.9 지식 그래프 자동 업데이트_6.10 배포 지연 시간 최적화_6.11 다중 모델 오케스트레이션_6.12 RAG 파이프라인 최적화_6.13 확장성과 재사용성_6.14 결론CHAPTER 7 LLM 평가_7.1 평가가 어려운 이유_7.2 성능 평가_7.3 일반적인 평가 고려 사항_7.4 전통적인 평가 지표의 한계_7.5 결론참고 문헌CHAPTER 8 거버넌스: 모니터링, 개인정보 보호, 보안_8.1 데이터 문제: 규모와 민감성_8.2 보안 위험_8.3 방어 조치: LLMSecOps_8.4 LLMSecOps 감사 수행_8.5 안전 및 윤리적 가드레일_8.6 결론참고 문헌CHAPTER 9 스케일링: 하드웨어, 인프라, 자원 관리_9.1 올바른 접근 방식 선택하기_9.2 스케일링과 자원 할당_9.3 모니터링_9.4 LLM을 위한 A/B 테스트와 섀도 테스트_9.5 자동 인프라 프로비저닝과 관리_9.6 LLM 인프라 최적화_9.7 LLM을 위한 병렬 및 분산 컴퓨팅_9.8 고급 프레임워크 ZeRO와 DeepSpeed_9.9 결론참고 문헌CHAPTER 10 LLM과 LLMOps의 미래_10.1 현재의 한계를 넘어서는 확장_10.2 하이브리드 아키텍처: 신경망과 심볼릭 AI의 결합_10.3 LLMOps의 미래_10.4 LLMOps 엔지니어로 성공하는 방법_10.5 결론참고 문헌읽을거리
