LLM 서비스 개발자의 필독서 'LLM 서비스 설계와 최적화'

한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다. 

책을 읽게된 배경

사이드 프로젝트로 특정 업무를 자동화하는 프로그램을 만드는 중인데 마침 한빛미디어에서 관련 책을 제공해주어서 읽게 되었다. 정보가 제공되는 규격은 계속 바뀌기 때문에 LLM(Large Language Model)을 활용해서 규격이 바뀌어도 필요한 정보를 읽어오게 만들면 이러한 규격 변화를 자동으로 대응할 수 있어서 관심이 있던 참이었다.

1장 중 한 쪽 (출처: LLM 서비스 설계와 최적화)

책의 개요

'LLM 서비스 설계와 최적화'는 생성형 AI 기술의 상용화를 고민하는 개발자와 기업을 위한 실용적인 안내서이다. 이 책은 대규모 언어 모델(LLM)의 구축, 튜닝, 배포 과정을 효율적으로 설계하고 최적화하는 방법을 체계적으로 설명한다. 특히, 고성능을 유지하면서도 비용을 최소화하는 전략에 중점을 두고 있다.

저자 소개

이 책의 저자인 슈레야스 수브라마니암(Shreyas Subramanian)은 AWS(Amazon Web Services)의 수석 데이터 과학자로서, 아마존 내부 팀과 대기업 고객을 대상으로 생성형 AI 애플리케이션의 대규모 구축, 튜닝 및 배포를 컨설팅하는 사람이다. 저자는 기초 모델을 위한 고급 훈련, 튜닝 및 배포 기술의 최첨단 연구 개발을 담당하며, 머신러닝 중심의 비용 최적화 워크숍을 운영하여 클라우드에서 인공지능 애플리케이션의 비용을 절감하는 법을 컨설팅하는 일을 한다.

대상 독자

이 책은 다음과 같은 독자들을 위해 쓰였으며 특히, LLM을 활용한 서비스를 실제로 운영하거나 도입을 검토 중인 기업과 개발자들에게 유용한 내용을 담고 있다.

1. 생성형 AI 서비스를 기획하거나 개발 중인 실무자
2. LLM 기반 애플리케이션의 성능과 비용 최적화에 관심 있는 개발자
3. AI 기술을 도입하려는 기업의 기술 담당자
4. 프롬프트 엔지니어링, 파인튜닝, 모델 배포 등 실전 기술을 학습하고자 하는 독자

추천 독자

이 책은 다음과 같은 독자들이 읽으면 좋다. 이 책은 실무에 바로 적용 가능한 지식과 전략을 제공하므로, 이론보다는 실제 구현과 운영에 관심 있는 독자들에게 특히 유익하다.

1. AI 서비스를 개발하면서 비용 효율성과 성능 최적화에 대한 고민이 있는 개발자
2. LLM의 다양한 활용 사례와 최적화 기법을 학습하고자 하는 데이터 과학자
3. 생성형 AI 기술을 도입하려는 스타트업이나 중소기업의 기술 리더
4. 프롬프트 엔지니어링, 파인튜닝, 모델 배포 등 실전 기술을 익히고자 하는 독자

AI 챗봇 어플리케이션 시퀀스 다이어그램(출처: LLM 서비스 설계와 최적화)

책의 특징

'LLM 서비스 설계와 최적화'는 다음과 같은 특징을 가지고 있다.

1. 실용적인 접근: 이론보다는 실제 구현과 운영에 중점을 두어, 독자들이 바로 적용할 수 있는 지식과 전략을 제공한다.
2. 비용 최적화 전략: 모델 선택, 프롬프트 엔지니어링, 파인튜닝, 배포 등 각 단계에서 성능 저하를 최소화하면서 비용을 효과적으로 줄이는 방법을 소개한다.
3. 다양한 최적화 기법 소개: 파라미터 효율적 파인튜닝(PEFT), 모델 양자화, 추론 가속화 도구 등 최신 최적화 기법을 다루어, 독자들이 다양한 상황에 맞는 전략을 선택할 수 있도록 돕는다.
4. 균형 잡힌 시각 제공: 기술적 측면뿐만 아니라 비즈니스적 가치 평가에도 통찰을 제공하여, 기술 구현과 비즈니스 요구 사항 사이의 균형점을 찾고자 하는 독자들에게 유용한 관점을 제시한다.
5. 체계적인 구성: 기초 개념부터 고급 최적화 기법까지 단계적으로 설명하여 AI 기술 도입의 전체 흐름을 파악할 수 있게 한다.

'LLM 서비스 설계와 최적화'는 생성형 AI 기술의 도입과 운영에 있어 실질적인 가이드를 제공하는 책이다. 비용 효율성과 성능 최적화를 동시에 달성하고자 하는 개발자와 기업에게 이 책은 유용한 참고서가 될 것이다.

ChatGPT LLM으로 생성한 책 표지