출간일(Release) : 2025/10/20
종이책 출간일(Print Release) : 2025/09/22
전자책 종류(Format) : ePub
Price : KRW 32,000
미리보기(Preview)
책소개(Overview)
한 줄 한 줄 코드를 따라가다 보면, 나만의 GPT가 완성된다!
GPT를 밑바닥부터 구현하며 LLM의 원리를 손끝으로 체득하는 실전 가이드
어려운 개념은 그림으로 풀고, LLM은 직접 만들면서 배운다. 이 책은 대규모 언어 모델의 구조와 동작 원리를 처음부터 끝까지 직접 구현하며 학습할 수 있는 실전형 LLM 입문서다. 단순히 개념을 설명하는 데 그치지 않고 텍스트 전처리와 토큰화, 임베딩 과정을 출발점으로 삼아, 셀프 어텐션과 멀티헤드 어텐션, 트랜스포머 블록을 차근차근 구축해 나간다. 이어서 이러한 구성 요소들을 통합하여 실제 GPT 모델을 완성하고, 모델의 파라미터 수와 훈련 안정화 기법, 활성화 함수와 정규화 방법 등 최신 아키텍처 설계의 핵심 요소들을 직접 다뤄본다. 또한 사전 학습과 미세 튜닝 과정을 깊이 있게 안내한다. 레이블 없는 데이터에서 사전 훈련을 진행하고, 텍스트 분류와 같은 다운스트림 작업에 맞춰 모델을 튜닝하며, 최근 각광받는 지시 기반 학습 기법까지 실습할 수 있다. LoRA 기반의 파라미터 효율적 미세 조정(PEFT) 같은 최신 내용도 담아 LLM을 실제 서비스와 연구에 연결할 수 있는 방법까지 폭넓게 제시한다. 모든 개념은 파이토치 코드로 구현되어 있으며, 일반 노트북 환경에서도 실습할 수 있도록 최적화했다. 이 책의 구현 과정을 따라가다 보면 LLM 내부에서 어떤 일이 일어나는지 자연스럽게 이해하고, 대규모 언어 모델의 메커니즘이 어떻게 작동하는지 손끝으로 체득하게 될 것이다.
저자(Author)
세바스찬 라시카
10년 넘게 머신 러닝 및 AI 연구자 일했으며, AI와 딥러닝을 쉽게 배우고 활용하는 방법을 가르치는 데 열정적이다. 라이트닝 AI(Lightning AI)의 선임 연구 엔지니어이며, 주요 연구 분야는 LLM 구현과 훈련이다. 라이트닝 AI에 합류하기 전에는 위스콘신 매디슨 대학(University of Wisconsin-Madison)의 통계학과 조교수로 딥러닝과 머신 러닝을 연구했다. 그의 웹 사이트(https://sebastianraschka.com)에서 자세한 연구 내용을 볼 수 있다. 연구 이외에도 오픈 소스 소프트웨어를 사랑하고 열정적인 기여자로 활동했다. 글쓰기도 좋아해 베스트셀러인 『머신 러닝 교과서 with 파이썬, 사이킷런, 텐서플로(Python Machine Learning)』(2021, 길벗), 『머신 러닝 교과서: 파이토치 편(Machine Learning with PyTorch and Scikit-Learn)』(2023, 길벗), 『머신 러닝 Q & AI』(2025, 길벗)를 집필했다.
