Part 4. LLM은 어떻게 말을 할까

Transformer, 토큰, 환각, RAG

ChatGPT는 어떻게 그렇게 자연스러운 글을 쓸까? 그리고 왜 가끔 그럴듯한 거짓말을 할까? 이 장에서는 LLM의 내부 작동 원리를 본다.

#4-1. 용어 정리 — AI, ML, DL, LLM은 다 뭐가 다른가

AI 관련 글을 읽다 보면 AI, ML, DL, LLM, FM, Generative AI 같은 말이 마구 섞여 나온다. 한 번에 정리하고 가자.

#포함 관계 (큰 → 작은)

flowchart TB
    subgraph AI["🌐 AI · 인공지능"]
        direction TB
        subgraph ML["📊 ML · 머신러닝"]
            direction TB
            subgraph DL["🧠 DL · 딥러닝"]
                direction TB
                subgraph FM["🏛️ FM · 파운데이션 모델"]
                    direction TB
                    LLM["💬 LLM · 대규모 언어 모델"]
                end
            end
        end
    end

#4-2. Transformer — "GPT의 T"

GPT의 T가 무엇의 약자인지 아는가? "Generative Pre-trained Transformer"다. Transformer가 GPT의 핵심이다.

#Transformer 이전 — RNN의 한계

2017년 이전에는 AI가 문장을 처리할 때 RNN, LSTM 같은 구조를 썼다. 이름은 어렵지만 핵심은 단순하다 — 단어를 한 단어씩 순서대로 처리하는 방식이다.

"오늘" → "날씨가" → "좋아서" → "산책을" → "갔다"

이 방식의 문제는 두 가지:

한 문단도 제대로 못 다루는데 "책 한 권을 읽고 요약하라" 같은 일은 꿈도 꿀 수 없었다.

#2017년 — "Attention Is All You Need"

2017년 Google 연구진 8명이 논문 한 편을 발표한다. 제목이 도발적이었다.

Transformer 논문, 2017

"Attention Is All You Need" — 우리에게 필요한 건 어텐션뿐

이 논문에서 제안한 새로운 구조가 바로 Transformer다. 그리고 "어텐션(Attention)"이 핵심 아이디어다.

가져온 3가지 변화:

#Self-Attention — "누가 누구를 보는가"

사람이 문장을 이해하는 방식을 생각해보자.

"고양이가 매트 위에 앉아 있는데, 그것은 정말 부드러웠다."

여기서 "그것"이 무엇을 가리키는지 어떻게 아는가? 우리는 자동으로 "매트"를 떠올린다. "부드럽다"는 표현은 매트가 어울리지, 고양이가 어울리지 않다는 것을 알기 때문이다.

Transformer가 이걸 한다. 문장 안의 모든 단어가 다른 모든 단어를 "본다". 그리고 "이 단어는 어느 단어와 가장 관련 깊은가"를 계산한다. 이게 Self-Attention이다.

"그것"이 어느 단어를 가장 강하게 보는가

"그것은"이 발언할 때 다른 단어들에 보내는 시선의 강도 — "매트"가 가장 강하게 연결됨

#4-3. AI는 글을 어떻게 "읽는가"

AI는 글을 사람처럼 읽지 않는다. AI 입장에서는 글자도, 단어도 그냥 숫자다.

#1단계: 토큰화 (Tokenization) — 글을 잘게 쪼개기

AI는 글을 통째로 처리하지 않는다. 토큰(token)이라는 단위로 잘게 쪼개서 다룬다.

원본 문장:
  "안녕하세요, 반갑습니다."

토큰 분할:
  ["안녕", "하세요", ",", " 반갑", "습니다", "."]

숫자 ID 변환:
  [12453, 8821, 11, 49102, 4521, 13]

AI는 이 숫자 배열을 받는다.

같은 문장 "Hello, nice to meet you" / "안녕하세요, 반갑습니다"

#2단계: 임베딩 (Embedding) — 의미의 좌표 만들기

토큰이 숫자가 됐다고 끝이 아니다. "12453"이라는 숫자 자체는 의미가 없다. AI가 이해할 수 있도록 수백~수천 차원의 "벡터(좌표)"로 변환한다. 이게 임베딩이다.

크다 ↑
    │  ●코끼리           ●트럭
    │
    │     ●강아지     ●자동차
    │
    │        ●고양이     ●자전거
    │
    │   ●햄스터     ●연필
작다│
    └──────────────────────────→
    동물                       사물

의미 공간 (2차원으로 단순화)

비슷한 의미의 단어는 좌표상 가까이 모인다 — 실제는 수백~수천 차원, AI가 의미 거리를 정확히 계산한다

#3단계: 컨텍스트 윈도우 — AI의 "단기 기억"

AI는 한 번에 정해진 양의 토큰만 기억할 수 있다. 이 "한 번에 볼 수 있는 양"을 컨텍스트 윈도우(Context Window)라고 한다.

2026년 현재 주요 프런티어 모델은 대부분 1M(100만) 토큰 전후로 수렴했다. 경쟁의 초점이 "얼마나 많이 넣을 수 있나"에서 "긴 내용을 얼마나 정확히 활용하나"로 옮겨가는 중이다.

컨텍스트 윈도우 크기 비교 (로그 스케일)

#4-4. LLM은 어떻게 학습되는가 — 3단계 훈련

ChatGPT 같은 LLM은 보통 3단계 훈련을 거친다.

flowchart LR
    A["Step 1<br/>사전학습<br/>Pre-training"] --> B["Step 2<br/>Instruction Tuning<br/>명령 튜닝"]
    B --> C["Step 3<br/>RLHF<br/>사람 피드백 학습"]
    style A fill:#e3f2fd,stroke:#1e88e5
    style B fill:#fff3e0,stroke:#fb8c00
    style C fill:#f3e5f5,stroke:#8e24aa

#Step 1. 사전학습 — "인터넷을 통째로 읽기"

먼저 AI에게 어마어마한 양의 텍스트를 보여준다. 위키백과 전체, 수많은 책, 뉴스 기사, 블로그, 웹사이트… 수백 GB의 텍스트다.

AI는 이 텍스트들을 보며 단 하나의 일을 한다 — "이 단어 뒤에 어떤 단어가 올 확률이 높은가"를 맞히는 것.

AI에게 보여준 문장:
  "오늘 점심으로 김치___를 먹었다"

AI가 맞혀야 할 다음 단어:
  "찌개"   (확률 0.6)
  "볶음밥"  (확률 0.2)
  "전"     (확률 0.1)

#Step 2. Instruction Tuning — "명령에 답하는 법" 가르치기

사전학습이 끝난 AI는 똑똑하긴 한데 이상한 답을 한다. "한국에서 가장 높은 산은?"이라고 물으면 "...라고 묻는 사람들이 많다. 인터넷에서 흔히 보이는 답은..."처럼 질문에 답하는 게 아니라 "다음 단어를 예측"만 한다.

그래서 "질문에는 답을 하라"고 추가로 가르친다. 사람이 만든 "좋은 질문-답변 쌍" 수만 개를 학습시킨다.

#Step 3. RLHF — "사람의 피드백으로 다듬기"

이제 AI가 답은 한다. 그런데 어떤 답은 좋고 어떤 답은 나쁘다. 무례하거나, 위험하거나, 너무 길거나… 그래서 마지막으로 사람 평가단이 AI의 답을 여러 개 비교해 평가한다.

이게 RLHF (Reinforcement Learning from Human Feedback)다.

#4-5. LLM의 한계 — "환각"이라는 문제

여기까지 보면 LLM이 만능 같지만, 심각한 한계가 있다. AI 사용자라면 반드시 알아야 한다.

#한계 1: 학습 시점 이후 정보 모름 (Knowledge Cutoff)

AI는 학습된 시점까지의 데이터만 알고 있다. 예를 들어 GPT-4의 학습이 2023년에 멈췄다면, 2024년 이후의 사건은 아예 모른다.

#한계 2: 환각 (Hallucination) — 그럴듯하게 거짓말한다

가장 무서운 한계다. AI는 모르는 것을 "모른다"고 하지 않고 그럴듯하게 지어낸다.

왜 그럴까? AI의 본질은 "다음에 올 단어를 통계적으로 예측하는 것"이다. "내가 모르는 것이다"라는 자각이 없다. "...은 ___이다"의 빈칸에 어울려 보이는 단어를 채워넣을 뿐이다.

본인은 거짓말한다는 의식이 전혀 없다. 그래서 더 무섭다.

#한계 3: 회사 기밀·사내 데이터 모름

AI는 인터넷에 공개된 데이터로 학습된다. 우리 회사의 사내 위키, 회의록, 매출 데이터는 절대 모른다.

#4-6. RAG — "오픈북 시험"으로 한계 극복

이 한계들을 해결하기 위해 나온 기술이 RAG (Retrieval-Augmented Generation)다. 한국어로 풀면 "검색으로 보완한 생성".

#RAG의 작동 흐름

flowchart LR
    Q["사용자 질문<br/>'우리 회사<br/>24년 매출?'"] --> S["1️⃣ 검색<br/>사내 DB에서<br/>관련 문서 찾기"]
    S --> M["2️⃣ 합치기<br/>질문 + 문서<br/>AI에 함께 입력"]
    M --> A["3️⃣ 답 생성<br/>'보고서에 따르면<br/>350억원입니다'"]
    style Q fill:#e3f2fd,stroke:#1e88e5
    style S fill:#fff3e0,stroke:#fb8c00
    style M fill:#f3e5f5,stroke:#8e24aa
    style A fill:#e8f5e9,stroke:#43a047

#정리

• LLM은 거대한 텍스트를 학습해 "다음 단어를 예측"하는 모델

• 핵심 구조는 Transformer와 Self-Attention

• AI는 글을 토큰 → 임베딩 → 컨텍스트 윈도우로 처리

• 가장 큰 한계는 환각 — "모르면서 모른다고 못 한다"

• RAG는 외부 문서를 참조해 환각을 줄이는 핵심 기법

다음 장부터는 이런 LLM을 잘 부리는 법 — 프롬프트 엔지니어링으로 넘어간다.