2부. AI 활용하기

프롬프트 엔지니어링

AI에게 잘 물어보는 법

같은 AI에게 같은 질문을 해도 어떻게 묻느냐에 따라 답의 질이 천차만별이다. 이 장에서는 AI에게 원하는 결과를 얻어내는 3대 기법과 환각을 줄이는 방법을 본다.

5-1. 프롬프트 엔지니어링이란?

한 줄 정의

AI에게 원하는 결과를 얻기 위해 입력(프롬프트)을 설계하는 기술

3가지 핵심 기법

flowchart LR
    A["1️⃣ Context<br/>맥락 제공"] --> B["2️⃣ Persona<br/>역할 부여"]
    B --> C["3️⃣ CoT<br/>단계별 생각"]
    style A fill:#e3f2fd,stroke:#1e88e5
    style B fill:#fff3e0,stroke:#fb8c00
    style C fill:#f3e5f5,stroke:#8e24aa

5-2. 기법 1: Context — 맥락 제공

AI는 맥락이 풍부할수록 좋은 답을 내놓는다.

이메일 써줘

AI는 어떤 이메일을 원하는지 모른다. 누구에게? 무엇을 쓰는가? 어떤 톤으로?

다음 상황에 맞는 정중한 사과 이메일을 작성해줘.

- 상황: 거래처에 납품일을 1주일 연기해야 함
- 수신자: 일본 회사 구매 담당자
- 톤: 격식 있되 너무 딱딱하지 않게
- 길이: 200자 내외
- 언어: 일본어 (정중체)

누가 / 무엇을 / 어떻게 / 어떤 톤으로 / 얼마나 길게 — 구체적으로 명시

결과의 질은 프롬프트 질에 비례한다

"이메일 써줘"는 AI에게 "알아서 잘 해줘"와 같다. AI는 무한히 많은 가능성 중 아무거나 고른다. 결과가 마음에 안 드는 건 당연하다.

구체적인 맥락을 주면 AI는 그 안에서 가장 적절한 답을 만든다.


5-3. 기법 2: Persona — 역할 부여

AI에게 "누구"인지 알려주면 답변 스타일과 깊이가 달라진다.

당신은 10년 경력의 시니어 백엔드 개발자입니다.
다음 코드를 코드 리뷰 관점에서 분석해주세요.
특히 성능, 보안, 가독성 측면을 중점적으로 봐주세요.

같은 코드 질문, Persona 유무에 따른 답변 차이:

📄 Persona 없음

🎯 Persona 적용

표면적 설명

심층 코드 리뷰

일반적인 조언

전문 용어 사용

일반적인 코멘트

트레이드오프 분석

자주 쓰는 Persona 예시

  • "당신은 친절한 한국어 교사입니다." — 외국인을 위한 한국어 설명

  • "당신은 5살 어린이에게 설명하는 과학자입니다." — 쉬운 비유로 풀어쓰기

  • "당신은 보안 전문가입니다." — 보안 관점의 코드 점검

  • "당신은 일본 비즈니스 매너 전문가입니다." — 일본어 비즈니스 메일


5-4. 기법 3: Chain-of-Thought (CoT)

AI에게 "단계별로 생각해보라"고 지시 → 복잡한 추론의 정확도가 크게 상승한다.

CoT 프롬프트 예시

다음 문제를 단계별로 풀어주세요.
한 단계씩 추론 과정을 보여주고 최종 답을 마지막에 정리해주세요.

문제: 사과 12개를 3명에게 똑같이 나누고,
      각 사람이 절반을 먹었습니다.
      남은 사과는 총 몇 개인가요?
답: 3개

→ 틀림 (대충 추측해 답함)

단계 1: 12개를 3명에게 똑같이 나누면 한 사람당 4개
단계 2: 각자 4개 중 절반을 먹었으니 한 사람당 2개 남음
단계 3: 3명 × 2개 = 6개

답: 6개

→ 정답 (단계별 추론으로 정확)

왜 CoT가 효과적인가

AI는 "다음 단어 예측 기계"다. "생각의 흐름"을 글로 적게 만들면 각 단어가 다음 단어를 정확하게 유도한다. 결과적으로 추론 정확도가 올라간다.

수학 벤치마크 정확도 — CoT 효과 (GPT 시리즈 기준)

간단한 프롬프트 한 줄로 정확도가 32% → 82%. 추론 모델(o3, R1)은 내부적으로 자동 CoT를 수행한다.


5-5. 환각(Hallucination) 줄이기 — 5가지 방법

Part 4에서 봤듯, LLM은 모르는 것을 그럴듯하게 지어내는 치명적 한계가 있다. 이를 줄이는 5가지 방법:

#

방법

프롬프트 예시

1

출처 요구

"답변과 함께 근거가 되는 자료의 출처를 명시해줘"

2

모름 인정 지시

"확실하지 않으면 '잘 모르겠다'고 답해줘"

3

외부 자료 제공 (RAG)

관련 문서를 함께 입력

4

검색 도구 사용

최신 정보는 web_search 같은 도구 활용

5

사람의 검증 필수

AI 답을 반드시 사람이 확인

AI를 신뢰하지 말고 의심하라

AI 답을 항상 의심하는 게 안전한 사용의 시작이다. 특히 숫자, 날짜, 인용문, 코드의 라이브러리 함수명은 환각이 자주 발생하는 영역이다.


5-6. 인지 편향 — 린다 문제

심리학자 카너먼·트버스키의 유명한 실험이 있다.

린다 문제 (Linda Problem)

시나리오: "31세 여성 린다는 사회 정의에 관심이 많은 철학과 출신이다."

어느 쪽이 더 그럴듯한가?

선택지

사람들의 직관

실제 확률

A. 린다는 은행원이다

"그냥 은행원이라기엔 어색해"

확률적으로 더 높음

B. 린다는 은행원이면서 페미니스트이다

"이게 더 그럴듯해 보인다"

A의 부분집합 → 더 낮을 수밖에 없음

사람들은 직관적으로 B를 더 그럴듯하게 느낀다. 하지만 확률적으로는 "A를 만족할 확률 ≥ A AND B를 만족할 확률"이 항상 참이다. 이걸 결합 오류(Conjunction Fallacy)라고 한다.

AI도 같은 함정에 빠진다

AI도 "그럴듯해 보이는 답"을 정답이라 착각한다. 디테일이 많고 일관된 이야기일수록 "맞아 보인다"고 판단한다.

→ 사용자가 비판적으로 검증하는 것이 필수다.


정리

  • 3대 기법: Context (맥락) · Persona (역할) · Chain-of-Thought (단계별 사고)

  • 환각 방지 5요령: 출처 요구 / 모름 인정 / RAG / 검색 / 사람 검증

  • AI의 답은 그럴듯해 보일수록 의심해야 한다

다음 장에서는 한 단계 더 위 — "AI가 답할 때 도대체 뭘 보고 있는가"를 설계하는 컨텍스트 엔지니어링으로 넘어간다.

마지막 수정 2026년 10월 22일