Chain-of-Thought 템플릿 '3단계'는 왜 고정값일 뿐인가
프롬프트 템플릿 생성기에서 Chain-of-Thought(단계별 사고) 템플릿을 고르면 "1단계: [...] 2단계: [...] 3단계: [...]"라는 텍스트가 그대로 출력됩니다. 이걸 보고 "이 도구가 정한 표준 단계 수가 3개구나"라고 오해하는 경우가 많은데, 실제로는 그냥 예시로 박아 넣은 정적 텍스트일 뿐입니다. 이 가이드는 왜 하필 3단계인지, 이 숫자를 어떻게 다뤄야 하는지, 그리고 애초에 최신 AI 모델에도 이 템플릿이 여전히 필요한지를 코드 구조와 함께 정리합니다.
1. 템플릿 생성기가 실제로 하는 일: 텍스트 붙여넣기
프롬프트 템플릿 생성기는 AI가 아닙니다. 사용자가 카드를 클릭하면 미리 작성해 둔 문자열을 화면에 그대로 표시하는 정적 도구입니다. Chain-of-Thought 카드를 누르면 나오는 결과물은 "단계적으로 생각해봅시다: 1단계: [...] 2단계: [...] 3단계: [...] 따라서 최종 답변은:"이라는 고정 문자열이며, 문제의 종류나 난이도를 분석해서 단계 수를 동적으로 계산해주는 로직은 전혀 없습니다. 즉 "3"이라는 숫자는 이 도구가 계산해서 준 값이 아니라, 템플릿을 만든 사람이 예시로 임의로 정해 둔 값입니다.
2. Chain-of-Thought 개념의 원래 의미
Chain-of-Thought 프롬프팅은 AI에게 "단계적으로 생각해봅시다(Let's think step by step)"라는 지시를 붙여 중간 추론 과정을 명시적으로 출력하게 만드는 기법에서 출발했습니다. 이 기법의 핵심은 "정확히 3단계로 나누라"가 아니라 "결론으로 바로 점프하지 말고 중간 논리를 드러내라"는 것입니다. 단계 수 자체는 문제의 구조에 따라 자연스럽게 정해져야 하는 값이지, 프롬프트 작성자가 미리 못 박아야 하는 값이 아닙니다. 산수 문제는 2단계로 끝날 수 있고, 복잡한 정책 판단은 6~7단계가 필요할 수도 있습니다.
3. 그런데 왜 하필 "3"이 박혀 있나
템플릿 작성자 입장에서는 "1단계, 2단계, ... N단계"처럼 개수를 비워둔 형태로는 사용자가 무엇을 해야 할지 직관적으로 알기 어렵습니다. 그래서 실무에서 흔히 쓰이는 관례적인 개수(3개)를 예시로 채워 넣어 "이런 식으로 쓰는 거구나"를 보여주는 방식을 택한 것입니다. Few-Shot 템플릿에 예시가 정확히 3개 들어있는 것도 같은 이유입니다 — 도구 차원의 규칙이 아니라 편집 대상으로 미리 채워 둔 견본입니다.
4. 문제 복잡도별 단계 수 조정 예시
| 문제 유형 | 적정 단계 수 | 이유 |
|---|---|---|
| 단순 산술/사실 확인 | 1~2단계 | 계산 → 결론으로 충분, 불필요한 단계는 답변을 장황하게만 만듦 |
| 일반적인 비교/분석 질문 | 3단계 | 템플릿 기본값과 일치하는 전형적인 케이스 |
| 다요소 의사결정(여러 제약조건 동시 고려) | 5단계 이상 | 제약조건 개수만큼 검토 단계가 늘어남 |
단계 수를 무조건 3개에 맞추려고 억지로 쪼개거나 합치면 오히려 논리 흐름이 부자연스러워집니다. 실제 문제를 먼저 분석하고, 그 분석 결과에 맞춰 템플릿의 단계 항목 수를 늘리거나 줄이는 순서로 작업하는 것이 맞습니다.
5. 최신 추론 모델에는 여전히 필요한가
최근 등장한 추론 특화(reasoning) 모델들은 프롬프트에 "단계적으로 생각해봅시다"라는 문구가 없어도 내부적으로 스스로 사고 과정을 여러 단계로 전개하도록 설계되어 있습니다. 이런 모델에 Chain-of-Thought 템플릿을 그대로 씌우면, 모델이 이미 수행하는 내부 추론과 프롬프트의 명시적 지시가 중복되어 효과가 미미하거나 오히려 답변만 불필요하게 길어질 수 있습니다. 반대로 추론 기능이 내장되지 않은 일반 모델에는 이 템플릿이 여전히 답변 품질을 끌어올리는 효과적인 장치입니다. 즉 "3단계"라는 숫자보다 더 중요한 판단 기준은 "지금 쓰는 모델이 추론 특화 모델인가 아닌가"입니다.
6. 변수 채워 넣기와 함께 쓰는 법
Chain-of-Thought 템플릿의 단계 항목을 실제 문제에 맞게 수정한 뒤, 그 안에 반복적으로 들어가는 값(주제, 대상 독자 등)을 {{변수}} 형태로 바꿔 재사용 가능한 템플릿으로 만들 수도 있습니다. 이렇게 만든 템플릿은 프롬프트 변수 추출기에 붙여넣으면 값 입력 폼이 자동으로 생성되어, 매번 텍스트를 직접 고치지 않고도 여러 문제에 재사용할 수 있습니다.
자주 묻는 질문
Q. 단계 수를 3개보다 적게 쓰면 템플릿이 깨지나요?
아니요. 이 도구는 텍스트를 그대로 보여주는 정적 템플릿이라 항목 개수에 대한 검증 로직이 없습니다. 2단계로 줄이거나 6단계로 늘려도 자유롭게 편집할 수 있습니다.
Q. Few-Shot 템플릿의 예시 3개도 같은 이유로 고정된 건가요?
네. Chain-of-Thought의 단계 수와 마찬가지로 Few-Shot의 예시 3개도 편의상 채워 넣은 견본일 뿐이며, 패턴 복잡도에 따라 2개로 줄이거나 5개 이상으로 늘려도 됩니다.
Q. 추론 모델을 쓸 때 Chain-of-Thought 템플릿을 아예 빼야 하나요?
반드시 뺄 필요는 없지만, 이미 내부적으로 단계별 사고를 수행하는 모델이라면 효과가 크지 않을 수 있습니다. 답변이 불필요하게 길어진다면 먼저 템플릿 없이 시도해보고 비교하는 것을 권장합니다.
Q. 단계 수를 너무 많이 쪼개면 문제가 되나요?
네, 실제 논리 전개에 필요하지 않은 단계까지 억지로 만들면 답변이 장황해지고 핵심이 흐려질 수 있습니다. 단계 수는 문제의 실제 구조를 따라가야 합니다.