Prompt Engineering

Prompt Engineering = LLM(Large Language Model)에게 원하는 출력을 얻기 위해 프롬프트의 구조·내용·형식을 설계하는 기술. 같은 모델이라도 프롬프트에 따라 정확도·비용·일관성이 크게 달라진다.
모델이 강해질수록 "마법의 문구"는 줄어들지만, 컨텍스트 엔지니어링(어떤 정보를 어떻게 압축해 넣을지)의 비중은 오히려 커진다.

기본 구성요소


[Role] 당신은 ...이다
[Instruction] 다음 작업을 수행하라
[Context / Reference] 참고 문서/예시
[Constraint] 형식·길이·금지사항
[Output Format] JSON 스키마 등
[Input] 실제 사용자 입력

7가지 핵심 테크닉

1. Zero-shot

TEXT

2. Few-shot

TEXT

보통 3~8개 예시. 다양성과 난이도 분포가 중요.

3. Chain-of-Thought (CoT)

TEXT

추론 단계를 텍스트로 끌어내면 정확도 ↑. ReAct 패턴의 토대.

4. Self-Consistency

같은 질문을 temperature>0으로 N번 호출 → 다수결.
CoT의 안정성을 높임.

5. Tree of Thoughts (ToT)

여러 분기를 동시에 생성·평가하고 최선을 고름.
복잡한 퍼즐·게임 풀이에 유효.

6. Role Prompting

TEXT

7. Structured Output

Python

좋은 프롬프트의 5가지 원칙

구체적: 모호한 형용사("좋은 답") 대신 "300자 이내, 한국어, 격식체".
분리: 지시·예시·입력을 빈 줄/구분자로 명확히 분리. <context>...</context> 태그.
부정문보다 긍정문: "X 하지 마라" 보다 "Y 하라".
출력 형식 명시: JSON·markdown·표 등 형식 지정.
예시는 다양성: 비슷한 예시 5개보다 다른 분포의 3개.

컨텍스트 엔지니어링

프롬프트가 길어질수록 모델이 중간 내용을 잊는다(lost in the middle).
권장: 가장 중요한 지시는 맨 위 또는 맨 아래, 컨텍스트는 중간.
정보 압축: 원본 → 요약 → 인덱스. 큰 컨텍스트 윈도우라도 무한정 넣지 말 것.

Prompt Caching

Anthropic, OpenAI 모두 지원. 동일한 prefix 프롬프트를 재호출하면 입력 토큰 단가가 90%↓.
시스템 프롬프트·few-shot 예시·도구 정의처럼 거의 안 바뀌는 부분을 prefix로 두는 게 핵심.

운영 팁

프롬프트는 코드처럼 버전 관리 (prompts/ 폴더, git).
A/B 테스트와 회귀 평가를 매 변경마다.
"프롬프트로 모든 걸 해결하려 하지 말 것" — 도구·RAG·코드 분기로 푸는 게 더 안정적인 경우가 많다.

프롬프트 재사용 패턴

비슷한 역할의 LLM 도구를 여러 개 만들면 system prompt가 반복되기 쉽다.

예를 들어 중식, 일식, 양식 식단 전문가 도구를 만들 때 다음 문장은 거의 같다.

TEXT

이런 부분은 공통 상수로 분리한다.

Python

그리고 달라지는 부분만 함수 인자로 받는다.

Python

이 패턴의 장점:

공통 지시사항을 한 번에 수정할 수 있다.
도구별 차이점이 더 잘 보인다.
프롬프트 중복이 줄어 실수 가능성이 낮아진다.
같은 출력 형식을 여러 하위 LLM 도구에 일관되게 적용할 수 있다.

주의할 점:

공통화가 지나치면 각 도구의 전문성이 흐려질 수 있다.
도구 선택에 필요한 설명은 여전히 @tool docstring에 명확히 적어야 한다.
system prompt는 하위 LLM의 행동을 정하고, docstring은 상위 agent의 도구 선택을 돕는다.

기본 구성요소


[Role] 당신은 ...이다
[Instruction] 다음 작업을 수행하라
[Context / Reference] 참고 문서/예시
[Constraint] 형식·길이·금지사항
[Output Format] JSON 스키마 등
[Input] 실제 사용자 입력

7가지 핵심 테크닉

1. Zero-shot

TEXT
다음 문장의 감성을 positive/negative로 분류해라.
문장: {input}

2. Few-shot

TEXT
예시 1) "오늘 재밌었다" → positive
예시 2) "최악이다" → negative
새 문장: "그저 그랬다" →

보통 3~8개 예시. 다양성과 난이도 분포가 중요.

3. Chain-of-Thought (CoT)

TEXT
단계별로 생각하면서 답해라.
질문: 3 + 4 * 2 = ?

추론 단계를 텍스트로 끌어내면 정확도 ↑. ReAct 패턴의 토대.

4. Self-Consistency

같은 질문을 temperature>0으로 N번 호출 → 다수결.
CoT의 안정성을 높임.

5. Tree of Thoughts (ToT)

여러 분기를 동시에 생성·평가하고 최선을 고름.
복잡한 퍼즐·게임 풀이에 유효.

6. Role Prompting

TEXT
당신은 시니어 SRE다. 아래 장애 로그를 본 후, 우선순위가 가장 높은 액션을 한 줄로 답해라.

7. Structured Output

Python
# [**Pydantic**](/vault/pydantic) 스키마 강제
client.beta.chat.completions.parse(..., response_format=MySchema)

좋은 프롬프트의 5가지 원칙

구체적: 모호한 형용사("좋은 답") 대신 "300자 이내, 한국어, 격식체".
분리: 지시·예시·입력을 빈 줄/구분자로 명확히 분리. <context>...</context> 태그.
부정문보다 긍정문: "X 하지 마라" 보다 "Y 하라".
출력 형식 명시: JSON·markdown·표 등 형식 지정.
예시는 다양성: 비슷한 예시 5개보다 다른 분포의 3개.

컨텍스트 엔지니어링

프롬프트가 길어질수록 모델이 중간 내용을 잊는다(lost in the middle).
권장: 가장 중요한 지시는 맨 위 또는 맨 아래, 컨텍스트는 중간.
정보 압축: 원본 → 요약 → 인덱스. 큰 컨텍스트 윈도우라도 무한정 넣지 말 것.

Prompt Caching

Anthropic, OpenAI 모두 지원. 동일한 prefix 프롬프트를 재호출하면 입력 토큰 단가가 90%↓.
시스템 프롬프트·few-shot 예시·도구 정의처럼 거의 안 바뀌는 부분을 prefix로 두는 게 핵심.

운영 팁

프롬프트는 코드처럼 버전 관리 (prompts/ 폴더, git).
A/B 테스트와 회귀 평가를 매 변경마다.
"프롬프트로 모든 걸 해결하려 하지 말 것" — 도구·RAG·코드 분기로 푸는 게 더 안정적인 경우가 많다.

프롬프트 재사용 패턴

비슷한 역할의 LLM 도구를 여러 개 만들면 system prompt가 반복되기 쉽다.

예를 들어 중식, 일식, 양식 식단 전문가 도구를 만들 때 다음 문장은 거의 같다.

TEXT
고혈압 환자를 위한 저염 식단 전문가다.
아침, 점심, 저녁 3끼를 제안한다.
각 끼니마다 메뉴와 조리 포인트를 설명한다.
마지막에 의료진 또는 영양사 상담 안내를 덧붙인다.

이런 부분은 공통 상수로 분리한다.

Python
COMMON_OUTPUT_RULE = (
    "각 끼니마다 메뉴와 조리 포인트를 간단히 설명해. "
    "마지막에는 개인 질환 상태에 따라 의료진 또는 영양사와 상담하라는 문장을 짧게 덧붙여."
)

그리고 달라지는 부분만 함수 인자로 받는다.

Python
def build_meal_prompt(cuisine: str, cuisine_tip: str):
    return ChatPromptTemplate.from_messages([
        (
            "system",
            f"너는 고혈압 환자를 위한 저염 {cuisine} 식단 전문가다. "
            f"고혈압 환자가 먹을 수 있는 아침, 점심, 저녁 3끼 식단을 {cuisine} 스타일로 짜줘. "
            f"{cuisine_tip}"
            f"{COMMON_OUTPUT_RULE}"
        ),
        ("human", "사용자 요청: {request}"),
    ])

이 패턴의 장점:

공통 지시사항을 한 번에 수정할 수 있다.
도구별 차이점이 더 잘 보인다.
프롬프트 중복이 줄어 실수 가능성이 낮아진다.
같은 출력 형식을 여러 하위 LLM 도구에 일관되게 적용할 수 있다.

주의할 점:

공통화가 지나치면 각 도구의 전문성이 흐려질 수 있다.
도구 선택에 필요한 설명은 여전히 @tool docstring에 명확히 적어야 한다.
system prompt는 하위 LLM의 행동을 정하고, docstring은 상위 agent의 도구 선택을 돕는다.

기본 구성요소

7가지 핵심 테크닉

1. Zero-shot

2. Few-shot

3. Chain-of-Thought (CoT)

4. Self-Consistency

5. Tree of Thoughts (ToT)

6. Role Prompting

7. Structured Output

좋은 프롬프트의 5가지 원칙

컨텍스트 엔지니어링

Prompt Caching

운영 팁

프롬프트 재사용 패턴

관련

Synapse Map Insight

Prompt Engineering

기본 구성요소

7가지 핵심 테크닉

1. Zero-shot

2. Few-shot

3. Chain-of-Thought (CoT)

4. Self-Consistency

5. Tree of Thoughts (ToT)

6. Role Prompting

7. Structured Output

좋은 프롬프트의 5가지 원칙

컨텍스트 엔지니어링

Prompt Caching

운영 팁

프롬프트 재사용 패턴

관련

Synapse Map Insight