에이전트 / AI 개발 개념
시스템 프롬프트(System Prompt)
시스템 프롬프트는 AI가 여러 요청에서 따를 역할과 답변 원칙을 설정하는 지시입니다.
쉬운 설명
스터디 안내 챗봇을 만들 때 매번 “안내문에 있는 내용만 답해 줘”라고 입력하고 싶지는 않을 거예요. 이런 공통 원칙을 시스템 프롬프트에 적을 수 있어요. 사용자가 묻는 질문은 달라져도 앱이 전달하는 기본 역할과 답변 기준은 유지하도록 구성해요. 지시를 적었다고 실제 접근 권한이나 답변의 정확성이 자동으로 보장되는 것은 아니에요.
이런 상황에서 만나요
스터디 챗봇이 안내문에 없는 추가 모집 일정을 만들어 답하는 문제를 줄이고 싶어요. 공통 지시에는 근거 범위를 적고, 사용자의 일정 질문과 안내문을 별도로 전달하는 상황이에요.
공통 지시와 이번 질문을 나눠 봐요
스터디 안내문에 있는 내용만 답하세요. 없는 날짜는 확인이 필요하다고 안내하세요.
다음 추가 모집은 언제인가요?
안내문에 추가 모집 일정이 없어 확인이 필요해요.
- 1여러 질문에 적용할 기준을 정하는 예시예요.
- 2사용자마다 달라지는 요청이에요.
- 3없는 정보를 채워 넣지 않는 응답을 기대하고 시험해요.
“안내문에 없는 날짜는 추측하지 말고 확인이 필요하다고 답해 줘”처럼 원하는 처리 방식을 구체적으로 적어 보세요. 실제로 안내문에 없는 질문도 넣어 시험해요. 날짜를 검색할 기능이 없다면 지시만으로 최신 일정을 알아낼 수는 없어요.
헷갈리기 쉬운 점
시스템 프롬프트에 금지라고 적으면 실행도 막히나요?
모델의 행동 기준이지만 강제된 접근 제어와는 달라요. 파일 삭제나 외부 전송을 제한하려면 도구와 서버에서도 권한을 제한해야 해요. 외부 문서의 지시가 섞여도 원래 목적을 유지하는지 시험할 필요가 있어요.
비밀번호와 비밀 API 키를 시스템 프롬프트에 넣지 마세요. 지시는 비밀 저장 장소가 아니며 응답 과정에서 일부 내용이 드러날 수 있어요. 반드시 지켜야 할 권한과 데이터 검사는 코드에서도 처리해요.
왜 알아야 할까요?
항상 적용할 답변 원칙과 이번 질문을 나눠 관리할 수 있어요. 답변이 이상할 때 질문뿐 아니라 앱이 함께 전달한 기본 지시도 점검할 수 있어요.
조금 더 자세히
API나 제품에 따라 공통 지시를 전달하는 필드와 우선순위가 다릅니다. system 메시지, 별도의 system 항목, instructions 등의 이름을 그대로 같은 구조라고 가정하지 않고 사용하는 도구의 문서를 확인합니다.
역할, 근거 범위, 출력 형식, 정보가 부족할 때의 대응을 명확히 적습니다. 사용자 질문이나 검색 자료와 공통 지시를 구분해 전달하고, 규칙을 어기는 입력에서도 실제 결과를 검증합니다.
직접 사용할 때 확인해 보세요
- 공통 원칙과 이번 사용자 질문을 구분한다
- 정보가 없을 때 답할 방식을 정한다
- 지시 외에 실제 도구 권한과 결과 검사도 확인한다
관계 지도
