LLM 프롬프트 빌더의 안전한 구성 가이드라인: 프롬프트 인젝션 방어 전략
LLM에 전달되는 최종 프롬프트는 사용자 입력, 시스템 지침, 문서 등을 조합하는 프롬프트 빌더를 통해 구성된다. 이 빌더는 모델의 안전을 결정하는 중요한 지점이며, 입력 검증, 역할 식별, 신뢰할 수 없는 데이터의 격리 등 다층적인 방어 메커니즘을 적용해야 한다. 특히, 시스템 프롬프트는 방어의 전부가 아니며, 모든 외부 입력은 신뢰할 수 없는 것으로 간주하고 검증해야 한다.
(새 창에서 원문 열기)