LLM 도구 호출 파이프라인에서 암묵적 신뢰 측정 및 악용
LLM이 외부 도구를 호출하는 Model Context Protocol(MCP)의 암묵적 신뢰를 측정하고, 여러 채널을 통해 분산된 악성 페이로드를 조합하는 공격 기법을 제시한다. 12개 모델, 3개 클라이언트, 6개 페이로드로 15,000회 이상 실험한 결과, 단일 채널 공격에 완전히 저항하는 모델도 2채널 분할 공격으로 100% 민감 정보 유출이 발생했다.
시사점 LLM 도구 호출 시 여러 채널을 통해 분산된 악성 입력을 조합하는 공격이 가능하므로, MCP 구현 시 채널 간 권한 분리와 페이로드 통합 검증이 필요하다.