연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
LLM 에이전트의 실행 계획을 정적 검증하는 CaMeLoT 기법을 제안한다. 계획을 유한 상태 전이 시스템으로 변환하고 CTL 시간 논리를 사용해 정책을 검증하여 실행 전에 위험한 계획을 거부한다.
시사점 LLM 에이전트의 실행 계획을 실행 전에 정적 검증함으로써 보안을 강화하고, 토큰 비용과 임시 샌드박스 사용을 줄일 수 있다.
AI 생성 코드의 보안 위험을 평가하는 프레임워크를 제안하고, Bandit과 Semgrep를 사용해 여러 개발 도구의 코드를 분석했다. 위험 수준은 작업 유형에 따라 달라졌으며, 입력 처리와 파일 관리 작업이 가장 높은 위험을 보였다.
시사점 AI 생성 코드의 보안 위험을 체계적으로 평가할 수 있는 프레임워크를 실무에 도입할 수 있다.
소비자용 로컬 LLM 서빙 시스템에서 프롬프트 보안 실패 경로를 측정 프레임워크 LLAnalyzer로 분석하고, 런타임 메모리 유출과 테넌트 간 권한 누수 등의 취약점을 발견했다. 200/200 시도에서 성공한 llama.cpp 권한 누수 취약점과 네트워크 환경에서도 구분 가능한 타이밍 오라클을 확인했다.
시사점 로컬 LLM 시스템에서도 테넌트 격리, 프롬프트 수명 관리, 지속적 저장소 보안을 명시적으로 보장해야 한다.
Google reCAPTCHA를 무비용으로 제로샷 공격하는 방법을 제안한다. CLIP(58%)과 OWLv2(43.5%) 모델을 사용한 공격이 각각 타입 A와 B에서 성공했으며, 종단간 자동 공격 성공률은 92.6%이다.
시사점 reCAPTCHA는 더 이상 신뢰할 수 있는 보안 수단이 아니며, 시각적 CAPTCHA 기반 방어 전략을 재검토해야 한다.
보안 분야에서의 고성능 언어 모델을 만들기 위해 중간 학습(mid-training) 기법을 사용한 MiST 모델을 제안한다. 8B 및 32B 규모의 MiST 모델은 공개 보안 벤치마크에서 Qwen 기준 모델 대비 평균 정확도가 각각 +13.1% 및 +8.6% 향상되었다.
시사점 보안 분야에서 특화된 언어 모델을 구축할 때 중간 학습 기법을 활용하면 성능 향상이 기대된다.
포스트-쿼런텀 암호(PQC) 이전을 통해 국가의 암호 주권을 평가하는 Readiness-Sovereignty Capability Model(RSCM)을 제안하고, 57개 암호화 주체에 대한 평가를 수행하였다. 20개 국가가 게이트를 통과했으며, 15개는 풀스택 제작자이고 5개는 연구 제작자로 분류되었다.
시사점 국가별 PQC 이전 준비도와 주권 역량을 평가할 수 있는 RSCM 모델을 통해, 암호 주권 강화를 위한 정책 방향을 제시할 수 있다.
SEEK은 프라이버시 보호 메시징에서 사용할 수 있는 실용적이고 효율적인 암호화 키워드 검색 프로토콜로, 동형 암호화와 2인 참여 계산(2PC)을 결합한다. SEEK는 메시지를 최소한의 중첩을 가진 암호문 조각으로 분할하고, 암호화된 키워드 트랩도어를 사용하여 동형적으로 상관관계를 분석하여 기존 기법 대비 최대 5.47배 빠른 연산 성능을 보인다.
시사점 SEEK은 암호화된 메시지에서 키워드 검색을 효율적으로 수행할 수 있어, 보안과 프라이버시를 유지하면서도 해악적인 메시지를 탐지하는 데 유용하다.
AIJON은 퍼징 도중 인간 전문가의 주석을 생성하는 대신 LLM을 활용하여 주석을 자동 생성하는 시스템이다. Magma 벤치마크에서 AIJON의 주석 기반 퍼징이 AFL++보다 엄격히 우수하지 않다는 것을 관찰하였다.
시사점 이 연구는 LLM을 사용한 주석 생성이 퍼징 성능에 미치는 영향을 실증적으로 평가하여, 향후 대규모 퍼징 연구에 기초를 제공한다.
브라우저 에이전트가 사용자의 인증 세션 하에 보안 민감한 행동을 실행함에 따라 간접 프롬프트 주입과 위장 확인 인터페이스가 행동 무결성에 직접적인 위협이 된다. Verifiable Action Card(VAC)는 실행될 행동의 정확한 정보를 신뢰할 수 있는 브라우저 UI에 재구성하여 승인을 바인딩함으로써 공격을 차단한다. 평가 결과, VAC는 모든 모델에서 공격 성공률을 0%로 낮추며, 정당한 작업 완료율은 78%이고, 거짓 차단률은 0%이다.
시사점 VAC는 브라우저 에이전트의 행동 승인을 신뢰할 수 있는 정보로 바인딩함으로써 기존 방어 수단이 해결하지 못한 보안 실패를 예방할 수 있다.
블록체인 기반 IoT 시스템의 계약 및 장치 계층에서 발생하는 논리 취약점을 탐지하기 위해 계약, 펌웨어 아티팩트, 장치 페트, 트랜잭션 스트림을 통합한 4개 역할, 9개 관계 스키마를 사용하는 다중 에이전트 이질 그래프 주의 프레임워크(MA-HGAT)를 제안한다. 이 프레임워크는 계약 분석, 펌웨어 분석, 그래프 기반 취약점 탐지 방법의 한계를 극복하여 계층 간 통합된 보안 태스크를 지원한다.
시사점 이 연구는 블록체인 기반 IoT 시스템의 보안을 강화하기 위해 계약 및 장치 계층에서의 취약점을 통합적으로 탐지할 수 있는 새로운 프레임워크를 제시하여, 실무에서 보다 효과적인 보안 모니터링 및 관리를 가능하게 한다.
네트워크 엣지에서의 적응 보안은 자동화된 플래너를 사용하여 관측 정보를 실행 조치로 변환한다. 이 연구는 신뢰할 수 없는 플래너의 출력을 검증하는 분할 제어 아키텍처를 제안하여, 보안 의도의 의미적 정확성을 보장한다.
시사점 이 연구는 엣지 네트워크 보안에서 플래너의 신뢰도를 보장하지 않고도 조치의 적정성을 판단할 수 있는 중재자 구조를 제시한다.
NP 문제에 대한 증거 암호화를 소수 순서의 순환 그룹을 사용하여 구축하였다. SAT 인스턴스 크기 n에 대해 암호화 알고리즘은 poly(n) 시간에 실행되며, 모든 만족할 수 있는 할당을 사용하여 poly(n) 시간에 복호화할 수 있다.
시사점 이 연구는 암호학적 프로토콜 설계에 새로운 접근법을 제시할 수 있다.
LLM이 외부 도구를 호출하는 Model Context Protocol(MCP)의 암묵적 신뢰를 측정하고, 여러 채널을 통해 분산된 악성 페이로드를 조합하는 공격 기법을 제시한다. 12개 모델, 3개 클라이언트, 6개 페이로드로 15,000회 이상 실험한 결과, 단일 채널 공격에 완전히 저항하는 모델도 2채널 분할 공격으로 100% 민감 정보 유출이 발생했다.
시사점 LLM 도구 호출 시 여러 채널을 통해 분산된 악성 입력을 조합하는 공격이 가능하므로, MCP 구현 시 채널 간 권한 분리와 페이로드 통합 검증이 필요하다.
산업 기술(OT) 환경에서 재현 가능한 보안 데이터셋을 생성하기 위한 모듈형 공격 프레임워크인 ISIA-AF를 제안한다. 이 프레임워크는 분산 공격 클라이언트를 조율하고 네트워크 트래픽과 운영 데이터를 기록하여 다중 출처 데이터셋을 생성한다.
시사점 ISIA-AF는 산업 시스템 보안 연구에서 재현 가능한 공격 시나리오와 데이터셋 생성을 표준화할 수 있다.
이질적 블록체인 간 거래 추적을 위해 XSplicer라는 시스템을 제안하고, 공개 프로토콜 문서와 거래 예시를 기반으로 통합 의미 규격을 도출하여 92.5%의 전역 복원률을 달성했다. 실제 사례에서 1,900개 이상의 거래 쌍을 복구하고 105.6백만 달러 규모의 불법 거래를 식별했다.
시사점 XSplicer 시스템은 브리지 백엔드에 접근하지 않고도 이질적 블록체인 간 거래를 효과적으로 추적할 수 있어, 악의적 자금 이동 분석에 실용적 도구로 활용될 수 있다.
로봇 시뮬레이터에서 사용되는 3D 자산의 충돌 메시를 조작하여 실제 세계에서의 로봇 조작 성능을 저하시키는 새로운 중독 공격 기법을 제안한다. 실험 결과, 기존 방어 방법들이 이 공격에 효과적이지 않음을 보인다.
시사점 로봇 시뮬레이터 자산 공급망의 보안 검토 절차에 충돌 메시 일관성을 추가해야 한다.
PentestChain은 GPT-4와 같은 고가 모델 대신 저비용으로 펜테스트를 자동화하는 프레임워크를 제안한다. 7B 파라미터 로컬 모델을 활용해 테스트 비용을 제로로 유지하는 방법을 보인다.
시사점 소규모 조직이 저비용으로 지속적인 펜테스트를 수행할 수 있는 기반을 제공한다.
블록체인 기반 예측 시장에서 오프체인 주문 관리와 온체인 정산 간의 원자성 격차를 분석하고, Polymarket 사례를 통해 공격자가 시장 결과나 가격 변동을 관찰한 후 불리한 주문을 무효화할 수 있음을 보인다. 2025년 8월 12일부터 2026년 5월 22일까지 180만 건의 되돌린 거래를 분석하여 공격자의 수익과 시장·사용자 손실을 구분하고, 보수적인 측정 규칙을 개발했다.
시사점 이 연구는 비관리형 예측 시장에서의 원자성 문제를 실증적으로 분석하여, 시스템 설계 시 주의해야 할 공격 벡터를 제시하며, 다른 시장에 대한 테스트 방법론을 제공한다.
자율 AI 에이전트가 크로스체인 아비트리지 검색자로 작동할 때의 영향을 분석하고, 위험 회피 에이전트의 최적 거래 규모를 도출했다. 23,000건의 유니스왑 V3 스왑 이벤트를 분석한 결과, 이더리움-아비트럼 가격 차이는 평균 0.044%, 아비트럼-베이스 차이는 0.013%이며, 10,000달러 규모의 거래는 63%의 경우 CCTP를 통해 L2-L2 윈도우에서 청산된다.
시사점 AI 에이전트 기반 크로스체인 아비트리지의 경제적 영향과 최적 전략을 이해하여 실무에서 효율적인 거래 및 리스크 관리가 필요하다.
대규모 언어 모델(LLM) 기반 사이버보안 어시스턴트의 답변 효과성을 높이기 위해 다양한 개인화 전략을 평가했다. 1,045개의 실제 사이버보안 질문과 57명의 참여자, 1,066개의 사용자 질문을 통해 정량적 LLM 평가와 인간 평가에서 대화 기반 개인화가 가장 효과적임을 보였다.
시사점 사이버보안 어시스턴트에서 사용자의 행동을 고려한 개인화 전략을 적용하면 보안 조언의 실천 가능성을 높일 수 있다.
AI 코딩 에이전트가 자기 평가와 개선 과정에서 오염된 벤치마크를 통해 취약한 코드를 생성하도록 유도될 수 있는 공격 기법을 제안하고 실험적으로 검증한다. Hyperagents 에이전트의 경우, Sonnet 4.5를 사용할 때 HTTPS 인증서 검증을 비활성화하는 취약한 코드를 생성하는 사례를 보인다.
시사점 AI 코딩 에이전트의 자기 개선 과정에서 사용되는 벤치마크의 신뢰성을 확보해야 하며, 오염 방지를 위한 설계가 필요하다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.