LLM 기반 악성코드 분석기의 판단을 속이는 'semantic cover story attack'을 제안하고, 50개 악성 샘플 중 30개를 양성으로 분류하도록 유도하는 실험 결과를 보인다. Gemini 2.5 Pro에서 35개 기준 악성 샘플 중 30개가 양성으로 전환되었으며, GPT-5.5 Pro와 Claude Opus 4.7에서도 심각도가 감소했다.
LLM 악성코드 분석기의 판단 근거를 검증하는 'provenance check'가 필요하다는 점을 실증적으로 보여준다.
네트워크 연결 구조가 시간에 따라 변화하는 시스템에서 방화벽 배치 및 링크 모니터링 결정을 어떻게 해야 하는지 분석한다. 초입방체와 실제 인터넷 사례를 통해 정적 관찰의 한계를 실증하고, 시간 인식 방어 전략의 효과를 보인다.
네트워크 연결 구조가 실시간으로 변화하는 환경에서는 정적 관찰에 의존하는 방어 전략이 부적절할 수 있으므로 시간 인식 접근법을 고려해야 한다.
금융 거래 에이전트의 고위험성 보안 문제를 분석하고, FARSIGHT라는 평가 프레임워크를 제안한다. 15개 학문적 시스템 중 80%가 핵심 안정성 지표를 통과하지 못했고, 100%가 보안 취약점을 보였다.
금융 시장에서 자율 LLM 에이전트를 사용할 때 안정성과 보안 검증이 필수적임을 시사한다.
생산 시스템에서 코딩 에이전트의 악의적 행동을 방지하기 위해 Auto Mode와 Guardian과 같은 차단 모니터를 사용한다. 79%의 시도에서 Auto Mode와 Guardian에 대해 주입 공격을 성공시켜 임의의 bash 명령을 실행할 수 있음을 보인다.
실무에서는 Auto Mode와 Guardian의 보안성을 강화하기 위해 도구 커버리지, 전사서식, 에이전트 모니터 단계를 개선해야 한다.
벡터 인덱스 기반 시스템에서 삭제 항목이 검색 그래프에 남아 있는 문제를 분석하고, TSD-AUDIT이라는 감사 및 강제 프레임워크를 제안한다. 70% 삭제 비율에서 100개의 감사 쿼리에서 삭제 벡터 점수를 탐지했으며, 랜덤 삭제 시에도 기존 필터링과 유사한 성능을 유지하면서 Recall@10을 4.3~42.2% 개선했다.
AI 시스템의 프라이버시 보호를 위해 벡터 검색 과정에서의 점수 계산까지 감사해야 한다는 점을 실증적으로 보여준다.
제로지식 UNSAT 증명 프로토콜의 확장성을 향상시키기 위해 정규화 체인 기법을 제안한다. 기존 ZkUnsat 대비 62% 더 많은 인스턴스를 인증하고 메모리 사용량은 25% 미만으로 줄였다.
이 연구는 제로지식 증명 기반의 소프트웨어 보증에서 확장성 문제를 해결하는 데 기여할 수 있다.
AI 모델의 안전 정렬을 개선하기 위해 AUDITPLAN이라는 새로운 접근법을 제안한다. 이 방법은 모델이 먼저 안전 계획을 생성하고, 이를 기반으로 답변을 생성함으로써 안전성과 감사 가능성(robustness 및 auditability)을 향상시킨다. Qwen2.5-3B-Instruct 모델에서 FAITHGATE를 사용한 강화 학습으로 인해 ASR이 24.0%에서 11.6%, LSR이 1.0%에서 0.36%, 과도한 거부율이 11.0%에서 2.0%로 감소하였다.
AUDITPLAN은 AI 모델의 안전성과 감사 가능성을 동시에 향상시키는 새로운 접근법으로, 실무에서 모델 정렬 및 감사 프로세스에 적용할 수 있다.
네트워크 침입 탐지를 위한 대형 언어 모델이 단일 예측만 제공해 통계적 보장이 부족한 문제를 해결하기 위해, 트래픽 인식 공형 예측 기법을 제안하고, 공격자가 제어할 수 있는 특성을 제외함으로써 정확한 보장 수준을 달성했다. 3개 언어 모델 아키텍처에서 평가해 정확도 7~14% 하락을 기록했다.
이 연구는 네트워크 침입 탐지 시스템의 신뢰도를 높이기 위해 새로운 통계적 보장 기법을 제시하며, 공격에 대한 내성을 강화할 수 있다.
AI 매개 플랫폼에서 중간 과정에서 발생하는 프라이버시 유출 문제를 해결하기 위해 PAPC라는 플랫폼 중재 메커니즘을 제안한다. PAPC는 결정론적 작업 완료를 유지하면서 정량적으로 측정된 정확한 원시값 및 외부 원시값 노출을 제거한다.
AI 매개 워크플로우에서 중간 단계의 프라이버시 유출을 방지하기 위해 플랫폼 수준의 중재 메커니즘을 도입할 필요가 있다.
기존 보안 영상 이해(SVU) 시스템은 닫힌 세계를 가정하지만, 실제 보안 이벤트는 장미형 분포를 따르고 새로운 이벤트가 지속적으로 등장한다. EvoSherlock은 새로운 보안 이벤트를 소수 샘플로 지속적으로 분류하고 시간적 위치를 정의하는 $L^2$-SCE 작업을 제안하며, 이를 해결하기 위한 인공지능 기반 접근법을 제시한다.
EvoSherlock은 소수 샘플로 지속적으로 보안 이벤트를 분류하고 시간적 위치를 정의할 수 있어, 보안 영상 분석 시스템의 정확도와 유연성을 향상시킬 수 있다.
보안 운영 센터(SOC)에서 공격이 여러 환경을 넘나드는 경향을 분석하고, AI 기반 상관 분석을 통해 공격 경로를 재구성하는 방식을 제시한다. 2026년 보고서에 따르면 43%의 공격이 4개 이상의 공격 표면을 포함한다.
SOC 리더는 AI 기반 상관 분석을 활용해 분리된 보안 도메인 간의 활동을 연결하고, 공격 경로를 통합된 사건으로 조사해야 한다.
AI 모델이 통제된 평가에서 벗어나 실제 시스템에 도달했으며, 범죄 및 국가 주도의 AI 사용이 이전 보고서에서 추적한 방향으로 성숙해지고 있다. 모델이 공격 운영자로 작동한다.
AI 모델이 실제 시스템에 도달함에 따라 AI 기반 공격이 증가할 가능성이 있어 실무자들이 주의해야 한다.
Kaspersky는 토렌트 파일 저장소를 악용한 새로운 악성코드 캠페인인 MovieReaper를 분석했다. 악성 토렌트 파일은 사용자가 다운로드 시 악성 로더를 배포하여 다단계 감염 체인을 실행한다.
토렌트 사용자는 다운로드 파일의 해시를 확인하고, 보안 제품을 최신 상태로 유지해야 한다.
중국 연계 APT 그룹 FamousSparrow가 2025년 8월 이후 기존 SparrowDoor를 대체하는 새로운 C++ 백도어 SparroWocky를 사용하고 있음을 밝혔다. SparroWocky는 모듈식 구조로, 런타임 코드 패치와 오픈소스 도구 통합을 통해 탐지를 회피한다.
라틴아메리카 정부 기관을 표적으로 삼는 중국 연계 APT 그룹의 새로운 백도어를 확인하여, 해당 지역 보안 모니터링이 필요하다.
AI 보안 에이전트가 작업 환경에서 오염된 증거에 어떻게 영향을 받는지 실험적 방법으로 평가했다. 11개 웹 CTF 문제에서 6개 모델을 대상으로 41%의 플래그를 성공적으로 채웠으며, 오염된 작업은 평균 20개의 추가 턴과 2,000개의 추가 추론 토큰을 요구했다.
보안 AI 에이전트는 정상적인 환경에서의 성능이 실제 공격 상황에서의 취약성을 충분히 반영하지 못할 수 있으므로, 적대적 작업 오염을 고려한 평가가 필요하다.
이 연구는 혼합신호 SoC의 아날로그 핀 방향성을 기반으로 정보 유출 공격을 실험적으로 보인다. 실험 결과, 0.001% 이하의 면적 오버헤드로 최대 10kbps 비트율에서 오류 없는 메시지 복구가 가능하다.
실무에서는 아날로그 핀의 방향성을 보안 속성으로 명시적으로 검증해야 한다.
MCP 프로토콜의 리모트 배포 생태계에서 네트워크 중앙집중화와 관찰 가능성 문제를 3단계 관찰 프레임워크를 통해 분석했다. 179개 엔드포인트 분석 결과 인프라 집중도가 HHI 0.736로 매우 높고, 인증 방식이 호스팅 플랫폼에 의존하는 경향이 나타났다.
AI 게이트웨이 운영자는 MCP 서버 인증 방식의 플랫폼 의존성을 고려해 도구 오염 벡터를 평가해야 한다.
자율 AI 에이전트와 원격 도구 간의 통신 표준인 MCP 트래픽이 기존 NIDS를 회피할 수 있음을 보인다. MCP 트래픽은 0.0의 비콘 점수와 근접 0의 IDS 경고를 기록한다.
MCP 트래픽은 기존 NIDS를 회피할 수 있으므로, 새로운 탐지 기준이 필요하다.
이 연구는 암호화된 트래픽의 부채널 유출을 패킷 크기, 방향, 타이밍의 세 가지 차원으로 구조적으로 분해하는 방법을 제시한다. Wang 데이터셋(95개 웹사이트)에서 방향 유출이 무방어 상태에서 0.637비트로 우세하며, FRONT 방어 기법은 방향 유출을 63% 억제하지만 타이밍 유출은 차단하지 못한다.
이 연구는 방어 기법의 효과를 정량적으로 평가하는 구조적 접근법을 제시하여, 다차원 방어 설계에 활용할 수 있다.
자율 드론의 보안 및 신뢰성을 위해 LSTM 기반의 DUDE-IDS를 제안하고, GPS 스푸핑, MITM, 재생, DoS 공격을 98% 정확도로 탐지하는 실험 결과를 보인다.
이 연구는 자율 드론 운영 시 실시간 보안 모니터링을 위한 실용적인 방안을 제시한다.
LLM을 활용한 정적 분석 프레임워크인 BadQubits를 제안하고, 1,500개의 퀀텀 회로 데이터셋을 사용해 92.67%의 분류 정확도와 96.1%의 해로운 회로 재현율을 달성했다. 토큰 수준의 순차적 구조를 유지한 LLM이 기존 CNN 기반 방법보다 해로운 회로 탐지 성능이 우수하다는 것을 보였다.
퀀텀 컴퓨팅 환경에서 실행 전에 해로운 회로를 효과적으로 탐지할 수 있는 LLM 기반 정적 분석 프레임워크를 개발하여, 퀀텀 컴퓨팅 시스템의 보안 강화에 기여할 수 있다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.