연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
LLM 기반 자동 펜테스트 에이전트의 장기 기억 문제를 해결하기 위해 의도 그래프(intent graph)를 도입한 Intentest를 제안한다. 벤치마크 CTF 문제에서 88.2%의 성공률을 달성했으며, 어려운 문제에서는 75.0%의 성공률을 보였다.
시사점 이 연구는 LLM 기반 자동 펜테스트의 효율성을 높이는 구조화된 상태 관리 방법을 제시하여, 실무 펜테스트 도구 개발에 기여할 수 있다.
이 연구는 이질적인 사이버 위협 지능(CTI) 소스에서 공격의 실행 조건과 관찰 가능한 흔적을 포착한 구조화된 공격 그래프를 생성하는 자동 파이프라인을 제안한다. 10개 실제 사례를 대상으로 수작업 평가를 통해 생성된 그래프가 예상 공격 진행과 일치함을 보인다.
시사점 이 연구는 분산된 CTI를 통합해 공격을 구조화하고 실행 조건과 흔적을 명시함으로써 방어 및 탐지에 활용할 수 있다.
산업 제어 시스템(ICS)의 이상 기반 침입 탐지 시스템이 공식적인 회복탄력성 기준을 충족하도록 하기 위해, 기존 회복탄력성 프레임워크를 기반으로 적대적 기계 학습 환경에 맞춘 회복탄력성 이론을 정식화하였다. BATADAL 수자원 분배 시스템 벤치마크를 통해 제안된 지표가 표준 벤치마크에서 보이지 않는 운영적으로 중요한 현상을 드러내는 것을 실증하였다.
시사점 ICS 시스템 설계 및 인증 기준 수립 시, 개별 노드의 강건성보다는 공격 경로 상의 결합 조정된 흡수 능력을 고려해야 한다.
실제 디지털 프라이버시 사건을 분석하여 프라이버시 향상 기술(PETs)의 한계를 평가하고, 새로운 정보 흐름 모델을 제안했다. 모델은 257개 사건에서 파생된 데이터 흐름과 결과적 피해를 포괄한다.
시사점 이 연구는 PETs가 기능 제공에 초점을 맞추는 한 피해를 예방하기 어렵다는 점을 실무에 시사한다.
악성 트래픽 탐지 모델의 out-of-distribution 일반화 능력을 향상시키기 위해 주파수 도메인 믹싱 기반의 데이터 증강 방법을 제안한다. 여러 인공적 및 실제 데이터셋에서 실험한 결과, 제안된 방법이 다양한 네트워크 환경에서 탐지 성능을 크게 향상시키며 기존 데이터 증강 방법을 초과한다.
시사점 악성 트래픽 탐지 모델의 일반화 능력을 향상시키기 위해 주파수 도메인 믹싱 기반의 데이터 증강 방법을 적용할 수 있다.
LLM 에이전트의 능력 유출을 위한 새로운 공격 기법 AgentLeak을 제안한다. 600개의 인스턴스에서 40% 이상의 작업 성공률 향상과 80% 이상의 능력 격차를 줄였다.
시사점 LLM 에이전트의 실행 동작을 보호해야 한다.
소비자 금융, 임상, 경찰 수사 기록에서 전문가 검증 질문을 모은 벤치마크 CIPHER를 제안한다. 테이블 전문가 및 하이브리드 시스템이 기밀 변환의 영향을 어떻게 받는지 평가한다.
시사점 이 결과로 프라이버시 변환의 영향을 추론 시스템에 정량적으로 평가할 수 있다.
이미지 센서에 전자기 신호 주입 공격(Electromagnetic Signal Injection Attack, ESIA)을 가한 경우를 탐지하는 경량형 방법을 제안한다. 다양한 공격 조건에서 ROC-AUC 99.6%, EER 0.027의 성능을 보인다.
시사점 이 연구는 이미지 센서 기반 시스템의 전자기 신호 주입 공격을 효과적으로 탐지할 수 있는 실용적인 방안을 제공한다.
LLM 에이전트의 주입 공격을 단계별로 라벨링한 벤치마크 AgentDrift를 제안한다. 벤치마크는 12,536개의 합성 도구 호출 경로로 구성되며, 각 단계는 무해, 주입 지점, 해킹, 실패 주입 중 하나로 라벨링된다.
시사점 이 벤치마크는 주입 공격 감지 기법의 개발과 평가에 활용될 수 있다.
O-RAN 보안 평가를 위해 수십 개의 명세서와 논문을 수동으로 확인하는 과정을 그래프 기반 데이터베이스로 자동화했다. 350개 이상의 노드와 1,250개 이상의 관계를 포함하는 데이터베이스를 구축했으며, 메모리 안전 취약점이 분석한 CVE의 11개 중 21개를 차지하는 등 3가지 실용적 결과를 도출했다.
시사점 O-RAN 보안 평가를 위한 오픈소스 그래프 기반 프레임워크를 제공하여 보다 효율적이고 실시간적인 보안 분석이 가능해진다.
다중 테넌트 환경에서 KV-캐시 타이밍 부채널 공격의 신뢰도가 어떻게 저하되는지를 7가지 실험으로 분석했다. 무작위 워커가 없을 때 평균 Cohen's d는 0.7789이지만, 2개 워커가 있을 때 0.2109로 감소한다(t=8.412).
시사점 LLM 서빙 시스템의 보안 설계 시 다중 테넌트 환경에서의 부채널 공격 신뢰도 저하를 고려해야 한다.
WAPP는 악성 요청이 학습 데이터를 오염시키는 것을 방지하기 위해 신뢰 필터링, 결정론적 규칙 합성, 신뢰도 점수, 검증을 결합한 프레임워크를 제안한다. 평가 결과, 0.2% 오염 트래픽에서 기능이 저하되고 0.5%에서는 완전히 손상되며, 결정론적 합성기는 모델 추론 비용 없이 공격 차단 성능을 제공한다.
시사점 WAPP는 실시간 트래픽에서 안전하게 긍정적 보안 정책을 학습할 수 있는 프레임워크로, 기존 방어 방식의 한계를 보완할 수 있다.
에이전트 AI 시스템의 워크플로우 수준 이상을 탐지하기 위해 의미적 및 구조적 모델링을 결합한 새로운 프레임워크 Skynet을 제안한다. 3개 공개 벤치마크에서 재현률이 높고 거짓 긍정률은 1% 미만이며, 온라인 모니터링에 적합한 저지연 특성을 보인다.
시사점 에이전트 AI 시스템의 이상 탐지에 워크플로우 수준 분석을 적용할 수 있으며, Skynet은 제로데이 공격 탐지에도 효과적이다.
보안 테스트를 위해 하드웨어 설계에 탐염 로직을 추가하는 기법에서 발생하는 오버헤드를 줄이기 위해 CEGAR-T라는 프레임워크를 제안한다. CEGAR-T는 기존 CellIFT 기준 대비 기하 평균 1.42배와 1.79배로 오버헤드를 줄였다.
시사점 하드웨어 보안 테스트 시뮬레이션의 효율성을 높이기 위해 CEGAR-T를 도입할 수 있다.
LLM 에이전트의 안전한 행동을 평가하기 위해 AURA-Eval이라는 새로운 프레임워크를 제안한다. 157개의 경로를 기반으로 1,249개 평가 항목을 생성하고 20개의 최첨단 및 오픈 가중치 모델을 평가하여, 위험 탐지, 행동 전략, 시나리오별 안전성 등을 분류하는 기준을 개발하였다.
시사점 이 연구는 LLM 에이전트의 안전성 평가 기준을 제시하여, 모델의 위험 인식 능력과 안전한 행동 전략을 실무적으로 평가할 수 있게 한다.
퍼징(fuzzing)의 무작위성을 기반으로 한 결함 탐지를 평가하고 개선하는 방법을 제시한다. 분할(splitting) 기법을 통해 CPU당 결함 탐지 수를 52% 증가시키고, CVE-2019-19926 취약점을 0/20에서 20/20로 탐지 성공률을 높였다.
시사점 이 연구는 퍼징 기반의 결함 탐지 툴 개선에 실용적인 방법을 제공하여, 소프트웨어 보안 테스트 효율성을 높일 수 있다.
임베딩-임베딩 마스킹(E2EO) 기법에 대한 새로운 공격인 프록시 매니폴드 정렬(PMA)을 제안한다. PMA는 마스킹된 벡터 스트림을 기반으로 원본 텍스트를 복원하는 데 성공한다. 실험 결과 PMA는 기존 공격 방법보다 평균적으로 더 높은 복원률을 보인다.
시사점 개인정보 보호를 위한 E2EO 기법의 보안성을 재검토할 필요가 있으며, 보다 강력한 마스킹 기법의 개발이 요구된다.
LLM 생성 콘텐츠의 무결성과 추적성을 보호하기 위해 ToSS라는 신뢰할 수 있는 인증 방법을 제안한다. ToSS는 워터마킹 용량과 디코딩 정확도에서 우수한 성능을 보인다.
시사점 이 연구는 AI 생성 콘텐츠의 신뢰성 확보를 위해 워터마킹 기법을 개선하는 방안을 제시한다.
로컬 호스팅된 대형 언어 모델(LLM)이 생성한 텍스트를 디토크나이제이션 중 CPU 캐시 활동을 관찰하여 재구성하는 새로운 공격 기법을 제시한다. 실제 로컬 LLM 배포에서 의미적으로 정확한 출력을 복원할 수 있음을 보인다.
시사점 이 공격 기법은 널리 사용되는 로컬 LLM 제품과 에이전트 프레임워크에 적용 가능한 취약점을 드러내므로, 해당 시스템의 캐시 타이밍 보호를 강화해야 한다.
LLM 공격 메커니즘 40개를 체계적으로 평가하고, 런타임 감사 도구를 설계하여 81.1%의 감지율을 달성했다. 감사 도구는 0.70%의 오류율을 유지하면서 78.1%의 재현율을 보였다.
시사점 이 연구는 다양한 LLM 공격 메커니즘에 대한 체계적인 평가와 런타-감사 도구 설계를 제안하여, 실무에서 공격 감지 정확도를 향상시킬 수 있다.
AI 에이전트와 미래 모바일 네트워크에서 비인간 엔티티 간 자율적 상호작용을 위한 신뢰 확립 문제를 해결하기 위해 SPIRE와 같은 기존 IAM 접근법을 분산 원장 기반으로 확장하는 방법을 제안한다. SPIFFE 인증 문서를 기반으로 토큰 교환, 원격 증명, 분산 원장 계층을 추가하여 기존 시스템의 한계를 극복한다.
시사점 이 연구는 기업 간 자율적인 시스템 상호작용을 위한 신뢰 관리 프레임워크를 설계할 때 분산 원장 기반의 IAM 확장 방안을 고려할 필요가 있음을 시사한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.