연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
연구진은 정적 환경의 한계를 극복하기 위해, 공격자와 방어자가 실시간으로 상호작용하며 취약점을 발견하고 패치하는 동적이고 대칭적인 공격-방어 전투 환경인 CyberArena를 구축하였다. 이 벤치마크를 통해 12개의 최신 LLM 에이전트를 40가지 도전 과제에서 466번의 매치를 통해 평가하였다.
시사점 AI 에이전트의 실제 사이버 보안 능력을 평가하려면, 정적 테스트가 아닌 동적이고 상호작용적인 전투 시뮬레이션 환경이 필요하다.
본 연구는 인증 시점까지는 공격받지 않은 동작을 유지하다가 이후에 공격을 활성화하는 적대적 공격자가 존재할 때의 안전성 평가 한계를 특성화하였다. 시뮬레이션 및 실험적 관찰에 따르면, 특정 조건에서 공격은 인증 후에도 추가적인 보안 위반을 유발할 수 있음을 보였다.
시사점 AI 시스템의 안전성 평가는 공격자가 인증 이후에도 개입할 수 있는 시나리오를 고려하여 통계적 한계를 명확히 인지해야 한다.
본 연구는 물리 계층 스푸핑 공격 탐지를 위해 적응형 가우시안 혼합 모델(GMM) 기반 탐지 프레임워크를 제안하였다. 이 모델은 150mm 이상의 공간적 변위에서 95-98%의 탐지율을 달성했으며, 오탐률은 1%를 유지하였다.
시사점 근접한 공격 상황에서도 물리 계층의 통계적 이상을 탐지하는 새로운 접근법을 고려할 수 있다.
공격자들은 CVE-2024-47575 취약점을 이용하여 중앙 FortiManager 장비에 초기 침투한 후, 500대 이상의 FortiGate 방화벽 설정 및 암호화 자료를 탈취했다. 이후 CVE-2025-61624 취약점을 통해 메모리 상주형 ARM64 악성코드인 PEERSTITCH를 배포하여 장기간 접근을 유지했다.
시사점 FortiGate 장비의 취약점을 이용한 공격은 초기 침투 후에도 추가적인 취약점 악용 및 메모리 기반 악성코드 배포를 통해 장기간 침투를 시도할 수 있으므로 지속적인 모니터링이 필요하다.
본 연구는 설문조사에서 파생된 데이터에 대한 선호도 정렬 과정의 취약점을 분석하고, 레이블 차분 프라이버시를 도입하여 이를 보호하는 방법을 제안했다. 연구 결과, 단순 레이블 수준 메커니즘이 기울기 수준 방법보다 우수한 성능을 보였으며, 적절한 집계 함수가 큰 기여를 함을 확인했다.
시사점 설문 기반 데이터로 언어 모델을 정렬할 때, 개인정보 보호를 위해 차분 프라이버시 기법을 적용하는 것이 중요하다.
본 연구는 블록체인상에서 익명성을 유지하는 암호화폐 흐름 추적의 어려움을 해결하기 위해 다단계 추적을 포함하는 벤치마크 CryptoFlowBench를 구축하고, 그래프 도구를 활용하여 추적 경로를 반복적으로 추론하는 ChainSleuth를 제안했다. 실험 결과, 모든 베이스라인이 네 가지 작업에서 일관되게 우위를 점하지 못했으며, ChainSleuth는 다단계 작업에서 주목할 만한 개선을 보였다.
시사점 복잡한 다단계 블록체인 자금 추적에는 정적 예측 방식보다 에이전트 기반의 적응형 그래프 추론 능력이 필요하다.
본 연구는 LLM 에이전트 워크플로우에서 발생하는 목적-상태적 의미론적 격차를 해결하기 위해, 사용자 목적을 실행 가능한 의미론적 경계로 컴파일하는 목적 IR(Purpose IR)을 제안했다. 이 방법론은 LangGraph, CrewAI, MobileRun 등 1,200개 사례에서 99.6%의 프라이버시 및 83.3%의 태스크 성공률을 달성하며 기존 고프라이버시 기준 대비 27.5 PCS 포인트 향상을 보였다.
시사점 에이전트의 프라이버시 보존을 위해서는 단순히 민감 정보를 필터링하는 것을 넘어, 사용자의 목적을 명시적으로 실행 가능한 형태로 표현하는 것이 필요하다.
본 연구는 로컬 차분 프라이버시(LDP)를 적용하여 도로 네트워크 상의 이동 경로를 합성하는 TrajRACE 프레임워크를 제안했다. 이 프레임워크는 각 전이(transition)에 위험 인지적 보호 강도를 부여하여 합성 데이터의 유틸리티를 향상시키면서도 높은 수준의 프라이버시를 제공함을 세 가지 데이터셋 실험을 통해 입증했다.
시사점 민감한 이동 데이터를 보호하면서도 유용한 합성 데이터를 생성하기 위해 로컬 차분 프라이버시를 적용한 접근 방식을 고려할 수 있다.
본 연구는 스마트 미터와 중앙 서버 간의 데이터 무결성과 프라이버시를 보장하기 위해 머클 트리 구조를 활용한 새로운 원격 증명 방법을 제안한다. 이 방법은 OP-TEE 기반의 신뢰 실행 환경(TEE) 내에서 모든 연산을 수행하며, 자원 효율성, 보안 견고성 측면에서 기존 연구 대비 우수함을 실험적으로 입증했다.
시사점 스마트 그리드 시스템에서 스마트 미터의 데이터 무결성을 확보하려면 TEE와 같은 안전한 환경에서 데이터 무결성 검증을 수행하는 것이 중요하다.
본 연구는 발행자가 얼굴 이미지에 키가 부여된 푸리에 위상 신호를 삽입하고 이를 참조하여 유통되는 이미지의 진위 여부를 검증하는 Doctor Trigger 프레임워크를 제안한다. 실험 결과, 해당 신호는 테스트된 얼굴 스와핑 및 생성적 조작과 등록된 발행본을 구별하는 데 효과적임을 보였다.
시사점 이 프레임워크는 출처 정보에 더해 발행 시점별 얼굴 검증 및 기록 연동 증거를 제공하여 유통되는 이미지에 대한 추가적인 평가를 가능하게 한다.
연구진은 보호된 블랙박스 시스템을 대상으로 계획 기반의 다중 턴 레드팀 공격 프레임워크인 ATTCK-R을 제안했다. 이 프레임워크는 단일 프롬프트 기반 안전 보호가 있는 9개 LLM을 대상으로 테스트되었으며, 공격 성공률을 0.896에서 0.608로 낮추는 것을 확인했다.
시사점 LLM의 안전 보호 메커니즘이 존재할 경우, 공격 성공률은 보호되지 않은 환경보다 낮아지므로 실제 환경에서의 취약점 평가는 신중해야 한다.
연구진은 공유 FPGA 환경에서 TDC 측정과 ML 기반 업스케일링을 결합하여 ImageNet 규모의 입력에 대한 전력 부채널 공격을 성공적으로 수행하였다. 이 공격은 피해자의 CNN 첫 번째 컨볼루션 레이어 입력을 복원하는 것을 목표로 했으며, 방어 기법으로는 변환을 적용했으나 공격자가 재학습하여 무력화시킬 수 있음을 확인했다.
시사점 공유 FPGA 환경에서 ML 가속기를 사용할 경우, TDC 기반의 전력 부채널 공격에 대비하여 무작위적이거나 입력 의존적인 변환을 고려해야 한다.
본 연구는 단일 링 서명(ring signature)을 사용하여 각 세션을 인증하는 부인 가능한 인증 키 교환(DAKE) 프로토콜을 연구하고 HDKEM을 구현하였다. HDKEM은 FalconRS 및 Gandalf를 사용하여 eCK 키 비식별성, 전방향 비밀성 및 강력한 로컬 부인 가능성을 달성했으며, FalconRS의 경우 평균 서명/검증 시간은 각각 9.20/1.02ms였다.
시사점 새로운 키 교환 프로토콜인 HDKEM은 강력한 보안 속성을 제공하며, 실제 구현 시 각 알고리즘에 따라 특정 수준의 성능을 보인다.
본 연구는 메시지 기밀성을 유지하면서도 교란된 코드로부터 신뢰성 있는 복호화를 가능하게 하는 기밀 오류 정정 코드(CECs)를 RSS 구조를 기반으로 구축했다. CECs를 응용한 CECMark는 56가지 평가 교란에 대해 높은 견고성을 보였으며, 오탐률은 $10^{-5}$ 미만으로 달성했다.
시사점 CECs는 신뢰할 수 있는 워터마킹 체계를 위한 새로운 암호학적 기반을 제공한다.
본 연구는 다중 에이전트 LLM 시스템(MALS)에서 발생하는 프라이버시 누출 문제를 해결하기 위해 수신자와 실행 컨텍스트에 따라 정제하는 RECONS라는 기법을 제안했다. 이 기법을 적용했을 때, 정제 없이 96.7%였던 잔여 누출을 29.25%로 줄이면서도 승인된 공개는 94.1%를 유지했다.
시사점 MALS의 프라이버시 보호는 민감도나 토폴로지 가정뿐만 아니라 런타임에 실현되는 수신자와 통신 경로를 고려해야 한다.
본 연구는 nuScenes 데이터셋을 기반으로 카메라 및 레이더에 대한 적대적 공격을 시뮬레이션하여 다섯 가지 융합 알고리즘의 강건성을 측정했다. 그 결과, 카메라 교란은 심각한 성능 저하를 일으킨 반면, 레이더 교란은 상대적으로 적은 영향을 미치는 비대칭성을 발견했다.
시사점 센서 융합은 본질적으로 강건성을 보장하지 않으므로, 각 센서의 기여도와 신뢰도를 적대적 조건에서 명시적으로 고려해야 한다.
연구진은 위임된 LLM 에이전트가 민감한 데이터를 유출하거나 권한을 증폭시키는 것을 막기 위해, 사용자의 권한을 목적, 레이블, 작업 등에 따라 제한하는 참조 모니터(∵)를 제시했다. 이 시스템은 517,401건의 Enron 이메일을 대상으로 실험하여 권한 증폭, 무효화 재현 등의 공격을 차단했으며, 90회 실행 시 누출을 0.844에서 0.20으로 줄였다.
시사점 위임된 LLM 에이전트 워크플로우에 목적 기반의 런타임 권한 부여를 적용하여 실행 경계를 설정할 수 있다.
본 연구는 O-RAN 테스트의 자동화된 보안 분류를 위해 Mistral-7B-Instruct를 LoRA 기법으로 미세 조정하고 RAG를 결합한 AutoSec-RAN 프레임워크를 제안했다. 이 프레임워크는 5G/O-RAN 테스트베드에서 평균 판정 점수 0.713을 달성하며 사양 기반의 자동화된 보안 검증의 실행 가능한 기반을 마련했다.
시사점 사양 기반의 LoRA 미세 조정과 RAG 검색을 결합하는 것이 AI 기반 O-RAN 보안 검증에 효과적인 기반을 제공한다.
연구진은 도구 호출 시점의 권한 확인만으로는 이전의 권한 사용 여부를 알 수 없는 생명주기적 결함을 '특권 침식(privilege creep)'으로 정의하고, CreepScope라는 추적 기반 평가 프로토콜을 제시했다. 12가지 워크플로우를 대상으로 한 시뮬레이션에서, 특정 설정은 0의 CSE와 잔여 부채를 보였으나, 전체 접근 권한은 91.33의 필요 없는 단계적 과다 노출을 추가했다.
시사점 에이전트의 권한 사용 후에도 이전의 권한이 계속 사용 가능한 상태로 남아있는지 측정하는 것이 중요하다.
본 연구는 소프트웨어 스캐닝과 하드웨어 수준의 마이크로프로세서 활동 모니터링을 결합한 새로운 프레임워크를 제안하여 랜섬웨어 탐지 및 완화를 시도했다. 이 접근 방식은 기존 방법 대비 향상된 탐지 정확도와 낮은 지연 시간을 달성했으며, 결정 과정을 설명하는 추적 수준의 해석 가능성을 제공한다.
시사점 랜섬웨어 탐지에 있어 소프트웨어적 분석과 하드웨어적 활동 모니터링을 결합하는 것이 효과적이며, 이는 탐지 정확도와 지연 시간 개선에 기여한다.
본 연구는 에이전트 환경의 검증기 취약점을 발견하고 수정하기 위해 격리된 검증기 샌드박스와 해커-수정자 루프를 사용하는 자동화된 접근 방식을 도입했다. 이 방법을 Terminal Bench, KernelBench, SETA에 적용하여 공격 성공률을 상당히 감소시켰다.
시사점 에이전트 환경의 검증기는 공격에 취약할 수 있으므로, 이러한 환경을 강화하여 향후 더 강력한 모델의 공격으로부터 방어해야 한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.