저ASR 백도어: 공격 성공률 감소와 공격자-방어자 비대칭성 활용
기존 백도어 공격은 높은 공격 성공률(ASR)을 가정하지만, 저자들은 ASR을 의도적으로 낮추어 방어를 회피할 수 있음을 보인다. 실험을 통해 최신 방어 기법이 저ASR 조건에서 실패함을 확인하였다.
이 연구는 기존 백도어 방어 기법의 한계를 드러내어, ASR 기반의 평가 체계를 재검토할 필요성을 제시한다.
백도어 공격공격 성공률방어 기법AI 보안
RESEARCH
연구·리포트 참고 자료
SPA: 지속적 LLM 에이전트의 보안을 위한 계획 우선 정보 흐름 제어
지속적 LLM 에이전트의 보안을 강화하기 위해 SPA라는 새로운 아키텍처를 제안한다. SPA는 정보 흐름 제어를 적용하여 'tool_knowledge' 공격에서 공격 성공률을 0%와 0.2%로 줄였다.
지속적 LLM 에이전트를 사용하는 시스템에서는 SPA와 같은 정보 흐름 제어를 도입해 지속성과 보안의 균형을 유지해야 한다.
LLM 에이전트정보 흐름 제어지속성보안 아키텍처
보안 이벤트에서 충돌 상태로: 향상된 사이버 상황 인식을 위한 3단계 사이버 방어 시나리오 모델
미션 중심의 사이버 방어 프레임워크를 제안하고, 이는 공격 그래프 모델, 이벤트 모델, 상태 모델로 구성된다. NetLogo 기반 시뮬레이션을 통해 프레임워크의 일관성과 안정성을 평가했다.
이 모델은 미션 중심의 방어 결정 지원을 위해 보안 상황을 체계적으로 추상화할 수 있다.
사이버 방어상황 인식확률 모델시뮬레이션
X-WAD: 설명 가능한 웹 이상 탐지
웹 트래픽에서 이상을 탐지하기 위해 Transformer 기반 언어 모델을 활용하고, 탐지된 이상에 대한 상세한 설명을 제공하는 방법을 제안한다. 인기 있는 공개 데이터셋에서 라벨링 불일치를 발견함으로써 제안된 설명 기법의 효과성을 보인다.
Transformer 기반 모델을 사용한 웹 이상 탐지 시스템에 설명 기능을 추가하면 데이터 오염 문제를 식별하는 데 도움이 될 수 있다.
웹 이상 탐지Transformer설명 가능성HTTP 요청 분석
100BASE-TX 장치의 물리계층 지문 공간 용량 분석(Physical-Layer Fingerprint-Space Capacity Analysis)
본 논문은 IIoT 네트워크에서 100BASE-TX 기반의 물리계층 지문(PLF)을 이용한 장치 인증의 용량을 분석하기 위해 비선형 및 임펄스 응답 모델(NAIM)을 제안한다. NAIM 모델을 통해 100BASE-TX 장치의 물리계층 지문 공간 용량은 약 $2.96\times10^{10}$ 개의 구별 가능한 상태로 추정된다.
이 분석은 IIoT 네트워크에서 물리계층 지문 기반 인증 시스템의 사전 배포 평가에 활용될 수 있다.
물리계층 지문(PLF)100BASE-TXIIoT장치 인증
안전성이 결합되지 않는 자율적 LLM 에이전트의 비감소 루프 상태
자율적 대규모 언어 모델 에이전트의 안전성 보장 방법을 연구하고, 루프 수준에서 지속적인 비감소 안전 상태를 복원하는 LoopHarness를 제안한다. LoopHarness는 매개변수 조건 하에서 비인가된 실행 불가능한 작업 수를 상수로 제한한다.
LoopHarness를 통해 자율적 LLM 에이전트의 안전성을 지속적으로 보장할 수 있다.
LLM 에이전트안전성LoopHarness비감소 루프 상태
SLIDE: 셔플 셰마이어 비밀 공유(Shuffle Shamir Secret Shares)의 균일성 보장
셔플 프로토콜을 통해 셰마이어 비밀 공유의 균일성을 보장하는 두 가지 새로운 방법을 제안한다. 첫 번째 프로토콜은 구체적으로 효율적이며, 두 번째는 최적의 $O(nml)$ 온라인 커뮤니케이션과 $O(n)$ 라운드를 달성한다.
이 연구는 다자간 계산(MPC)에서 셔플의 효율성을 높여 실제 적용 가능성을 향상시킨다.
셔플 프로토콜셰마이어 비밀 공유다자간 계산보안 프로토콜
SecureDrive-FL: 차등 개인정보 보호와 학습 경로 인식 선택적 동형 암호화를 결합한 연방 운전자 모니터링
연방 학습(FL)에서 경로 업데이트 보호를 위해 GASHE라는 새로운 선택적 암호화 전략을 제안하고, 이를 기반으로 SecureDrive-FL 프레임워크를 개발하였다. SecureDrive-FL은 DP-SGD와 결합하여 MITM 공격에 대한 내성을 보이며, DP-SGD 단독 사용 시 78.2%에서 10.4%로 급격히 감소하는 정확도를 73.6%에서 유지하였다.
SecureDrive-FL은 연방 학습 환경에서 운전자 모니터링 시 데이터 프라이버시와 통신 보안을 동시에 달성할 수 있는 실용적인 솔루션이다.
연방 학습차등 개인정보 보호동형 암호화운전자 모니터링
프레밍 갭(The Framing Gap): 간접 프롬프트 인젝션을 통한 툴 사용 에이전트의 표면 방어 우회
LLM 에이전트가 공격자 제어 웹 콘텐츠를 읽는 동안 비밀 정보를 유출할 수 있는 간접 프롬프트 인젝션 공격을 분석하고, 공격 기법과 방어 방법을 제시한다. gpt-4o 모델에서 0%에서 100%까지의 유출률을 보이며, 템플릿 기반 공격이 효과적임을 실험적으로 보인다.
LLM 에이전트의 보안 설계 시 표면적인 정책 조항보다는 목적지 제한 또는 능력 격리를 통한 방어가 필요하다.
프롬프트 인젝션(prompt injection)LLM 에이전트보안 방어템플릿 기반 공격
시간 시리즈 분석을 통한 사이버-전자기 이상 탐지
이 연구는 사이버와 전자기 전파 영역에서의 이상을 동시에 탐지하기 위해 두 가지 모델을 개발하고 평가했다. 랜덤 포레스트 모델은 F1-score 89.76%, LSTM-Autoencoder 모델은 64.09%를 달성했다.
실무에서는 사이버 및 전자기 전파 신호를 결합한 이상 탐지 모델을 도입해 운영 상황 인식을 강화해야 한다.
ai-securityanomaly detectioncyber situational awarenesstime-series analysis
네이버후드 워치: 시드 기반 로컬 조합 합성 데이터의 프라이버시 위험
SMOTE, Simulant, Avatar 세 가지 로컬 조합 합성 데이터 생성 방법의 프라이버시 위험을 멤버십 추론, 링크, 재구성 공격을 통해 분석했다. 모든 방법에서 상당한 프라이버시 유출이 발생했다.
의료 분야에서 사용되는 로컬 조합 합성 데이터는 익명성을 보장하지 못할 수 있으므로, 공유 전에 프라이버시 리스크를 철저히 평가해야 한다.
프라이버시합성 데이터익명성멤버십 추론
늑대를 부르는 경계: 두려운 단어가 에이전트 가드레일을 정당한 행동을 거부하게 만드는 방법
LLM이 실행하기 전에 각 행동을 승인하거나 거부하는 에이전트 가드레일의 과도한 안전성 문제를 분석하고, 이를 평가할 수 있는 새로운 벤치마크인 Cautious Bench를 제안한다. Cautious Bench는 756개의 결정 가능한 양호/이중 쌍과 40개의 결정 불가능한 쌍을 포함하며, 5개 디자인에서 6개의 가드레일을 평가하여 '이름 숭배 효과'를 발견했다.
이 연구는 에이전트 가드레일의 과도한 거부 현상을 평가할 수 있는 벤치마크를 제공하여, AI 보안 시스템의 정확한 설계에 기여할 수 있다.
에이전트 가드레일과도한 안전성Cautious BenchAI 보안
메타모르피즘(Metamorphism): 악성코드 탐지 기술의 수학적 도전 과제
메타모르픽 바이러스는 기존 코드를 무한히 변형하면서 기능을 유지하는 새로운 컴퓨터 바이러스 유형이다. 이 연구는 바이러스 변형을 van Wijngaarden 문법을 통해 실현할 수 있음을 보인다.
메타모르픽 바이러스는 기존 탐지 기술을 무력화할 수 있어, 실무에서는 이러한 바이러스를 탐지할 수 있는 새로운 방식을 개발해야 한다.
메타모르픽 바이러스van Wijngaarden 문법악성코드 탐지Metamorphism
사용자 인증 패턴 카탈로그
기존 보안 패턴 카탈로그의 실용성 부족을 해결하기 위해 14개의 사용자 인증 패턴을 제안한다. 인증 요인과 실제 역할에 따라 분류하여 소프트웨어 엔지니어와 아키텍트가 안전한 시스템을 설계하는 데 도움을 준다.
이 연구는 실무에서 사용자 인증 설계 시 참고할 수 있는 구체적인 패턴을 제공하여 보안 설계 효율성을 높인다.
인증 패턴보안 설계패턴 카탈로그인증 요인
PLCBench: 자동화된 LLM 에이전트가 PLC 접근을 지속적인 물리적 영향으로 전환할 수 있는가?
자동화된 LLM 에이전트가 네트워크 접근 가능한 PLC를 지속적인 물리적 영향으로 전환할 수 있는지 평가하기 위해 PLCBENCH라는 새로운 하드웨어-인-더-루프(HIL) 프레임워크를 제안한다. 4개의 상용 PLC와 4개의 폐루프 작업 환경에서 5개의 LLM 가족을 대상으로 240회 실험한 결과, 31.3%의 에피소드가 각각의 물리적 목표를 지속적으로 달성했다.
이 연구는 자동화된 LLM 에이전트가 ICS에 물리적 영향을 미칠 수 있는 잠재력을 평가하는 데 도움이 되며, PLC-프로세스 배포에서 실패 원인을 특정하고 미래 방어 평가의 개입 지점을 식별할 수 있다.
PLCBenchLLM 에이전트PLC하드웨어-인-더-루프
SysComb: 공격 표면 축소를 위한 세분화된 투명 시스템 콜 필터링
SysComb은 eBPF 기반으로 애플리케이션 상태에 따라 시스템 콜 필터를 적용하여, 기존 솔루션의 커널이나 애플리케이션 수정 필요성을 제거한다. 평가 결과, 기존 커널 솔루션과 유사한 오버헤드를 보이며 실용성을 입증했다.
SysComb은 투명한 시스템 콜 필터링을 통해 공격 표면을 줄이고, 기존 솔루션의 수정 요구를 회피할 수 있다.
eBPF시스템 콜 필터링공격 표면 축소seccomp
오프체인(off-chain) 구성요소에서의 정보 흐름 제어
스마트 계약 언어에서 오프체인 구성요소의 정보 흐름 제어 모델을 개발하고, 정적 정보 흐름 제어 기법으로 데이터 무결성과 비밀성을 보장하는 문제를 연구했다. 정적 정보 흐름 제어가 루프 구조 없이도 실패하는 이유를 분석했다.
오프체인 구성요소의 보안 취약점을 이해하고, 정보 흐름 제어 기법을 개선할 필요가 있다.
스마트 계약오프체인정보 흐름 제어블록체인 보안
AI 기반 5G 침입 탐지에서 성능-비용 트레이드오프 분석
5G 네트워크 침입 탐지에서 전통적 머신러닝 모델(XGBoost, TabNet)과 대형 언어 모델(LLM)의 탐지 성능과 계산 비용을 비교했다. 전통적 모델은 높은 정확도와 낮은 추론 시간을 보였으며, LLM은 성능이 낮고 CPU 사용량이 훨씬 높았다.
5G 네트워크 침입 탐지에는 복잡한 모델보다 전통적 머신러ting 모델이 더 효율적이다.
AI 보안5G 네트워크침입 탐지머신러닝
네트워크 트래픽 이상 탐지: 의존성 위반 해석을 통한 XION 방법
XION은 정상 트래픽만을 기반으로 네트워크 흐름 특성 간 관계를 모델링하여 이상을 탐지하는 방법이다. XION은 기존 Isolation Forest 기법보다 최대 7배 빠른 추론 시간을 보이며, 경고 후 분석에서 공격 패턴을 효과적으로 드러낸다.
XION은 네트워크 보안 모니터링에서 빠른 이상 탐지와 사후 분석을 가능하게 하여 실시간 대응 능력을 향상시킬 수 있다.
네트워크 보안트래픽 이상 탐지XION의존성 분석
임계값 포스트-퀀텀 서명(Thresholding Post-Quantum Signatures)
기존의 포스트-퀀텀 서명 방식을 다양한 패러다임(격자 문제, 단방향 해시 함수 등)에 따라 분류하고, T-out-of-N 서명 방식을 구축하는 데 사용되는 도구와 일반적인 접근법(FHE, MPC, ZKP)을 제시한다. 분류는 패러다임별로 이루어졌다.
이 연구는 포스트-퀀텀 보안을 필요로 하는 분산 시스템에서 임계값 서명 구현에 참고할 수 있는 분류와 접근법을 제공한다.
포스트-퀀텀 서명임계값 서명FHEMPC
SME 클라우드 데이터 보호를 위한 하이브리드 포스트-퀀텀 암호화 아키텍처
SME가 클라우드 데이터를 보호하기 위한 하이브리드 포스트-퀀텀 암호화 아키텍처를 제안한다. 클라이언트 측에서 AES-256-GCM으로 파일을 암호화하고 ML-KEM-1024 공개 키로 키를 래핑하며, 서버에서 포스트-퀀텀 연산은 1밀리초 미만이다.
SME는 기존 인프라에 Quantum Cloud Guard를 도입해 클라우드 데이터의 장기 보안을 강화할 수 있다.
포스트-퀀텀 암호화(post-quantum cryptography)SME 클라우드 보안ML-KEM-11024AES-256-GCM
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.