SIR: 컴퓨트 사용 에이전트의 자기 개선형 레드팀 공격
AI 보안
컴퓨터 사용 에이전트(CUAs)는 인젝션 공격에 취약하다. SIR은 적응적 공격을 시뮬레이션하여 공격 성공률을 4%에서 24%, 0%에서 28%로 높였다.
시사점 CUAs를 사용하는 실무자는 SIR을 통해 보안 취약점을 사전에 확인하고 대응 전략을 수립해야 한다.
AI 보안프롬프트 인젝션레드팀 공격컴퓨터 사용 에이전트
(새 창에서 원문 열기)RESEARCH
연구·리포트 참고 자료
이번 주 연구
연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
연구 목록
LLM 에이전트 메모리의 단계별 유틸리티-위험 교환 이해
AI 보안LLM 에이전트 메모리의 단계별 유틸리티-위험 교환을 이해하기 위해 MemGauge라는 제어 가능한 프레임워크를 제시한다. 11개 LLM과 두 개의 장기 메모리 벤치마크에서 단계별 평가를 통해 3가지 구별된 프로파일을 밝혀냈다.
시사점 이 결과는 LLM 에이전트 메모리의 단계별 평가와 제어가 필요하다는 것을 시사한다.
LLM 에이전트메모리유틸리티-위험 교환MemGauge(새 창에서 원문 열기)리두시오(Reducio): 기업 고객을 위한 최적화된 기밀 서버리스 클라우드 배포
시스템·하드웨어서버리스 함수의 프라이버시 문제와 낮은 지연 시간을 해결하기 위해 기밀 가상 머신(CVM) 기반의 서버리스 플랫폼이 제안되었다. Reducio는 인프라 변경 없이 플랫폼 메모리 요구 사항을 크게 줄이는 새로운 서버리스 플랫폼 설계를 제안한다.
시사점 이 연구는 기업이 기밀성을 유지하면서 서버리스 클라우드를 효율적으로 배포할 수 있는 새로운 방법을 제시한다.
서버리스 클라우드기밀 가상 머신플랫폼 메모리 최적화함수 격리(새 창에서 원문 열기)프라이버시-유틸리티-안전성 균형 맞추기 위한 LLM 정렬의 선호도 최적화
AI 보안대형 언어 모델(LLM)의 정렬 과정에서 프라이버시, 유틸리티, 안전성을 균형 있게 맞추기 위해 새로운 데이터 구성 프로토콜인 Privacy-Pressure Preference Mixing(P3M)을 제안하고 실험적으로 평가했다. P3M은 프라이버시-선호도 데이터 비율을 조정하여 기존 정렬 방식 대비 프라이버시 유출 가능성을 낮추는 효과를 보였다.
시사점 이 연구는 LLM 정렬 과정에서 프라이버시 보호를 강화하는 실용적인 방법을 제시하여, 모델 개발자들이 프라이버시-유틸리티-안전성 간의 균형을 고려하는 데 참고할 수 있다.
프라이버시LLM 정렬선호도 최적화P3M(새 창에서 원문 열기)Drishti: 5G 코어의 취약점 감사 프레임워크
취약점·익스플로잇5G 코어와 같은 중요 인프라 소프트웨어의 취약점 검증 및 영향 평가를 위한 Drishti 프레임워크를 제안한다. Open5GS와 free5GC에서 3개의 취약점을 발견했으며, 그 중 하나는 CVE가 요청된 NULL-dereference이며, 다른 하나는 2바이트 입력으로 AMF를 OOM-kills하는 메모리 증폭 취약점이다.
시사점 Drishti를 활용한 5G 코어 취약점 감사 결과는 5G 네트워크 보안 강화에 기여할 수 있다.
5G 코어취약점 감사DrishtiCVE(새 창에서 원문 열기)사이드채널 공격을 위한 트랜스포머 파이프라인
시스템·하드웨어트랜스포머를 활용한 사이드채널 분석 방법을 제안하고, 자르지 않은 데이터셋에서의 전체 키 공격을 수행한다. ASCADv1f, ASCADv1r, CHES-CTF-2018 데이터셋에서 경쟁력 있는 성능을 보이며, 10GB 미만 VRAM과 최대 3.34시간의 훈련 시간을 요구한다.
시사점 이 연구는 사이드채널 분석에서 트랜스포머를 활용한 간단한 기반 모델을 제공하여, 실무에서 효율적인 공격 분석이 가능해진다.
트랜스포머사이드채널 공격딥러닝보안 분석(새 창에서 원문 열기)AI 에이전트 간 제로지식 예측 증명: 측정된, 프로토콜 간 게이트웨이와 소스 무결성 간극
AI 보안AI 에이전트 간 데이터 공유 시 민감 정보 누출을 방지하기 위해 제로지식 증명 기반의 게이트웨이를 구현하고, GDPR 데이터 최소화 원칙을 기술적 조치로 구현했다. 6.2ms의 증명 시간과 1.0ms의 검증 시간을 기록했다.
시사점 AI 에이전트 간 민감 정보 공유 시 제로지식 증명을 활용해 데이터 누출을 사전에 방지할 수 있다.
제로지식 증명AI 에이전트데이터 최소화GDPR(새 창에서 원문 열기)LLM 에이전트의 간접 프롬프트 인젝션 공격 대응을 위한 도달성 기반 능력 제한
AI 보안LLM 에이전트가 외부 스킬의 출력을 실행 컨텍스트에 삽입하는 방식을 통해 공격자가 제어하는 데이터가 후속 권한 있는 작업에 영향을 미치는 문제를 해결하기 위해 SkillGuard라는 새로운 방어 기법을 제안한다. SkillGuard는 오염 발생 시 이진, 분수, 분수 흐름 전략을 사용하여 능력 제한을 계산하여 공격 성공률을 4.8%와 14.3%로 줄인다.
시사점 이 연구는 LLM 에이전트의 보안을 강화하기 위한 실용적인 방어 기법을 제시하여, AI 보안 분야의 실무자들에게 중요한 참고 자료가 될 수 있다.
LLM 에이전트프롬프트 인젝션SkillGuard도달성 기반 제한(새 창에서 원문 열기)ActReal: 시스템 수준 모바일 에이전트가 모바일 자동화 탐지에 도전
AI 보안시스템 수준 모바일 에이전트가 고정된 스크립트에서 벗어나 동적 UI를 탐색하고 복잡한 작업을 수행할 수 있도록 진화하고 있다. ActReal은 진짜 터치 궤적과 물리 기반 IMU 신호를 생성하여 기존 탐지 방식을 우회하는 공격 프레임워크이다.
시사점 ActReal을 통해 모바일 자동화 탐지 기술의 한계를 인식하고, 시스템 수준의 보안 강화가 필요하다.
모바일 에이전트자동화 탐지IMU 신호ActReal(새 창에서 원문 열기)컨텍스트 폐쇄를 통한 포스트-퀀텀 인증(Context-Closed Post-Quantum Authentication) 기법
암호WebPKI에서 포스트-퀀텀 마이그레이션으로 인한 인증 비용 증가 문제를 해결하기 위해, CA-컨텍스트 상태를 인증하는 새로운 두 평면 구조를 제안한다. 평균 296바이트에서 872바이트의 인증 비용을 기록했으며, 기존 방식보다 70% 이상의 공간 절약 효과를 보였다.
시사점 이 연구는 WebPKI에서 포스트-퀀텀 마이그레이션 시 발생하는 인증 비용 증가 문제를 해결할 수 있는 새로운 기법을 제시하여, 향후 인증 프로토콜 설계에 참고할 수 있다.
포스트-퀀텀 암호화(post-quantum cryptography)WebPKI인증 기법암호화 프로토콜(새 창에서 원문 열기)Ambient Trust 해킹: NetZone을 통한 네트워크 내 프로세스별 접근 제어
네트워크·프로토콜NetZone은 기업 네트워크에서의 사이드 이동 공격을 방어하기 위해 각 사용자 프로세스에 고정된 접근 범위를 부여하는 네트워크 내 접근 제어 기술이다. 네트워크 전반에서 높은 처리량과 낮은 지연 시간을 유지하면서 효과적인 방어를 보여준다.
시사점 NetZone은 기업 네트워크에서의 사이드 이동 공격을 방어할 수 있는 새로운 접근 제어 기술로, 실무에서 네트워크 보안 전략에 적용할 수 있다.
네트워크 보안접근 제어사이드 이동 공격NetZone(새 창에서 원문 열기)Search-LWE 문제 해결을 위한 새로운 대수적 알고리즘
암호학습 오류(LWE) 문제의 대수적 해결 방법을 제안하고, 기존 Groebner 기저 방법보다 복잡도를 다항식 수준으로 개선했다. 복잡도 분석은 semi-regularity 가정 없이 직접 수행되었다.
시사점 이 연구는 LWE 기반 암호체계의 안정성 평가에 새로운 방법을 제공한다.
암호LWEGroebner 기저복잡도 분석(새 창에서 원문 열기)인플루언스는 권한이 아니다: 인과적 가드레일 신호가 정당한 도구 사용을 공격처럼 보이게 하는 경우
AI 보안현재 최신 인플루언스 기반 가드레일은 외부 도구 정보에 의존하는 정당한 사용과 악의적인 사용을 구분하지 못한다는 한계를 분석하고, 이를 보완하기 위한 새로운 접근법을 제안한다. 실험 결과, 사용자 권한이 있는 경우와 없는 경우의 평균 점수 변화가 실제 권한 변화보다 더 크며, 새로운 접근법으로 공격 성공률은 0%로 낮아지고 유틸리티는 28%로 유지된다.
시사점 이 연구는 인플루언스 기반 가드레일의 한계를 드러내고, 도구 사용을 정당한지 판단하는 새로운 접근법을 제시하여 AI 에이전트 보안 설계에 실질적인 개선을 제공한다.
AI 보안가드레일인플루언스 기반도구 사용(새 창에서 원문 열기)POLYFLOW: 신경-기호적 정적 다언어 정보 유동 분석 프레임워크
시스템·하드웨어다양한 프로그래밍 언어로 구성된 시스템에서 정보 유동을 분석하는 정적 분석 프레임워크인 PolyFlow를 제안한다. 대규모 언어 모델(LLM)과 정적 분석을 결합하여 실제 Python-C 및 Java-C 시스템에서 기존 기법보다 우수한 성능을 보이고, 알려지지 않은 다언어 취약점을 드러냈다.
시사점 이 연구는 다언어 시스템에서 정보 유동 분석을 개선하여 새로운 취약점을 발견하는 데 도움이 될 수 있다.
정적 분석다언어정보 유동LLM(새 창에서 원문 열기)HSMLog: 소형 언어 모델을 활용한 하드웨어 보안 모듈 로그 이상 탐지
시스템·하드웨어하드웨어 보안 모듈(HSM) 로그에서 이상을 탐지하기 위해 SLM을 활용한 HSMLog 프레임워크를 제안한다. 실제 산업 HSM 로그를 기반으로 한 평가에서 98.97% 정밀도, 96.00% 재현율, 98.66% 이상 이벤트 커버리지, 97.46% F1 점수를 달성했다.
시사점 HSMLog는 산업 현장에서 HSM 로그 이상을 효과적으로 탐지할 수 있는 프레임워크로, 보안 모니터링 시스템 개선에 활용될 수 있다.
하드웨어 보안 모듈로그 분석이상 탐지SLM(새 창에서 원문 열기)경량화된 내핵 보안 모니터링을 위한 TrustZone 기반 프레임워크 LOOM
시스템·하드웨어운영체제의 취약점과 복잡한 내핵 수준 위협이 기존 내핵 보호 메커니즘의 효과를 약화시키고 있다. LOOM은 ARM TrustZone을 기반으로 하드웨어 강제 분리 기반의 경량화된 out-of-band 보안 모니터링 아키텍처를 제안하며, 실험 결과는 LOOM이 미미한 오버헤드를 유지하면서 강력한 모니터링 능력을 보인다.
시사점 이 연구는 TrustZone 기반의 경량화된 내핵 모니터링 솔루션을 제시하여, 실시간 보안 모니터링을 구현할 수 있는 새로운 접근법을 제시한다.
TrustZone내핵 모니터링보안 아키텍처ARM(새 창에서 원문 열기)JITterFlip: JIT 컴파일 기반 LLM 서비스의 결함 공격 표면 탐지
AI 보안JIT 컴파일을 사용하는 클라우드 기반 LLM 서비스의 호스트 측 제어 플레인을 타겟으로 하는 새로운 bit-flip 공격 기법 JITterFlip을 제안한다. JITterFlip은 PPL 비율 15.45~2.48×10⁶배, 지연 증폭 2.03~181.90배의 공격 효과를 보인다.
시사점 JIT 컴파일 기반 LLM 서비스는 CPU 측 제어 플레인의 취약점을 공격받을 수 있으므로, 해당 제어 플레인 보안 강화가 필요하다.
JIT 컴파일LLM 서비스bit-flip 공격Rowhammer(새 창에서 원문 열기)반응형 퍼리페럴 모델링을 통한 정확한 펌웨어 재호스팅(Reactive Peripheral Modeling for Faithful Firmware Rehosting)
시스템·하드웨어기존 펌웨어 재호스팅 기법은 복잡한 퍼리페럴 동작을 정확히 모델링하지 못해 초기 초기화 단계까지만 도달하는 한계가 있었다. 이를 해결하기 위해 반응형 퍼리페럴 모델링(RPM)을 제안하고, 이 모델링을 BLE 펌웨어 재호스팅에 적용한 결과, 기존 방법 대비 2.6배 높은 베이직 블록 커버리지를 달성하고 5개의 새로운 취약점을 발견했다.
시사점 이 연구는 펌웨어 테스트 및 취약점 분석 시 반응형 퍼리페럴 모델링을 적용함으로써 더 깊은 프로토콜 상태를 탐색할 수 있음을 보여준다.
펌웨어 재호스팅반응형 퍼리페럴 모델링BLE취약점 분석(새 창에서 원문 열기)OASIS: 하드-라벨 블랙박스 텍스트 공격에서 공격자 시퀀스 최적화
AI 보안하드-라벨 블랙박스 텍스트 공격에서 공격 성공률과 퍼트رب레이션을 균형 있게 조정하는 공격자 시퀀스 최적화 방법을 제안한다. 여러 데이터셋과 대상 모델, 대형 언어 모델에서 실험한 결과, 기존 단일 공격 기반의 강력한 기준 모델과 수동적으로 구성된 체인을 꾸준히 초과하는 성능을 보인다.
시사점 텍스트 기반 블랙박스 공격 시 공격자 시퀀스 최적화를 통해 공격 성능을 향상시킬 수 있다.
하드-라벨 블랙박스 공격공격자 시퀀스 최적화AI 보안텍스트 공격(새 창에서 원문 열기)컨텍스트 또는 숫자? 가상현실 인증에서 기억력과 효율성의 균형
시스템·하드웨어가상현실(VR) 환경에서 새로운 지식 기반 인증 방법인 Adaptive Direction-Based Authentication(ADBA)를 제안하고, 66명의 참여자를 대상으로 2-3주간의 장기적 연구를 통해 기존 6자리 PIN과 비교하였다. ADBA는 기억력이 우수하고 인지 부하가 낮으며, 일부 환경에서는 암호의 동일성이 관찰되었으나, 전반적으로 PIN보다 우수한 보안성을 제공한다.
시사점 가상현실 환경에서 ADBA는 PIN 대신 사용할 수 있는 기억력과 보안성이 높은 인증 방법으로, 실무에서 VR 인증 시스템 개선에 참고할 수 있다.
가상현실 인증암호 기억력인증 효율성ADBA(새 창에서 원문 열기)SpatialTrust: 보안 인증에서 환경적 위험 인식을 평가하는 벤치마크
AI 보안보안 인증에서 시각 환경적 위험 인식 능력을 평가하는 새로운 벤치마크인 SpatialTrust를 제안한다. SpatialTrust는 민감 요인 탐지, 직접/간접 요인 식별 및 설명 능력을 평가하며, 현재 MLLMs가 간접 위험을 이해하고 설명하는 데 어려움을 겪는다는 것을 보인다.
시사점 이 연구는 보안 인증에서 MLLMs의 환경적 위험 인식 능력 향상을 위한 벤치마크와 추론 방법 개발의 필요성을 강조한다.
보안 인증MLLM환경적 위험 인식벤치마크(새 창에서 원문 열기)
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.