프라이버시 향상 기술(PETs)의 한계 평가: 실제 디지털 프라이버시 사건 분석
실제 디지털 프라이버시 사건을 분석하여 프라이버시 향상 기술(PETs)의 한계를 평가하고, 새로운 정보 흐름 모델을 제안했다. 모델은 257개 사건에서 파생된 데이터 흐름과 결과적 피해를 포괄한다.
이 연구는 PETs가 기능 제공에 초점을 맞추는 한 피해를 예방하기 어렵다는 점을 실무에 시사한다.
프라이버시 향상 기술정보 흐름 모델디지털 프라이버시 사건피해 예방
RESEARCH
연구·리포트 참고 자료
주파수 도메인 믹싱 데이터 증강을 활용한 악성 트래픽 탐지
악성 트래픽 탐지 모델의 out-of-distribution 일반화 능력을 향상시키기 위해 주파수 도메인 믹싱 기반의 데이터 증강 방법을 제안한다. 여러 인공적 및 실제 데이터셋에서 실험한 결과, 제안된 방법이 다양한 네트워크 환경에서 탐지 성능을 크게 향상시키며 기존 데이터 증강 방법을 초과한다.
악성 트래픽 탐지 모델의 일반화 능력을 향상시키기 위해 주파수 도메인 믹싱 기반의 데이터 증강 방법을 적용할 수 있다.
악성 트래픽 탐지데이터 증강주파수 도메인 믹싱out-of-distribution
AgentLeak: 에이전트의 강력한 능력을 복제하는 공격 기법
LLM 에이전트의 능력 유출을 위한 새로운 공격 기법 AgentLeak을 제안한다. 600개의 인스턴스에서 40% 이상의 작업 성공률 향상과 80% 이상의 능력 격차를 줄였다.
LLM 에이전트의 실행 동작을 보호해야 한다.
LLM 에이전트능력 복제AgentLeak보안 위험
CIPHER: 프라이버시 강화된 증거 기록에 대한 Cross-record 추론 벤치마크
소비자 금융, 임상, 경찰 수사 기록에서 전문가 검증 질문을 모은 벤치마크 CIPHER를 제안한다. 테이블 전문가 및 하이브리드 시스템이 기밀 변환의 영향을 어떻게 받는지 평가한다.
이 결과로 프라이버시 변환의 영향을 추론 시스템에 정량적으로 평가할 수 있다.
프라이버시추론벤치마크CIPHER
이미지 센서의 전자기 신호 주입 공격 탐지
이미지 센서에 전자기 신호 주입 공격(Electromagnetic Signal Injection Attack, ESIA)을 가한 경우를 탐지하는 경량형 방법을 제안한다. 다양한 공격 조건에서 ROC-AUC 99.6%, EER 0.027의 성능을 보인다.
이 연구는 이미지 센서 기반 시스템의 전자기 신호 주입 공격을 효과적으로 탐지할 수 있는 실용적인 방안을 제공한다.
이미지 센서전자기 신호 주입 공격경량형 탐지보안
AgentDrift: 주입 공격으로 해킹된 LLM 에이전트 경로의 단계 라벨 벤치마크
LLM 에이전트의 주입 공격을 단계별로 라벨링한 벤치마크 AgentDrift를 제안한다. 벤치마크는 12,536개의 합성 도구 호출 경로로 구성되며, 각 단계는 무해, 주입 지점, 해킹, 실패 주입 중 하나로 라벨링된다.
이 벤치마크는 주입 공격 감지 기법의 개발과 평가에 활용될 수 있다.
LLM 에이전트주입 공격벤치마크AgentDrift
쿼리 가능한 그래프 기반 O-RAN 보안 분석 프레임워크
O-RAN 보안 평가를 위해 수십 개의 명세서와 논문을 수동으로 확인하는 과정을 그래프 기반 데이터베이스로 자동화했다. 350개 이상의 노드와 1,250개 이상의 관계를 포함하는 데이터베이스를 구축했으며, 메모리 안전 취약점이 분석한 CVE의 11개 중 21개를 차지하는 등 3가지 실용적 결과를 도출했다.
O-RAN 보안 평가를 위한 오픈소스 그래프 기반 프레임워크를 제공하여 보다 효율적이고 실시간적인 보안 분석이 가능해진다.
O-RAN보안 분석그래프 기반 프레임워크CVE
다중 테넌트 LLM 서빙 환경에서 KV-캐시 타이밍 부채널의 신뢰도 붕괴 특성화
다중 테넌트 환경에서 KV-캐시 타이밍 부채널 공격의 신뢰도가 어떻게 저하되는지를 7가지 실험으로 분석했다. 무작위 워커가 없을 때 평균 Cohen's d는 0.7789이지만, 2개 워커가 있을 때 0.2109로 감소한다(t=8.412).
LLM 서빙 시스템의 보안 설계 시 다중 테넌트 환경에서의 부채널 공격 신뢰도 저하를 고려해야 한다.
부채널(side-channel)LLM 서빙타이밍 공격다중 테넌트
WAPP: 실시간 트래픽에서 긍정적 보안 정책 학습
WAPP는 악성 요청이 학습 데이터를 오염시키는 것을 방지하기 위해 신뢰 필터링, 결정론적 규칙 합성, 신뢰도 점수, 검증을 결합한 프레임워크를 제안한다. 평가 결과, 0.2% 오염 트래픽에서 기능이 저하되고 0.5%에서는 완전히 손상되며, 결정론적 합성기는 모델 추론 비용 없이 공격 차단 성능을 제공한다.
WAPP는 실시간 트래픽에서 안전하게 긍정적 보안 정책을 학습할 수 있는 프레임워크로, 기존 방어 방식의 한계를 보완할 수 있다.
WAPP긍정적 보안 정책Web Application Firewall실시간 트래픽
스카이넷(Skynet): 의미와 구조 모델링을 통한 에이전트 AI의 워크플로우 수준 이상 탐지
에이전트 AI 시스템의 워크플로우 수준 이상을 탐지하기 위해 의미적 및 구조적 모델링을 결합한 새로운 프레임워크 Skynet을 제안한다. 3개 공개 벤치마크에서 재현률이 높고 거짓 긍정률은 1% 미만이며, 온라인 모니터링에 적합한 저지연 특성을 보인다.
에이전트 AI 시스템의 이상 탐지에 워크플로우 수준 분석을 적용할 수 있으며, Skynet은 제로데이 공격 탐지에도 효과적이다.
에이전트 AI워크플로우 수준 이상 탐지의미적 모델링구조적 모델링
전력 소모 최소화를 위한 하드웨어 정보 흐름 추적 기법 (CEGAR-T)
보안 테스트를 위해 하드웨어 설계에 탐염 로직을 추가하는 기법에서 발생하는 오버헤드를 줄이기 위해 CEGAR-T라는 프레임워크를 제안한다. CEGAR-T는 기존 CellIFT 기준 대비 기하 평균 1.42배와 1.79배로 오버헤드를 줄였다.
하드웨어 보안 테스트 시뮬레이션의 효율성을 높이기 위해 CEGAR-T를 도입할 수 있다.
하드웨어 보안정보 흐름 추적CEGAR-TRISC-V
AURA-Eval: LLM 에이전트 경로에서 위험 인식을 고려한 평가 프레임워크
LLM 에이전트의 안전한 행동을 평가하기 위해 AURA-Eval이라는 새로운 프레임워크를 제안한다. 157개의 경로를 기반으로 1,249개 평가 항목을 생성하고 20개의 최첨단 및 오픈 가중치 모델을 평가하여, 위험 탐지, 행동 전략, 시나리오별 안전성 등을 분류하는 기준을 개발하였다.
이 연구는 LLM 에이전트의 안전성 평가 기준을 제시하여, 모델의 위험 인식 능력과 안전한 행동 전략을 실무적으로 평가할 수 있게 한다.
LLM 에이전트안전성 평가AURA-Eval위험 인식
로버스트성 기반 퍼징 평가 및 결함 탐지 향상
퍼징(fuzzing)의 무작위성을 기반으로 한 결함 탐지를 평가하고 개선하는 방법을 제시한다. 분할(splitting) 기법을 통해 CPU당 결함 탐지 수를 52% 증가시키고, CVE-2019-19926 취약점을 0/20에서 20/20로 탐지 성공률을 높였다.
이 연구는 퍼징 기반의 결함 탐지 툴 개선에 실용적인 방법을 제공하여, 소프트웨어 보안 테스트 효율성을 높일 수 있다.
퍼징결함 탐지로버스트성CVECVE-2019-19926
프록시 매니폴드 정렬(PMA) 공격: 개인정보 보호 LLM의 임베딩-임베딩 마스킹 공격
임베딩-임베딩 마스킹(E2EO) 기법에 대한 새로운 공격인 프록시 매니폴드 정렬(PMA)을 제안한다. PMA는 마스킹된 벡터 스트림을 기반으로 원본 텍스트를 복원하는 데 성공한다. 실험 결과 PMA는 기존 공격 방법보다 평균적으로 더 높은 복원률을 보인다.
개인정보 보호를 위한 E2EO 기법의 보안성을 재검토할 필요가 있으며, 보다 강력한 마스킹 기법의 개발이 요구된다.
LLM임베딩-임베딩 마스킹프록시 매니폴드 정렬개인정보 보호
LLM 생성 음식 안전 콘텐츠의 신뢰성 있는 워터마킹 프레임워크
LLM 생성 콘텐츠의 무결성과 추적성을 보호하기 위해 ToSS라는 신뢰할 수 있는 인증 방법을 제안한다. ToSS는 워터마킹 용량과 디코딩 정확도에서 우수한 성능을 보인다.
이 연구는 AI 생성 콘텐츠의 신뢰성 확보를 위해 워터마킹 기법을 개선하는 방안을 제시한다.
AI 생성물워터마킹추적성LLM
디토크나이저 유출 공격: 로컬 LLM 출력을 캐시 추적으로 재구성
로컬 호스팅된 대형 언어 모델(LLM)이 생성한 텍스트를 디토크나이제이션 중 CPU 캐시 활동을 관찰하여 재구성하는 새로운 공격 기법을 제시한다. 실제 로컬 LLM 배포에서 의미적으로 정확한 출력을 복원할 수 있음을 보인다.
이 공격 기법은 널리 사용되는 로컬 LLM 제품과 에이전트 프레임워크에 적용 가능한 취약점을 드러내므로, 해당 시스템의 캐시 타이밍 보호를 강화해야 한다.
LLM 보안디토크나이저 공격캐시 추적로컬 모델 유출
MechAudit-40: 40개의 LLM 공격 메커니즘에 대한 화이트박스 감사
LLM 공격 메커니즘 40개를 체계적으로 평가하고, 런타임 감사 도구를 설계하여 81.1%의 감지율을 달성했다. 감사 도구는 0.70%의 오류율을 유지하면서 78.1%의 재현율을 보였다.
이 연구는 다양한 LLM 공격 메커니즘에 대한 체계적인 평가와 런타-감사 도구 설계를 제안하여, 실무에서 공격 감지 정확도를 향상시킬 수 있다.
LLM 공격 메커니즘화이트박스 감사MechAudit-40런타임 감사 도구
신뢰 영역의 연합: DLT 기반 거버넌스로 산업 IAM 확장
AI 에이전트와 미래 모바일 네트워크에서 비인간 엔티티 간 자율적 상호작용을 위한 신뢰 확립 문제를 해결하기 위해 SPIRE와 같은 기존 IAM 접근법을 분산 원장 기반으로 확장하는 방법을 제안한다. SPIFFE 인증 문서를 기반으로 토큰 교환, 원격 증명, 분산 원장 계층을 추가하여 기존 시스템의 한계를 극복한다.
이 연구는 기업 간 자율적인 시스템 상호작용을 위한 신뢰 관리 프레임워크를 설계할 때 분산 원장 기반의 IAM 확장 방안을 고려할 필요가 있음을 시사한다.
신뢰 영역DLTIAMSPIRE
TTP 기반 악성코드 탐지 기법
악성코드가 사용하는 전술·기술·절차(TTP) 정보를 신경망 모델에 제공함으로써 악성 활동을 정밀하게 탐지하는 방법을 제안한다. 기존 모델 대비 정밀도가 높고, 드문 TTP를 사용하는 악성코드도 효과적으로 탐지할 수 있음을 보인다.
악성코드 분석 시 TTP 정보를 모델에 통합하면 정밀도를 높일 수 있다.
악성코드TTP신경망정밀 탐지
SRD-GUARD: 의미 재작성과 다중 모델 점수를 통한 LLM 방어 프레임워크
LLM에 대한 jailbreak 공격을 방어하기 위해 의미 재작성과 다중 모델 점수를 결합한 SRD-GUARD 방식을 제안한다. SRD-GUARD는 평균 DSR 91.44%와 100%, ORR 8.00%와 12.00%를 달성한다.
SRD-GUARD는 LLM에 대한 jailbreak 공격을 효과적으로 방어할 수 있는 새로운 방식으로, 실무에서 적용 가능한 방어 기법을 제시한다.
LLM 방어jailbreak 공격의미 재작성다중 모델 점수
스마트 안경 영상에서 비밀번호 추론(Watch and Crack)
공공 장소에서 스마트폰으로 비밀번호를 입력하는 행위는 영상 기반 부채널 공격(side-channel attack)에 노출될 수 있다. 연구팀은 스마트폰 QWERTY 키보드에서 규칙 기반 알파벳 숫자 비밀번호를 복구하는 첫 번째 일반적인 영상 기반 키스트로크 추론 파이프라인을 제시한다.
이 연구는 스마트 안경을 활용한 영상 기반 비밀번호 추론 공격이 현실적 위협임을 보여주어, 공공 장소에서의 비밀번호 입력 방식에 대한 재검토가 필요하다.
비밀번호 추론영상 기반 부채널 공격스마트 안경QWERTY 키보드
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.