DeFiFusion: 트랜잭션 이벤트와 스마트 계약을 결합한 가격 조작 공격 탐지
가격 조작 공격(PMA) 탐지를 위해 트랜잭션 이벤트와 스마트 계약 의미를 결합한 DeFiFusion 프레임워크를 제안한다. 225건 중 222건을 재현하면서 96.10%의 정밀도를 달성했다.
DeFiFusion은 트랜잭션과 스마트 계약 분석을 결합해 PMA 탐지 정확도를 높여 DeFi 보안에 기여한다.
DeFi가격 조작 공격스마트 계약트랜잭션 분석
RESEARCH
연구·리포트 참고 자료
지도 학습에서 데이터 오염 공격의 실증 평가
MNIST와 Fashion-MNIST 데이터셋을 사용하여 라벨 뒤집기와 백도어 오염 공격이 로지스틱 회귀, 선형 SVM, 랜덤 포레스트 분류기의 성능에 미치는 영향을 평가하였다. 5%, 10%, 20%의 오염률에서 정확도, 정밀도, 재현율, F1 점수, 공격 성공률을 비교하여 라벨 뒤집기는 로지스틱 회귀와 선형 SVM에서 큰 성능 저하를, 백도어 오염은 높은 공격 성공률(0.9667~1.0000)을 보였다.
이 연구는 데이터 오염 공격이 기존 모델의 성능에 미치는 영향을 실증적으로 보여주어 보안 평가 시 기존 지표 외에도 공격 성공률을 고려해야 함을 시사한다.
데이터 오염 공격백도어라벨 뒤집기모델 보안
텍스트 분류 모델에 대한 멤버십 추론 공격(membership inference attack)의 실증 평가: SST-2 데이터셋을 중심으로
본 연구는 자연어 처리(NLP)에서 텍스트 분류 모델의 멤버십 추론 공격 취약성을 실증적으로 평가하였다. GLUE SST-2 감정 분류 데이터셋을 사용하여 TF-IDF + 로지스틱 회귀 파이프라인과 미세 조정된 DistilBERT 분류기를 비교한 결과, DistilBERT가 로지스틱 회귀보다 높은 정확도와 F1 점수를 기록했으나, 두 모델 모두 멤버십 신호를 유출하는 것으로 나타났다.
텍스트 분류 모델의 훈련 데이터 유출 가능성에 주의해야 하며, 가벼운 훈련 조정을 통해 프라이버시-유틸리티 균형을 개선할 수 있다.
프라이버시멤버십 추론 공격텍스트 분류DistilBERT
DriftNet: LLM 에이전트에서 프롬프트 인젝션(prompt injection) 탐지 및 정위치를 위한 듀얼 헤드 경로 트랜스포머
LLM 에이전트에서 프롬프트 인젝션 공격을 탐지하고 정위치하기 위해 듀얼 헤드 경로 트랜스포머인 DriftNet을 제안한다. AgentDrift 벤치마크에서 경로 수준 F1 0.983, 정확한 주입점 복구 98.7%, 히잭된 구간 IoU 0.979를 달성했다.
DriftNet은 LLM 에이전트의 프롬프트 인젝션 공격 탐지 및 정위치에 있어 높은 성능을 보여주며, 보안 실무자들이 공격 분석과 대응에 활용할 수 있다.
프롬프트 인젝션LLM 에이전트DriftNet트랜스포머
AspisAI: 자동화된 다중 표준 준수 모니터링을 위한 표준 비관련 기계 해석 가능 관리 프레임워크
다중 보안 및 프라이버시 표준을 자동으로 준수하기 위한 기계 해석 가능한 관리 프레임워크인 AspisAI를 제안한다. 26개 대표 요구사항 범위에서 88.5% 매핑 커버리지, 완전한 추적 가능성, 모든 도입된 갭의 정확한 탐지로 기능적 올바름을 입증한다.
AspisAI는 여러 보안 표준의 자동 준수 모니터링을 가능하게 하여, 기업의 보안 관리 효율성을 높일 수 있다.
보안 관리프라이버시자동 준수기계 해석
A2ABreak: A2A 프로토콜의 체계적 보안 분석
A2A 프로토콜의 보안을 체계적으로 분석하여 11개의 새로운 취약점을 발견했다. LLM을 활용한 새로운 분석 프레임워크를 제안하고, 73.3%의 정밀도와 84.6%의 F1 점수를 달성했다.
A2A 프로토콜의 보안 취약점을 실질적으로 이해하고, 프로토콜 설계 시 체계적인 분석 프레임워크를 적용할 필요가 있다.
A2A 프로토콜보안 분석LLM취약점
노박스 취약점 분석: MCP 서버의 간접 프롬프트 인젝션 취약점 탐지
기존 취약점 분석은 시스템 접근이나 동적 상호작용을 필요로 하지만, 이 연구는 접근이나 실행 시 상호작용 없이 기능성 메타데이터만을 이용한 새로운 no-box 취약점 분석 패러다임을 제안한다. MCPSEC 프로토타입을 구현하여 MCP 서버의 간접 프롬프트 인젝션 취약점을 탐지하고, 177개 도구 중 143개를 취약한 것으로 판별해 94개(98.9% 리콜)의 실제 취약점을 예측했다.
이 연구는 접근이 제한된 시스템에서도 메타데이터만으로 취약점을 분석할 수 있는 새로운 패러다임을 제시하여, 보안 분석 실무에 혁신적인 접근법을 제공한다.
노박스 취약점 분석(no-box vulnerability analysis)프롬프트 인젝션(prompt injection)MCP 서버메타데이터 기반 분석
LLM 펜테스트 에이전트의 능력 상승 추적 (LLM Penetration-Testing Agents)
Kimi K2.5와 Claude Opus 4.8 기반 펜테스트 시스템을 비교해, 자율 시스템이 3개 공개 대상 모두를 해결한 반면 기존 시스템은 2개를 완료하지 못했다. 자율 시스템은 보통 대학 GPU에서 실행되며, 메모리 구조와 자율성 변화가 성능 향상에 기여한 것으로 보인다.
펜테스트 에이전트의 능력이 빠르게 상승하고 있으므로, 방어자는 이러한 능력 상승을 지속적으로 모니터링해야 한다.
LLM펜테스트자율 에이전트보안 분석
정적 분석 통과 코드의 동적 취약점 측정: SPDF 현상과 파이프라인
정적 분석을 통과한 보안 민감 및 LLM 생성 파이썬 코드의 동적 취약점을 측정하는 SPDF 현상과 세 단계 파이프라인을 제안한다. 1,355개 샘플 중 14.53%에서 동적 취약점이 확인되었다.
정적 분석 통과를 보안 보장의 최종 증거로 간주하는 관행을 재검토해야 하며, 동적 검증을 병행하는 평가 체계가 필요하다.
LLM 생성 코드정적 분석동적 취약점SPDF
LEO 위성 시스템의 사이버 공격 탐지를 위한 시간적 및 다중 모달 딥러닝
LEO 위성 시스템에서의 사이버 공격 탐지를 위해 시간적 특성을 고려한 다중 모달 딥러닝 모델을 제안하고, 이를 위성 전용 데이터셋으로 평가했다. 계층적 트랜스포머가 91.66% 정확도와 85.63% 매크로 F1을 달성했다.
이 연구는 위성 통신 시스템의 복잡한 환경에서 효과적인 사이버 공격 탐지를 위한 모델 설계와 평가 방법을 제시한다.
위성 시스템사이버 공격 탐지딥러닝다중 모달
CARTS: 컨텍스트 기반 오토회귀 랭크 전환 스테가노그래피
CARTS는 오토회귀 언어 모델을 활용하여 텍스트를 동일 길이의 스테가노그래피 텍스트로 변환하는 기법이다. Llama 3 8B 모델을 사용한 실증 연구에서 원본 페이로드의 정확한 복원과 키 충돌이 발생하지 않는 것을 확인하였다.
이 연구는 언어 모델을 암호화 및 프라이버시 보호 통신에 활용할 수 있는 이론적 기반을 제공한다.
스테가노그래피오토회귀 모델암호화프라이버시 보호
보안 AI-SOC 설계: 파이프라인 무결성과 위협 완화를 위한 신경기호학적 프레임워크
LLM을 SOC에 통합할 때 발생하는 간접 프롬프트 인젝션 취약점을 해결하기 위해 결정론적 및 신경망 기반 방어를 결합한 새로운 아키텍처를 제안한다. MITRE ATLAS 세트를 기준으로 다양한 프롬프트 인젝션을 대상으로 실험 평가를 수행하여 프롬프트웨어 킬체인을 효과적으로 해체함을 보인다.
이 연구는 AI-SOC에서 LLM을 보호하기 위한 실용적 방어 전략을 제시하여, 보안 운영센터의 위협 탐지 및 대응 능력을 향상시킬 수 있다.
LLM프롬프트 인젝션(prompt injection)보안 운영센터(SOC)신경기호학적 방어(neurosymbolic defense)
HermiCache: 신뢰할 수 있는 실행 환경(enclave)을 고려한 캐시 교체 정책
신뢰할 수 있는 실행 환경(TEE)은 공신력 있는 소프트웨어를 보호하지만, 공유된 마이크로아키텍처 자원으로 인해 캐시 기반 부채널 공격에 취약하다. HermiCache는 RISC-V 코어를 위한 enclave 인식형 캐시 교체 정책으로, 프로세서 코어에 6%의 면적 오버헤드를 가진다.
이 연구는 TEE에서 캐시 기반 부채널 공격을 방어하기 위한 새로운 캐시 교체 정책을 제안하여, 보다 정밀한 보안 설정이 필요한 시스템 설계자에게 유용할 수 있다.
신뢰할 수 있는 실행 환경부채널 공격캐시 교체RISC-V
사이클 공간에서 사이클 매니폴드로: 블라인드 허위 데이터 주입 공격의 한계와 실현 가능성
전력망 상태 추정을 조작하는 허위 데이터 주입 공격(FDIA)이 잔차 기반 이상 데이터 탐지기(BDD)를 우회할 수 있는 이론적 조건을 분석하고, 무작위 공격의 숨기기 공간을 수학적 구조로 정의했다. IEEE 시스템에서 BDD 우회율 95% 기준으로 실험을 수행하여 상태 영향을 비교했다.
전력망 보안 실무자는 이론적 공격 벡터를 이해하고, 잔차 기반 탐지기의 한계를 인식하여 보완 방안을 모색해야 한다.
전력망 보안허위 데이터 주입 공격사이클 공간잔차 기반 탐지기
설명 가능한 AI를 통한 머신러닝 프라이버시 공격 정리(SoK)
기계 학습 설명이 모델 보안과 데이터 프라이버시에 영향을 미친다는 점을 밝히고, 25개 연구를 체계적으로 분석하여 공격 경로와 방어 전략을 비교했다. 설명 신호 유출에 따라 공격 효과가 달라진다는 점을 밝혔다.
머신러닝 모델의 설명 기능을 사용할 때 프라이버시 유출 가능성을 종합적으로 평가해야 한다.
머신러닝프라이버시 공격설명 가능한 AI모델 추출
포스터리어 재가중을 통한 컨텍스트 내 멀티모달 탈옥 공격 이해
멀티모달 대형 언어 모델에서 발생하는 컨텍스트 내 학습 탈옥 공격을 포스터리어 재가중 프레임워크를 통해 이론적으로 설명하고, 안전한 행동을 유도하는 방어 기법을 제안한다. 실험 결과, 기존 방어 기법 대비 개선된 견고성-유틸리티 균형을 달성했다.
이 연구는 멀티모달 언어 모델의 탈옥 공격 이해와 방어에 새로운 이론적 기반을 제공하며, 실무적으로는 보다 효과적인 방어 기법의 개발을 촉진할 수 있다.
포스터리어 재가중멀티모달 탈옥 공격AI 보안in-context learning
PEARL: 차분 프라이버시(DP) 합성 교육 데이터 평가 프레임워크
차분 프라이버시(DP)를 적용한 합성 교육 데이터의 유효성과 예측 성능을 평가하는 PEARL 프레임워크를 제안한다. 96개 실험 설정 중 12개만이 모든 PEARL 검증을 통과했으며, 일부 데이터셋은 특정 그룹(예: 중도탈락 학생)을 누락하거나 학습 활동 순서를 보존하지 못해 거부되었다.
차분 프라이버시를 적용한 합성 데이터는 예측 성능과 공정성을 보장하기 위해 PEARL과 같은 종합적 평가 프레임워크가 필요하다.
차분 프라이버시합성 데이터교육 데이터공정성 분석
워드 레벨 확률 추정을 통한 블랙박스 멤버십 추론 공격
본 연구는 블랙박스 환경에서 대형 언어 모델의 멤버십 추론 공격을 수행하기 위한 새로운 기법인 WPMIA를 제안한다. WPMIA는 단어 레벨 확률 추정을 통해 기존 블랙박스 기준을 평균 TPR@5%FPR 42.0으로 초과하는 성능을 보인다.
이 연구는 블랙박스 멤버십 추론 공격의 효과성을 입증하여, 대형 언어 모델의 개인정보 보호 리스크를 평가하는 데 중요한 참고 자료가 된다.
블랙박스 공격멤버십 추론LLM 보안WPMIA
적응형 확산 동결(Adaptive Diffusion Freezing): 멤버십 추론 공격에 대항하는 프라이버시 보호 확산 모델
확산 모델의 훈련 과정에서 발생하는 프라이버시 문제, 특히 멤버십 추론 공격(MIA)에 대응하기 위해, Adaptive Diffusion Freezing(ADF)이라는 새로운 프레임워크를 제안한다. ADF는 교차 타임스텝 적응형 동결 훈련을 활용하여, 다양한 데이터 서브셋의 참여를 마스크 행렬을 통해 조절함으로써 과도한 학습을 줄이고 멤버십 유출을 방지한다.
이 연구는 확산 모델의 프라이버시 보호를 강화하는 새로운 접근법을 제시하여, 생성 모델을 사용하는 기업이나 연구자들이 멤버십 추론 공격에 대비할 수 있도록 지원한다.
프라이버시 보호확산 모델멤버십 추론 공격Adaptive Diffusion Freezing
임계값 선택이 아닌 샘플 크기: 비결정적 복합 AI 워크플로우의 무신뢰 검증
복합 AI 파이프라인의 비결정성을 고려한 무신뢰 검증 프로토콜을 제안하고, 샘플 수보다 임계값 선택이 검증의 한계를 결정하는 것을 보인다. 합의 없이 k=5 재실행에서 44/45 정직 재현을 수용하고 104/105 분기 쌍을 거부했으나, 동일 입력 위조는 27/29 시도에서 성공한다.
복합 AI 워크플로우 검증 시 샘플 수보다 임계값 설정이 더 중요하며, 무신뢰 환경에서의 한계를 이해해야 한다.
AI 보안무신뢰 검증비결정적 워크플로우임계값 설정
감금 해제 평가자에 대한 실증적 측정
감금 해제 공격의 성공 여부를 자동 평가하는 다양한 평가자를 비교 분석하였다. JADES가 가장 높은 성능을 보였다.
감금 해제 공격 평가 시 JADES를 사용하는 것이 효과적일 수 있다.
감금 해제LLM 평가JADESJailbreakQR
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.