디지털 회로 분석을 위한 버전 스페이스 접근법
버전 스페이스 접근법을 회로 분석 문제에 적용하여 정확한 후보 수를 계산하는 방법을 제안한다. 2002년 제안된 문제를 해결하고, TrustHub 오버플레이션 문제에서 키 수를 계산하여 광고된 키 길이보다 낮은 엔트로피를 보인다.
이 연구는 디지털 회로 분석에서 후보 수를 효율적으로 계산하는 방법을 제공하여, 회로 보안 평가에 활용될 수 있다.
버전 스페이스디지털 회로 분석논리 잠금엔트로피 계산
RESEARCH
연구·리포트 참고 자료
NeuroGraph: 설명 가능한 위협 추론을 위한 AI 그래프 기반 신경-기호 프레임워크
공급망 보안에서 위협 분석의 복잡성을 해결하기 위해 그래프 기반 신경-기호 프레임워크를 제안하고, 이는 기존 기반선 대비 추론 정확도를 개선하며 환상 생성을 줄인다. 공개된 CTI 벤치마크를 사용한 실험 평가에서 NeuroGraph는 추론 정확도, 다중 홉 추론, 적대적 변동에 대한鲁棒성을 개선하였다.
이 연구는 공급망 보안 분석에서 설명 가능하고 신뢰할 수 있는 위협 추론을 가능하게 하여 실무자의 결정 과정을 지원할 수 있다.
공급망 보안신경-기호 추론그래프 기반 RAG설명 가능한 AI
안전한 에이전트가 함께 실패할 때: 다중 에이전트 LLM 시스템의 보안
다중 에이전트 LLM 시스템(MAS)에서 정보, 상태, 결정, 권한이 주체 경계를 넘나들며 발생하는 보안 문제를 체계적으로 분석하고, 공격 경로와 방어 전략을 제시한다. 197개 연구를 분석하여 6개의 상호작용 인터페이스, 4개의 공격자 위치, 7개의 시스템 수준 위험, 8개의 반복 공격 경로를 정리하고, A-I-R 프레임워크와 5부분 계약 방식의 방어 전략을 제안한다.
다중 에이전트 LLM 시스템의 보안을 평가할 때 상호작용 경로를 종단간으로 추적하고 방어 전략이 해당 경로를 차단하는지 테스트해야 한다.
다중 에이전트 시스템LLM 보안A-I-R 프레임워크상호작용 인터페이스
LLM 에이전트의 간접 장기 메모리 오염을 위한 전이 가능한 엔드투엔드 최적화
LLM 에이전트의 장기 메모리 오염 공격을 엔드투엔드 최적화 문제로 접근하여, 기존 단계별 최적화의 한계를 극복하는 새로운 공격 기법 PipePoison을 제안한다. 세 가지 에이전트 프레임워크와 네 가지 메모리 메커니즘에서 공격 활용률을 19.1% 포인트 향상시켰으며, 미확인 피해 설정에서도 기존 최고 기준을 16% 포인트 초과했다.
LLM 에이전트의 장기 메모리 보호를 위해 단계별 최적화보다 엔드투엔드 접근을 고려해야 한다.
LLM 에이전트장기 메모리 오염엔드투엔드 최적화공격 기법
안전장치가 작동했다. LLM 시스템은 더 안전한가?
LLM 서비스의 안전장치 평가 방법을 분석하고, 실제 배포 환경에서의 효과를 측정하는 기준을 제시한다. 안전장치의 로컬 성능 향상이 전체 시스템의 안전성 향상으로 이어지지 않는다는 점을 보인다.
LLM 시스템의 안전성 평가 시 단순히 안전장치의 성능 향상에 집중하기보다, 전체 시스템에서의 잔여 위험을 고려해야 한다.
LLM안전장치ai-security배포 환경
GlitchLab: 물리적 결함 주입을 위한 하드웨어-인-더-루프 최적화 플랫폼
GlitchLab은 물리적 결함 주입 공격을 효율적으로 탐색하기 위해 하드웨어-인-더-루프 최적화 플랫폼을 제안한다. AES, 비밀번호, 제어 흐름 캠페인에서 기존 기준보다 2-85배 적은 시도와 26-1,237배 적은 시간을 요구한다.
GlitchLab은 물리적 결함 주입 공격의 효율적인 탐색을 가능하게 하여, 보안 평가 및 방어 전략 개선에 기여할 수 있다.
하드웨어-인-더-루프물리적 결함 주입보안 평가강화 학습
추론이 백도어 공격을 완화할까? 신경 기호적 관점
신경 기호(Neuro-Symbolic) AI 모델의 적대적 공격에 대한 안정성을 평가하기 위해 DeepProbLog와 기초 신경망을 8가지 백도어 설정과 4가지 추론 작업에서 비교했다. 평균적으로 신경 기호 모델이 신경망보다 더 안정적이지만, 추론 과정의 엄격성과 공격 대상과의 호환성에 따라 안정성이 크게 달라진다.
신경 기호 AI 모델의 적대적 공격에 대한 안정성은 추론 과정의 엄격성과 공격 대상과의 호환성에 크게 의존하므로, 이 점을 고려한 설계가 필요하다.
신경 기호(Neuro-Symbolic)백도어 공격적대적 공격추론 엄격성
능력 제어 언어 모델(Capability-Gated Language Models): 보안은 합성되지만 유틸리티는 그렇지 않다
언어 모델의 배포 보안 기법을 개선하기 위해 'capability-gated deployment'라는 새로운 접근법을 제안한다. 이 기법은 단일 가중치 집합 내에서 각 사용자의 접근 제어를 구현하며, 보안성이 이론적으로 증명된다.
이 연구는 언어 모델의 보안 기능을 효과적으로 구성하는 새로운 방법을 제시하여, 보안 정책의 유연한 적용을 가능하게 한다.
AI 보안언어 모델접근 제어보안 기법
코드 신뢰하지 말고 효과 검증하라: 적대적 생성자에 대응하는 재생성 시스템 코드의 런타임 정제
시스템 코드를 생성하는 대형 언어 모델이 적대적일 수 있는 상황에서, 생성된 코드가 직접 실행하는 대신 신뢰할 수 있는 중개자(mediator)가 효과를 수행하도록 하는 방식을 제안한다. 중개자의 보장은 코드 재생성에도 생존하며, 효과 검증을 위한 6가지 조건을 제시한다.
시스템 코드 생성 시 적대적 생성자를 대비해 실행 권한을 중개자에게 위임하는 방식을 도입할 수 있다.
시스템 코드런타임 정제적대적 생성자중개자
로봇 능력 마켓플레이스를 위한 연방 신뢰(Federated Trust) 모델
로봇 능력 마켓플레이스에서 기존의 중앙집중식 PKI 대신 연방 신뢰 아키텍처를 제안하고, 이 모델을 런타임 거버넌스 계층에 구현하여 100%의 악의적 출판자 공격을 차단하는 것을 보였다. 5000회 적대적 시도에서 100%의 악의적 출판자, 변조, 위조, 취소된 서명자 공격을 거부했으며, 96.6%의 최소 버전 강제 하강 시도를 차단했다.
로봇 플릿 운영자는 연방 신뢰 아키텍처를 도입하여 중앙 인증 기관에 의존하지 않고 로컬 기반의 신뢰 검증을 통해 보안성을 높일 수 있다.
로봇 보안연방 신뢰PKI 대안Ed25519
NeuroPriv: 웨어러블 EEG 시스템에서의 프라이버시를 위한 적대적 표현 학습
웨어러블 EEG 시스템에서 사용되는 공통 EEG 특징이 인지 상태 분류를 지원하는 동시에 참가자 신원 및 인구통계 정보를 유추할 수 있음을 보인다. NeuroPriv를 통해 인지 상태 분류 성능을 유지하면서 신원 및 인구통계 유추 정확도를 각각 0.206, 0.467, 0.563으로 감소시켰다.
웨어러블 뇌파 장치 사용 시 신원 및 인구통계 정보 유출 위험이 있으며, NeuroPriv를 통해 프라이버시 보호를 강화할 수 있다.
NeuroPriv웨어러블 EEG프라이버시적대적 표현 학습
OreProof: 제로지식 증명을 활용한 주요광물 공급망의 검증 가능한 추적성
광물 공급망에서 검증 가능성과 정보 공개 간의 갈등을 해결하기 위해 OreProof라는 프로토타입 추적성 플랫폼을 제안한다. OreProof는 제로지식 증명을 활용해 선택적 공개를 가능하게 하며, 기존의 투명성 기준 대비 기밀 속성의 유추 가능성을 4개 중 3개에서 0개로 감소시켰다.
이 연구는 주요광물 공급망에서 정보 보호와 검증 가능성의 균형을 유지하는 기술적 접근법을 제시하여, 공급망 보안 및 정보 관리 실무에 새로운 방안을 제시한다.
제로지식 증명추적성공급망 보안OreProof
AI 거버넌스를 위한 물리적 부채널을 활용한 작업 식별
NVIDIA H200 GPU의 전력 소모를 분석하여 AI 작업 부하를 식별하는 방법을 제시한다. 97% 정확도로 학습과 추론을 구분할 수 있으며, 4가지 회피 전략 중 3가지에 대해 99% 이상의 탐지 성능을 보인다.
이 연구는 AI 작업 감시를 위한 물리적 부채널 기반의 새로운 접근법을 제시하여, AI 거버넌스 정책 수립에 기여할 수 있다.
AI 거버넌스GPU 작업 식별물리적 부채널AI 학습 감시
신뢰 없이도 작동하는 다중 에이전트 LLM 시스템의 권한 위임 보안 분석
다중 에이전트 언어 모델 시스템에서 권한 위임과 런타임 거버넌스의 보안 문제를 실증적으로 분석하고, 4가지 공격 시나리오에 대응하는 권한 부여 브로커를 제안한다. 200,000개의 위조 토큰 중 0개를 수용하고, 평균 1.5개의 행동만 허용하는 등 높은 보안 성능을 보인다.
이 연구는 다중 에이전트 LLM 시스템에서 권한 위임 시 보안을 강화하기 위한 실용적 접근법을 제시하며, 실무에서는 권한 부여 브로커 도입을 고려해야 한다.
LLM권한 위임보안에이전트 시스템
DUPIN: 학습 기반 공격 포렌식에서 공격 학습이 여전히 필요하다
DUPIN은 대량의 감사 이벤트를 사용하여 비감독 사전 학습을 수행한 후 소수의 라벨이 있는 공격 예제로 미세 조정하는 학습 기반 공격 포렌식 접근법을 제안한다. DUPIN은 최대 38-52일 동안의 감사 로그(총 7.3TB)로 사전 학습하고 4개의 다른 데이터 소스에서 25개의 APT 캠페인에 대해 다양한 기준선과 비교 평가한다.
이 연구는 대량의 감사 로그를 활용한 학습 기반 공격 포렌식 접근법을 제시하여, 소규모 라벨 데이터로도 효과적인 공격 탐지를 가능하게 한다.
공격 포렌식비감독 사전 학습미세 조정APT
산업 사이버보안을 위한 설명 가능한 인공지능(XAI) 기법 검토
산업 사이버보안에서 인공지능(AI)의 불투명한 의사결정이 운영 신뢰와 규정 준수를 어렵게 하므로, 설명 가능한 인공지능(XAI) 기법을 검토하여 투명성과 해석성을 향상시킨다. XAI 기법의 주요 유형과 산업 환경에서의 적용 가능성, 한계를 분석한다.
이 결과로 실무에서는 XAI 도구를 보안 운영 센터(SOC)에 통합하여 AI 기반 위협 탐지의 신뢰도를 높이고 규정 준수를 용이하게 할 수 있다.
설명 가능한 인공지능XAI산업 사이버보안보안 운영 센터
대리 지급 프로토콜의 형식적 분석
AI 에이전트가 상품 및 서비스를 구매하고 사용자의 대리로 지급을 실행하는 대리 지급 프로토콜의 보안 의존성을 분석하였다. 4개의 대표적인 프로토콜을 Tamarin에서 형식화하고, 86개의 검증 사례를 통해 40개의 새로운 형식적 일관성 문제를 발견하였다.
이 연구는 대리 지급 프로토콜의 보안 원칙을 명확히 하여, 자율 거래 시스템의 설계 및 검증에 실질적인 기여를 할 수 있다.
대리 지급 프로토콜형식적 분석보안 원칙AI 에이전트
AgentProv: 도구 사용 정책 탐지 기반의 에이전트 언어 모델 API 감사
에이전트 언어 모델(agentic LLM) API 제공업체의 백본 모델을 감사하기 위해 도구 사용 패턴을 분석하는 새로운 방법 AgentProv를 제안한다. AgentProv는 630개 체크포인트 쌍에서 100%의 탐지 성능을 보이며, 시스템 프롬프트 주입에 따른 오류율은 7% 미만이다.
이 연구는 제공업체가 주장하는 모델과 실제 제공하는 모델이 다른 경우를 감지하는 데 실무적으로 활용될 수 있다.
LLM 감사에이전트 언어 모델도구 사용 정책모델 신원 검증
Mirage Kitten: 항공 및 금융 기술 분야를 표적으로 한 새로운 악성코드(NodeRabbit, PollCat) 발견
Mirage Kitten APT 그룹이 새로운 Node.js 및 JavaScript 기반의 RAT(NodeRabbit, PollCat)를 사용하여 아프가니스탄, 이집트, 에티오피아의 시스템에 침투하는 공격을 수행하고 있음을 밝혀냈다. 공격자는 채용 과정을 가장한 악성 코드 아카이브를 통해 악성코드를 배포하고 있다. NodeRabbit은 Windows, Linux, macOS에 영향을 주며, C2 서버와의 통신을 위해 Azure 호스팅 인프라를 사용한다.
APT 그룹이 Node.js 및 JavaScript 기반의 악성코드를 사용하는 새로운 공격 방식을 채택하고 있어, 개발자 및 보안 전문가들은 채용 과정에서 제공되는 코드 아카이브에 주의해야 한다.
Mirage KittenNodeRabbitPollCatAPT
제외 래치(The Exclusion Ratchet): 감지 규칙 저장소에서 거짓 긍정 억제의 축적과 지속
감시 규칙 저장소에서 거짓 긍정을 억제하기 위해 제외 조건이 추가되지만, 이 조건이 축적되고 지속되는 현상을 9년간 8,234개의 규칙 수정을 분석하여 측정했다. 1,642번 제외 조건이 추가되고 304번만 제거되며, 86.7%는 3년간 유지된다.
보안 실무자는 감지 규칙의 제외 조건이 누적되어 보안 허점을 만들 수 있음을 인지하고, 우선순위 기준을 사용해 주기적으로 검토해야 한다.
감지 규칙거짓 긍정 억제제외 조건보안 모니터링
DP-VOXLET: 분리된 음성 표현을 위한 증명 가능한 화자 익명화
화자의 음성을 익명화하면서 의미와 톤은 유지하는 기술을 제안한다. 기존 휴리스틱 기반 익명화 시스템과 달리, 이 접근법은 어떤 적대자라도 재식별 성공률을 보장한다.
이 연구는 익명화 기술의 신뢰성을 높이는 데 기여할 수 있으며, 음성 데이터를 사용하는 기업에서 개인정보 보호를 강화하는 데 활용될 수 있다.
음성 익명화차분 프라이버시재식별disentangled representations
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.