프롬프트 인젝션 감지기(prompt-injection detector)의 성능 평가를 위해 새로운 벤치마크인 PIDS-Bench를 제안한다. 이 벤치마크는 분포 이동(distribution shift) 상황에서의 감지 정확도(F1=0.98)와 양성 오류율(FPR 0.10 이상)을 동시에 평가한다.
이 연구는 프롬프트 인젝션 감지기의 실제 운영 시 오류를 줄이기 위해 분포 이동 상황을 고려한 평가가 필요하다는 점을 시사한다.
LLM 에이전트가 외부 환경과 상호작용할 때 발생할 수 있는 간접 프롬프트 인젝션 공격을 방어하기 위해 사전 실행 동작 감사 프레임워크인 ActGuard를 제안한다. ActGuard는 기존 방어 기법의 단점을 보완하여 보안과 유틸리티의 균형을 유지하면서 공격 성공률을 현저히 줄이는 것을 보인다.
ActGuard를 도입하면 LLM 에이전트의 보안성을 향상시키면서도 작업 효율성을 유지할 수 있다.
중소기업의 사이버보안 리스크를 분석하기 위해 22개 실제 사례에서 281개의 보안 문제를 조사하고, 8개의 보안 기능과 2개의 노출 조건, 5개의 공격 메커니즘, 6개의 결과 범주를 식별했다. 6개 기능을 유지하면 평가 부담을 24% 줄이면서 97%의 주요 문제와 92%의 리스크 경로를 유지할 수 있다.
중소기업의 사이버보안 평가를 효율화하면서도 주요 리스크를 포착할 수 있는 방법을 제시한다.
DR-SL(Dehydrate-Rehydrate with Self-Learning loop) 기법을 제안하여 Pufferfish semantics를 기반으로 한 de-identification completeness를 정식화하고 QA probes를 통해 task-information preservation을 보장한다. 최악의 경우 벤치마크에서 누출량을 0.457에서 0.304로 감소시키고, 160개 인스턴스에서 0.000의 리터럴 누출을 달성한다.
DR-SL 기법은 클라우드-로컬 LLM 추론 환경에서 민감한 사용자 데이터를 보호하면서도 유틸리티를 유지하는 데 실무적으로 활용될 수 있다.
IoT 벤더가 지원을 중단한 앱이 여전히 사용자 기기에서 작동하며 보안 업데이트를 받지 않아 취약점이 남아 있는 문제를 조사했습니다. 61,500개의 Android IoT 앱을 분석한 결과, 73.6%에 보안 위험이 있었고, 상위 1,000개 앱 중 30개는 손상된 외부 엔드포인트로 데이터를 전송했습니다.
IoT 앱의 지원 중단은 장기적인 보안 위험을 초래하므로, 사용자는 앱 사용 여부를 정기적으로 점검해야 합니다.
Python import는 의존성을 해결하는 것 외에도 모듈 및 패키지 초기화 시 코드를 실행한다. 이 연구는 import 관련 버그와 보안 취약점을 분석하여 1,429개의 프로젝트 히스토리 버그와 31개의 취약점을 확인하고, ImportVulBench라는 228개의 수정 전/후 프로그램 데이터셋을 도출했다.
이 연구는 Python import 초기화 과정에서 발생하는 보안 문제를 실무에서 주의 깊게 검토할 필요가 있음을 시사한다.
LLM 에이전트에서 테넌트 식별자를 모델 컨텍스트 프로토콜(MCP) 도구 스키마에서 제거하고 검증된 자격 증명으로 범위를 바인딩하는 구조적 방어 기법을 제안한다. 373회 실험에서 테넌트 매개변수를 제거하면 도구 시그니처가 범위 밖 요청을 표현할 수 없었고, 57배의 지연 비율이 측정되었다.
LLM 에이전트에서 테넌트 격리를 강화하기 위해 인증된 자격 증명과 실행 가능한 인터페이스를 의존하는 구조적 방어를 적용해야 한다.
PIMENTO는 자연어, 질의, 프라이버시 정책을 관계형 데이터베이스에 매핑하여 CI와 DP 보장을 동시에 제공하는 프레임워크이다. 새로운 벤치마크에서 PIMENTO는 75.3%의 경우 최적의 질의를 선택하고, 올바른 정책 기반에서 누수를 0으로 유지한다.
이 연구는 자연어 분석에서 CI와 DP를 결합한 공식적인 프라이버시 보장을 제공하는 첫 번째 프레임워크로, 실무에서 텍스트 데이터 분석 시 프라이버시 보호를 강화할 수 있다.
Trinqet은 보안 다자간 계산(MPC)을 활용해 분산된 그래프에서 프라이빗하게 삼각형 및 사각형 수를 계산하는 시스템이다. 평가에서 기존 기준 대비 최대 10^5 배 빠른 실행 속도를 보였다.
Trinqet은 분산된 민감한 그래프 데이터를 보호하면서도 효율적인 삼각형 및 사각형 계산을 가능하게 하여, 보안 그래프 분석에 기여할 수 있다.
LLM 에이전트가 다중 소스에서 입력을 수집할 때 발생하는 세그먼트 수준 중독 공격을 탐지하고 정위하는 내부 상태 기반 프레임워크 ActProbe를 제안한다. ActProbe는 0.01의 거짓 긍정률, 0.05의 거짓 부정률, 0.94의 정위 재현률, 0.90의 정위 F1 점수를 달성한다.
ActProbe는 LLM 에이전트의 입력 중독을 효과적으로 탐지하고 정위하여, 실제 시스템에서의 보안 강화에 기여할 수 있다.
ViTeGate는 시각-언어 검색 증강 생성(VLRAG) 시스템에 대한 지식 오염 공격 기법으로, 시각적 트리거와 텍스트 트리거를 조합해 공격을 선택적으로 활성화한다. InfoSeek 데이터셋에서 공격 성공률 0.98과 정상 응답 정확도 0.93을 달성했다.
이 연구는 VLRAG 시스템의 보안 취약점을 드러내며, 시각-언어 트리gger를 활용한 정밀한 공격 활성화 기법을 제시한다.
블록체인 시스템에서 51% 공격을 방어하기 위해 조기 해시파워 모니터링과 체크포인트 기반 완화를 결합한 두 단계 방어 기법을 제안한다. 시뮬레이션 결과, 45% 경고 기준으로 평균 10.531분의 경고 시간을 제공하고, 체크포인트 깊이 N=6에서 63.68%의 재조직 시도가 거부되며, 평균 재조직 깊이는 7.948에서 1.634 블록으로 감소했다.
블록체인 운영자는 해시파워 집중도를 모니터링하고 체크포인트를 설정함으로써 51% 공격의 잠재적 영향을 줄일 수 있다.
RAG 시스템에서 멤버십 추론 공격을 위해 컨텍스트 유도 정보 이득을 기반으로 한 CIG-MIA 기법을 제안한다. Natural Questions 데이터셋에서 회색 상자 설정에서 AUC 0.99, 검은 상자 설정에서 AUC 0.93을 달성한다.
RAG 시스템의 보안 취약점을 드러내며, 외부 지식베이스를 사용하는 시스템의 정보 누출 가능성을 실무적으로 고려해야 한다.
LLM 에이전트가 다양한 작업을 수행할 때 권한을 동적으로 제어하는 새로운 방법을 제안한다. 평가 결과 의도된 작업을 방해하지 않고 위반을 차단하는 것을 보인다.
LLM 에이전트를 사용하는 시스템에서는 작업 의도에 따라 권한을 동적으로 제어하는 방식을 도입해야 한다.
APT 공격자가 윈도우 유틸리티를 악용하는 LOTL 공격을 탐지하기 위해 BERT 기반 의미 인코딩, 문자 수준 CNN, 명령 간 어텐션, 오토인코더 기반 이상 점수를 통합한 SENTINEL 아키텍처를 제안한다. 평형 잡힌 벤치마크에서 SENTINEL은 기록된 국가 주도 공격 명령에 대해 92.0% 정확도, 변형된 버전에는 91.2%를 달성했다.
SENTINEL은 기존 방법보다 LOTL APT 공격 탐지 성능을 크게 향상시켜, 국가 주도 공격에 대한 방어 전략을 개선할 수 있다.
Arbitrum 네트워크에서 고주파 스왑(HFS) 현상의 대규모 측정을 수행하고, 18개월간의 데이터를 기반으로 477명의 HFS 스왑러가 약 3,000만 건의 스왑을 통해 10^11 달러의 거래량을 기록했다는 점을 밝혔다.
이 연구는 레이어2 네트워크에서 발생하는 고주파 거래 현상을 실증적으로 규명하여, 분산 거래소의 시장 미시구조 연구에 기초를 제공한다.
기존의 신경망 추출 공격은 네트워크 아키텍처를 알고 있는 것을 전제로 했으나, 본 연구는 아키텍처를 알지 못하는 상황에서도 파라미터를 추출할 수 있는 기법을 제안한다. 추출 과정에서 아키텍처 정보를 추론하는 방법을 제시하고, 이를 통해 다양한 ReLU 신경망에 대한 공격을 구현하였다.
이 연구는 신경망 보호를 위한 방어 전략에 새로운 고려 요소를 제공한다.
의료 이미징 모델에서 백도어 감지를 위해 스펙트럼 서명 분석과 활성화 클러스터링을 결합한 방법을 제안하고, 이를 평가하는 실험을 수행했다. 의료 벤치마크에서 결합 감지기는 모든 비제로 중독률에서 AUROC 0.99 이상을 달성했다.
의료 이미징 모델의 백도어 감지에 스펙트럼 서명과 활성화 클러스터링을 결합하는 방법이 효과적임을 보여주어, 관련 분야 실무자들이 이를 적용할 수 있다.
클라우드 네이티브 및 미크로서비스 기반 시스템에서 전통적인 암호체계가 양자 컴퓨팅 위협에 노출되어 있다. 본 연구는 기존 코드 변경 없이 포스트 퀀텀 암호(PQC)를 투명하게 도입할 수 있는 PG-PQMES 프레임워크를 제안한다.
이 연구는 기존 시스템에 최소한의 영향을 주면서 PQC로의 전환을 가능하게 하여, 기업의 보안 전략 수립에 기여할 수 있다.
DNSSEC는 RRset을 인증하지만 단말 인증이나 채널 보안을 제공하지 않는다. Enc53은 DNS 암호화를 2단계로 나누어, 초기 쿼리에서 DNSSEC-anchored TLS 인증을 수행하고, 이후 1-RTT AEAD 암호화 UDP 쿼리를 통해 효율적인 권한 DNS 암호화를 구현한다. Enc53의 정착 상태 교환 비용은 약 570 바이트이며, 이는 일반 UDP 쿼리의 약 3배이다.
Enc53은 권한 DNS 암호화를 효율적으로 구현하여, DNSSEC와 결합하여 양자 저항성을 제공함으로써 DNS 보안을 강화할 수 있다.
기존의 제로지식 증명(ZKP) 기반 eKYC 프레임워크와 W3C 2021 BitString 기반 신분 증명 상태 메커니즘의 문제점을 분석하고, 멀티파티 계산(MPC)을 기반으로 투명하고 비용 효율적인 신분 인증 프레임워크를 제안한다. ZSTD 압축을 통해 신분 증명 데이터를 76바이트로 줄여 저장 및 대역폭 비용을 절감하고, SHA3 해싱과 Falcon 양자 저항 서명을 결합하여 양자 공격에 대한 내성을 보장한다.
이 연구는 대규모 신분 인증 시스템에서 비용 효율적이고 투명한 솔루션을 제공하며, 양자 저항성을 갖춘 신뢰할 수 있는 인증 프레임워크를 구축할 수 있다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.