감금 해제 평가자에 대한 실증적 측정
감금 해제 공격의 성공 여부를 자동 평가하는 다양한 평가자를 비교 분석하였다. JADES가 가장 높은 성능을 보였다.
감금 해제 공격 평가 시 JADES를 사용하는 것이 효과적일 수 있다.
감금 해제LLM 평가JADESJailbreakQR
RESEARCH
연구·리포트 참고 자료
PuzzleMask: 일반 텍스트를 암호 공격 벡터로 악용
PuzzleMask는 기존 LLM 기반 정책 검사를 우회하기 위해 일반 영어 텍스트를 특수하게 구성한 공격 기법이다. 정책 위반 페이로드를 특수하게 구성된 텍스트로 감싸서 탐지 회피를 시도한다.
이 기법은 기존 LLM 기반 정책 검사의 한계를 드러내며, 보다 정교한 프롬프트 분석 기법이 필요하다.
프롬프트 공격LLM 보안정책 우회PuzzleMask
루트 권한이 있는 Kubernetes 노드에서 SPIFFE/SPIRE 기계 신원을 오용하는 공격 기법
Kubernetes 노드의 루트 권한을 악용해 SPIFFE/SPIRE 기계 신원 시스템을 오용하는 공격 기법을 제시하고, 공격 도구 Spooffe를 개발했다. 공격자는 cgroup 정보를 위조해 공유 노드 내 다른 워크로드의 신원 문서를 획득할 수 있음을 보인다.
Kubernetes 환경에서 루트 권한 관리와 노드 보안 강화가 중요하다.
KubernetesSPIFFE/SPIRE기계 신원cgroup
GuardBreaker: 코드 주석으로 AI 지원 악성코드 분석 방해
ESET 연구원들은 러시아 계열 해킹 그룹 UAC-0099가 AI 기반 코드 분석 도구를 방해하기 위해 악성 스크립트에 가짜 핵무기 개발 요청 주석을 삽입하는 기법을 발견했다. 이 기법은 분석 도구가 해당 파일을 더 이상 검토하지 않도록 유도한다.
이 기법은 AI 기반 코드 분석 시스템의 안전 장치를 우회할 수 있으므로, 다중 모델과 인간 전문가의 협업을 통해 분석 결과를 검증하는 방식이 필요하다.
악성코드 분석AIPrompt InjectionESET
자율 형식 논리 모델링과 자동 추론을 통한 애플리케이션 논리 결함 해결
LL-Verifier라는 새로운 자동화된 프레임워크를 제안하여, 대규모 언어 모델과 논리 모델 체커를 결합하여 애플리케이션의 논리 결함을 식별한다. 27개의 IoT 장치 액세스 제어 프로토콜에서 다양한 논리 취약점을 발견했다.
이 연구는 IoT 프로토콜의 논리 결함을 자동으로 탐지할 수 있는 프레임워크를 제시하여, 실무에서 보안 분석의 효율성을 높일 수 있다.
LL-Verifier형식 논리 모델링자동 추론애플리케이션 보안
전기자동차 충전소 소프트웨어 보안을 위한 HSQA 접근법
전기자동차 충전소 소프트웨어의 보안 취약점을 분석하고, 계층적 소프트웨어 품질 보증(HSQA) 접근법을 제안한다. HSQA는 개별 취약점(CVE)부터 고수준 보안 특성(CIA 삼중구조)까지 포괄적으로 평가한다.
전기자동차 충전소 소프트웨어 보안 평가에 HSQA 접근법을 적용할 필요가 있다.
전기자동차충전소소프트웨어 보안HSQA
TrajMark: 코딩 에이전트 트레이스에 대한 소유권 추적과 세그먼트 수준 위조 탐지
코딩 에이전트의 최종 패치에 워터마크를 삽입하는 기존 방법은 제출된 아티팩트의 출처를 증명하지만, 생성 과정을 인증하지 못한다. TrajMark은 소유권을 강력하게 추적하면서 로컬한 수정을 감지할 수 있는 트레이스 워터마킹 프레임워크로, 3개의 코딩 에이전트 프레임워크와 3개의 LLM에서 정확한 소유자 복원률 100%, 수정 탐지률 95.5%-100%, 수정 사이트 정위치율 95.8%를 보였다.
TrajMark은 코딩 에이전트의 작업 흐름을 보호하고 위조를 탐지하는 데 활용할 수 있으며, 소프트웨어 개발 과정의 무결성을 검증하는 데 유용하다.
AI 보안트레이스 워터마킹소유권 추적위조 탐지
OT 시스템 침해 대응 전략 학습
운영 기술(OT) 시스템의 침해 대응 전략을 위한 부분 관측 가능 마르코프 결정 과정(POMDP) 모델을 제안하고, PPO 기반 학습 방법을 통해 효과적인 대응 전략을 개발했다. 실증 평가에서 여러 MITRE 공격에 효과적임을 보였다.
이 연구는 OT 시스템 침해 대응 자동화에 학습 기반 접근법을 제안하여, 실무에서 보다 효율적인 대응 전략을 개발할 수 있다.
OT 시스템침해 대응POMDPPPO
ReDoS 취약점 및 탐지 도구에 대한 실증 분석
연구팀은 5개 공개 ReDoS 탐지 도구와 1개 정규표현식 수정 도구의 효과성을 3개 데이터셋을 사용해 비교 분석했다. NVD 데이터베이스에 보고된 ReDoS 취약점을 실증 분석한 결과, ReDoS 취약점이 비-ReDoS 취약점보다 더 자주 악용되고 있는 것으로 나타났다.
실무에서는 ReDoS 취약점이 일반 취약점보다 더 높은 위험성을 지니므로, 탐지 도구 선택 시 도구 간 결과 차이를 고려해야 한다.
ReDoS정규표현식취약점 분석탐지 도구
Maverick: 행렬-벡터 곱셈 위임을 통한 비공개 및 검증 가능한 LLM 추론 실현
Maverick는 행렬-벡터 곱셈 위임 프로토콜을 기반으로 사용자의 입력 비공개성과 추론 결과의 검증성을 보장하는 대형 언어 모델(LLM) 추론 방식이다. Maverick는 17x에서 157x까지의 처리량 향상을 달성했다.
이 연구는 대형 언어 모델 추론 시 사용자의 입력 비공개성과 검증성을 동시에 보장하면서 처리량을 향상시킬 수 있는 새로운 기술을 제시한다.
LLM 추론행렬-벡터 곱셈비공개성검증성
불가능한 노드가 정말 안전할까? Monero P2P 네트워크의 완전한 일식 공격
Monero의 P2P 네트워크에서 불가능한 노드를 겨냥한 일식 공격 기법을 제안하고, 네트워크 전체를 오염시켜 지속적인 공격을 수행하는 Nyx와 신규 노드를 빠르게 공격하는 Moros를 제시한다. 대규모 시뮬레이션과 실제 네트워크에서의 실험을 통해 불가능한 노드가 안정적으로 장기적인 일식 상태에 빠질 수 있음을 보인다.
Monero 네트워크에서 불가능한 노드가 기존의 일식 공격에 비해 안전하다는 통념이 깨졌으며, 네트워크 보안 정책을 재검토할 필요가 있다.
MoneroP2P 네트워크일식 공격불가능한 노드
밈코인 공장: pump.fun에서 대규모 조작 밝혀내다
암호화폐 발행 플랫폼 pump.fun에서 발생하는 대규모 시장 조작을 분석하고, 5가지 조작 전략을 규명했다. 1500만 개의 코인을 대상으로 한 실증에서 조작 코인 비율은 40% 이상이다.
암호화폐 발행 플랫폼의 시장 조작을 실시간으로 탐지하고 대응하는 시스템이 필요하다.
암호화폐pump.fun시장 조작wash trading
제로지식 머신러닝 회로에서 불필요한 검증 제거
제로지식 증명(ZK) 시스템에서 신경망 추론을 위한 회로에서 불필요한 검증을 제거하는 자동화된 프레임워크를 제안한다. 회로 제거 후 보안성을 보장하기 위해 전체 회로 추상 해석을 사용하여 대체 증명 경로를 검증한다.
이 연구는 ZK 기반 머신러닝 회로의 성능을 향상시키는 동시에 보안성을 유지하는 방법을 제공하여, ZK 기술을 활용한 애플리케이션 개발에 실질적인 도움을 줄 수 있다.
제로지식 증명머신러닝회로 최적화보안성 보장
오버플로우 기반 온디바이스 LLM 보호의 보안 경계 이해
TEE-Shielded LLM Partition(TSLP) 방식의 보안 경계를 분석하고 공통 원리를 정의하여 공격에 대한 취약점을 밝혔다. Collapse 공격을 통해 ArrowCloak, TSQP, LoRO 등의 TSLP 방식이 취약함을 실증했다.
TSLP 방식의 보안 경계를 이해하고 새로운 공격에 대비하기 위해 O_ext와 같은 확장된 방어 기법을 고려해야 한다.
TEELLM 보호보안 경계오버플로우
차분 프라이버시(DP)를 활용한 분산 텍스트 합성
차분 프라이버시(DP)를 적용한 텍스트 합성 기법을 분산 환경에서 설계하고, 가벼운 사용자 참여만으로 텍스트 합성을 가능하게 한다. 네 가지 벤치마크에서 기존 중앙집중식 DP 합성 방법과 유사한 유틸리티를 달성한다.
이 연구는 분산 환경에서 사용자 텍스트 데이터를 보호하면서 텍스트 합성을 수행할 수 있는 새로운 접근법을 제시한다.
차분 프라이버시텍스트 합성분산 환경보안 프로토콜
AutoTrans: RISC-V 프로세서 보안 어설션의 AI 지원 자동 번역
RISC-V 프로세서의 보안 어설션을 자동 번역하는 AutoTrans 프레임워크를 제안한다. 정규 표현식 기반 시스템 베리로그 신호 추출기와 템플릿 기반 프롬프트를 통해 신호 환각을 방지하고, JasperGold FPV를 통합하여 생성된 어설션의 정확성을 보장한다. 78% 자동 번역 수용률(TAR)을 달성했으며, 인간 개입 후 100% 최종 TAR를 달성했다.
RISC-V 프로세서 보안 검증 과정에서 보안 어설션의 자동 번역을 통해 시간과 비용을 절감할 수 있다.
RISC-V보안 어설션자동 번역AI 지원
ML-KEM-768의 의존성 인식 ROM/CBD 정확성 경계
ML-KEM-768 암호체계의 정확성 경계를 의존성 인식 ROM/CBD 추상화를 통해 분석하였다. 분석 결과 Pr[K' != K] <= 2^-164.81로 나타났다.
이 연구는 ML-KEM-768 암호체계의 정확성 경계를 수학적으로 증명하여 암호체계의 신뢰도를 높이는 데 기여한다.
암호체계ML-KEM-768정확성 경계ROM/CBD 추상화
CrossLink: 프로토콜 간 장치 식별자를 연결하여 위치 프라이버시를 무력화하는 공격
스마트폰은 LTE, WiFi, BLE 프로토콜을 통해 일시적 식별자를 전송한다. 기존 프라이버시 방어는 프로토콜별로 식별자 무작위화를 분석하지만, CrossLink는 프로토콜 간 식별자 연결을 통해 위치 프라이버시를 무력화한다. 대규모 이동 시뮬레이션에서 CrossLink는 83% 사용자의 전체 추적을 재구성했으며, 단일 프로토콜 기준 대비 3.8배 높은 성능을 보였다.
이 연구는 LTE, WiFi, BLE 프로토콜 간의 식별자 연결을 통해 위치 프라이버시를 무력화할 수 있음을 보여주어, 프로토콜별 분리된 프라이버시 방어 전략의 한계를 드러내고 종합적인 접근이 필요함을 시사한다.
프라이버시CrossLinkLTEWiFi
DAG 기반 분산 원장 시스템의 분산 네트워크 혼잡 제어
DAG 기반 분산 원장 기술(DLT) 네트워크에서 분산 네트워크 혼잡 제어를 위해 노드별 가변 및 행동 기반의 프루프-오브-워크(PoW) 모델을 제안한다. 이 모델은 트랜잭션 스팸ming을 방지하고, 노드가 규정된 트랜잭션 수를 초과하는 경우 벌금을 부과하여 네트워크 지배를 방지한다.
이 연구는 DAG 기반 DLT 네트워크에서 트랜잭션 스팸ming을 효과적으로 제어할 수 있는 새로운 PoW 모델을 제시하여, 분산 네트워크의 안정성과 공정성을 향상시킬 수 있다.
분산 원장 기술DAG네트워크 혼잡 제어PoW
차분 프라이버시(DP) 합성 텍스트의 소속 추론 공격 감사
차분 프라이버시(DP)를 적용한 합성 텍스트 데이터가 특정 소속 정보를 유출하는지 검증하기 위해 소속 추론 공격(MIA) 감사를 수행했다. 32개 프록시와 4개 데이터셋, 3개 생성기, 5개 프라이버시 예산을 대상으로 실험한 결과, DP는 평균 유출을 줄이지만, 일부 레코드에서 유출이 집중되는 경향이 있었다.
차분 프라이버시를 적용한 합성 데이터라도 특정 레코드에서 소속 정보 유출이 집중될 수 있으므로, 보호 수준을 평가할 때 전체적인 평균이 아닌 개별 레코드의 유출 경향을 고려해야 한다.
차분 프라이버시합성 데이터소속 추론 공격MIA 감사
자동차 SDN을 통한 경량 제로 트러스트
기존 자동차 네트워크는 설정 후 접근 제어가 어려운 문제를 해결하기 위해 제로 트러스트 아키텍처(ZTA)를 적용하려는 시도가 있었으나, 추가 인프라가 필요했다. 연구팀은 기존 SDN 관리 평면을 활용해 ZTA 원칙을 충족하는 두 가지 메커니즘을 제안한다.
이 연구는 자동차 네트워크 보안 강화를 위해 기존 인프라를 최대한 활용하는 방식을 제시하여, 제로 트러스트 아키텍처의 실용성을 높이는 데 기여할 수 있다.
제로 트러스트 아키텍처(ZTA)자동차 SDN네트워크 보안
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.