연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
본 연구는 TEE 기반 LLM의 단방향 가중치 난독화가 가지는 '해결 결정성 속성(SDP)' 취약점을 발견하고, 이를 통해 기존 보호 기법들을 무력화시킬 수 있음을 보였다. 이에 대응하여 입력과 출력 차원을 공동으로 난독화하는 양방향 프레임워크인 BiShield-TEE를 제안했으며, 이는 공격 정확도를 블랙박스 기준선 수준으로 제한함을 실험을 통해 입증했다.
시사점 TEE 환경에서 LLM을 보호하려면 단방향 난독화 대신 입력과 출력을 함께 고려하는 양방향 방어 메커니즘을 적용해야 한다.
본 연구는 대규모 검증자 커뮤니티를 가진 블록체인에서 사용되는 가십 프로토콜의 견고성을 분석하고, 다양한 네트워크 토폴로지(Erdős-Rényi, 격자, GossipSub 등)를 평가하였다. 그 결과, 각 프로토콜은 고유한 트레이드오프를 가지며, 예를 들어 Solana의 동적 트리는 적응형 공격에 취약한 반면, ER 그래프는 특정 조건에서 강력한 견고성을 제공함을 발견하였다.
시사점 블록체인 프로토콜의 네트워크 구조 선택은 공격에 대한 견고성과 대역폭 효율성 사이의 중요한 트레이드오프를 가지므로 신중한 설계가 필요하다.
본 연구는 대규모 HNSW 기반 RAG 시스템에 대해 Hub-Satellite 구조를 이용한 위상 인식 토픽 수준 오염 공격을 제안하였다. 200만 문서 위키피디아 데이터셋에서 본 공격은 검색 성공률 72% 이상을 유지하며 공격 성공률 31.29%에 도달하였다.
시사점 HNSW 기반 RAG 시스템은 그래프 구조적 취약점을 가지며, 기존 오염 방어 기법으로는 이러한 공격을 완화하기 어렵다.
연구진은 LLM 기반 에이전트의 코드 및 프롬프트에 존재하는 출처 정보가 유출되는 현상을 '은닉적 재작성 공격(covert rewriting attack)'으로 정의하고, 이를 탐지할 수 있는 마킹 기법을 개발했다. 이 마킹 기법은 홀드아웃 게임에서 76개 중 62개 복사본에서 해당 출처를 탐지했으며, 공격자는 이를 무력화할 수 있음을 확인했다.
시사점 LLM 에이전트의 산출물에 대한 출처 추적을 위해서는 공격자의 의도적인 재작성 시도에 견딜 수 있는 견고한 마킹 기법이 필요하다.
본 연구는 S3 호환 객체 스토리지에서 다수의 클라이언트가 동시에 접근할 때 ML-KEM을 적용했을 때의 성능을 측정하였다. ML-KEM은 클라이언트 프로세서가 거의 최대 부하에 도달했을 때만 처리량 감소를 일으켰으며, 이 경우 4.0%에서 4.9%의 감소가 관찰되었다.
시사점 양자내성 암호화를 객체 스토리지에 적용할 때의 지속적인 비용은 저장 공간이며, 이는 기존 키 교환 대비 객체당 1,056바이트의 추가 저장 공간을 필요로 한다.
본 연구는 재사용 가능한 영향 증거를 현재 실행 권한 및 영구적 발생 기록으로부터 분리하는 Matoi 프레임워크를 제시하였다. 1,440셀 매치드-와이어 연구에서 입력 바이트가 동일할 때, 재사용은 JS에서 전체 수명 주기 비용을 3.49%, Python에서 1.79% 감소시켰다.
시사점 이 연구는 경계가 정해진 감사 가능한 재사용 및 실행 계약의 가능성을 뒷받침한다.
연구진은 실제 Rust 애플리케이션의 취약점을 대상으로 주류 Rust SAST 도구들의 효과를 경험적으로 평가하고 그 약점을 분석했다. 이어서 제안된 LLM 기반의 TRUST 프레임워크는 6개 SAST 도구에서 총 46개의 결함을 발견했으며, 그중 17개가 확인되었다.
시사점 Rust SAST 도구의 효과를 검증하고 개선 방향을 제시하는 것이 중요하다.
연구진은 LLM을 활용하여 다양한 프로그래밍 언어의 코드를 변환하고, 동적 피드백을 통해 SAST 도구의 결함을 탐지하는 LLM4SAST 프레임워크를 개발하였다. 이 프레임워크는 6개 SAST 도구에서 66개의 고유 결함을 식별했으며, 기존 접근법 대비 3.4배 더 많은 결함을 탐지하면서도 필요한 변형은 39.8%에 불과했다.
시사점 LLM을 활용하여 SAST 도구의 결함을 체계적으로 탐지하고 검증하는 새로운 접근 방식이 가능하다.
본 연구는 물리적 포획 상황에서 작동하는 스트리밍 이미지 분류기의 모델 추출 공격에 대한 공격 표면을 분석하였다. 공격자는 적응형 공격을 통해 CIFAR-100에서 5초 만에 86.8%의 성공률을 보였으며, 사전 학습된 백본을 사용할 경우 5초 만에 97.3%의 정확도로 추출이 가능했다.
시사점 물리적 환경에서 모델을 운영할 경우, 공격자가 모델의 잔류물에 접근할 때 공격 성공률이 높아지므로 이에 대한 방어 전략을 고려해야 한다.
본 연구는 특징 기반 악성코드 분류기에 대한 클린-레이블 백도어 공격 시 트리거 값 선택 전략을 독립적인 설계 요소로 연구하였다. 공격 성공률은 높았으나, 특정 공격 벡터는 격리 포레스트(Isolation Forest)와 같은 정제(sanitization) 방법으로 탐지될 수 있음을 확인하였다.
시사점 트리거 값 선택은 공격의 효과뿐만 아니라 탐지 가능성 프로파일을 결정하는 중요한 설계 선택 사항이다.
본 연구는 RAG(Retrieval-Augmented Generation) 시스템에서 발생하는 프라이버시 위험에 대해 기존 DP-RAG 방법론들을 분류하고 분석했습니다. 연구는 단일 질의에서 다중 질의로 확장될 때 프라이버시 보장을 해석하는 데 필요한 세 가지 차원(프라이버시 세분성, 계산 범위, 공개 경계)을 제시합니다.
시사점 DP-RAG의 $\varepsilon$ 값은 보호 대상 단위, 계산 범위, 공개 경계라는 세 가지 요소와 함께 해석되어야 한다.
연구진은 지식 증류(Knowledge Distillation) 후에도 공격 효과를 유지하는 지원 지속형 백도어 공격 기법인 DAR을 제안하였다. 이 기법은 클린 데이터 증류 후에도 공격 성공률을 96% 이상 유지하며 방어에 강한 특성을 보였다.
시사점 모델 재사용 환경에서 지식 증류를 통한 백도어 제거는 불가능하며, 새로운 공격 기법에 대한 방어적 관점이 필요하다.
본 연구는 클라이언트 측에서 학습 가능한 손실 압축기(lossy compressor)를 사용하여 압축적이고 해석 가능한 표현을 생성함으로써 프라이버시 침해 위험을 줄이는 FedSumUp을 제안했다. 실험 결과, ChestMNIST에서 클라이언트 실행 시간을 최대 96.5% 감소시키면서도 경쟁적인 분류 정확도를 달성했다.
시사점 자원 제약적인 환경에서 연합 학습을 적용할 때, 프라이버시와 유틸리티 간의 균형을 맞추기 위해 압축 및 표현 공유 기법을 고려해야 한다.
본 연구는 맥락 의존적이고 상호 중첩되는 보안 인터뷰 데이터의 진정한 자기 공개를 분석하기 위해 CARE-SD라는 새로운 4모듈 아키텍처를 개발하였다. 이 아키텍처를 Llama 3B 등 세 가지 로컬 SLM에 적용한 결과, Llama 3B의 Macro-F1 점수가 0.80에서 0.88로 향상되었고, 근거 없는 주장은 60% 감소하였다.
시사점 CARE-SD 아키텍처는 대규모 모델 없이도 소형 모델의 분석 능력을 향상시켜, 제한된 환경에서 민감한 대화 내용을 신뢰성 있게 분석하는 데 도움을 준다.
본 연구는 에이전트 소프트웨어의 논리적 작업과 운영체제 수준의 기계적 활동을 연결하여 실행 그래프를 구축하는 ExecWeave라는 로컬 우선 시스템을 제시한다. 이 시스템은 각 활동에 귀속, 추론, 인과 상태 메타데이터를 기록하며, 관측된 프로세스를 통해 파일 및 네트워크 효과에 의미론적 주체를 부여한다.
시사점 에이전트 소프트웨어의 복잡한 실행 흐름을 추적하고 각 활동의 출처를 재구성하는 데 ExecWeave와 같은 시스템이 활용될 수 있다.
연구진은 평가 출력값은 유지하면서도 배포 환경을 변조한 공격을 측정하는 DIB-Bench를 개발하고, 이를 통해 평가자 능력에 따른 변조 수용률이 규칙 기반에서 GPT-5-nano까지 88.6%에서 94.1%까지 상승함을 확인했다. 또한, 출력 변화가 없는 변조는 모든 샘플 크기에서 탐지 불가능하지만, 매니페스트 해시 채널은 제로 샘플로 탐지 가능함을 보였다.
시사점 LLM 평가 시 출력값 외에 배포 환경의 무결성을 검증하는 것이 중요하다.
본 연구는 CKKS 배포에서 공개 계수 대 슬롯(C2S) 평가 키와 클라이언트의 1비트 유효성 응답을 결합하여 공격자가 비밀 키를 복구할 수 있음을 보였다. 이 공격은 근본적인 암호학적 가정은 깨뜨리지 않으면서도, 관찰 가능한 유효성 반응이 실질적인 키 복구 채널을 형성함을 입증했다.
시사점 CKKS 배포 시 클라이언트의 유효성 반응을 통해 비밀 키가 노출될 수 있으므로, 이에 대한 방어 메커니즘을 고려해야 한다.
본 연구는 에이전트의 승인 경로에 대한 12가지 공격을 정의하고, Agent Payments Protocol(AP2) 등 실제 프로토콜에 적용하여 취약점을 분석했다. 또한, ASU(Agent Step-Up)라는 방어 기법을 제안하고 27,108회의 시뮬레이션에서 공격 성공률을 0.54에서 0.03으로 낮추는 것을 입증했다.
시사점 에이전트의 중요한 행위에 대한 승인 과정은 공격에 취약할 수 있으므로, 신뢰할 수 있는 바인딩 메커니즘을 통해 승인 단계를 강화해야 한다.
본 연구는 모델 프라이버시, 데이터 프라이버시, 무결성 세 가지 보장을 동시에 제공하는 MPC 기반의 확장 가능한 연합 학습 시스템 NOMAI를 제안했다. NOMAI는 최대 10^6명 이상의 사용자에게 적용 가능하며, 각 반복 학습에 소요되는 사용자당 연산 시간을 각각 <350ms (준정직) 및 <700ms (악의적)로 줄였다.
시사점 대규모 사용자 환경에서 프라이버시와 무결성을 유지하며 연합 학습을 구현할 수 있는 새로운 MPC 기반 접근법이 가능하다.
본 연구는 자율주행차(AV)의 열적 적외선(IR) 센서 스푸핑과 운영체제(OS) 수준의 열적 원격 측정 누출 공격에 관한 기존 연구 13개를 체계화하였다. 이 연구는 공격의 권한, 시간 규모, 공동 사용 환경 등을 비교하며 잔여 위험을 식별하고 향후 연구 방향을 제시한다.
시사점 자율주행차의 열적 무결성 확보를 위해서는 센서, OS, 실리콘 및 자동차 표준 전반에 걸친 공동 설계가 필요하다.
본 연구는 소프트웨어 아티팩트 내에 복구 가능한 식별자를 삽입하는 블라인드 워터마킹 시스템인 PlaceMark를 제안하고, 모듈의 배치에 페이로드를 인코딩한다. 10개 파이썬 저장소에서 249비트에서 2,166비트의 공칭 용량을 얻었으며, 평가된 텍스트 변환 216회에서 페이로드를 정확히 복구했다.
시사점 모듈 배치는 소스 코드 텍스트에 삽입된 워터마크를 보완할 수 있는 캐리어로서 기능한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.