LLM이 악성코드를 생성하는 것을 방지하는 보호 장치(guardrail)의 효과성을 체계적으로 평가하기 위해 CS-Guard 벤치마크를 제안한다. 텍스트-코드 생성에서 평균 공격 성공률(ASR)은 제약 해제 공격 후 약 50%, 코드-코드 생성에서는 기반 LLM에서 100%에 달한다.
코드 생성 시 보호 장치의 효과가 낮아, 실무에서는 보호 장치를 보완하거나 추가적인 검증 절차를 도입해야 한다.
연구팀은 기존의 directional ablation 공격이 대규모 혼합 전문가(MoE) 모델에서 여전히 효과적임을 보였다. 320B 파라미터 GLM-5.3-Flash 모델에서 74%의 효과가 조인트 인터벤션에만 존재하는 것으로 나타났다.
이 연구는 대규모 MoE 모델의 안전 정렬이 기존 공격에 취약함을 보여주어, 모델 보안 설계 시 새로운 고려가 필요하다.
CCPA 규정 준수 웹사이트의 개인정보 공개 및 쿠키 기반 추적 행위를 체계적으로 감사할 수 있는 자동화 프레임워크 PrivAudit을 제안한다. 998개 웹사이트 분석 결과 CCPA 대상 웹사이트는 거부 옵션, 데이터 공유, 사용자 권리 공개가 더 많았으며, 전체 6,392개 타겟팅 쿠키 중 49%가 제3자 쿠키였다.
웹사이트의 CCPA 규정 준수 여부를 자동 감사하는 프레임워크를 제공하여 규제 당국의 대규모 감사 업무를 지원할 수 있다.
기존 서비스를 신뢰할 수 있는 실행 환경으로 마이그레이션하는 기밀 가상 머신에서 네트워크 연결 증명을 위해 애플리케이션, TLS 구현 또는 인증서 변경이 필요하지 않은 방안을 제안한다. Linux와 Windows에서 구현하고 Hygon CSV를 대상으로 평가하여, 짧은 업로드 평균 지연 시간을 TNG 대비 63.1%/23.0% 감소시킨다.
기존 기밀 서비스의 데이터 경로에 영구 프록시를 추가하지 않고도 세션 증명을 강화할 수 있다.
Byzantine 합의(BA) 프로토콜의 다중 인스턴스 실행 시 보안 분석을 위해 새로운 적대자 모델을 제안하고, 통신 채널 공격을 고려한 보안 임계값을 수립했다. n ≤ 3t 또는 n ≤ 2c + 2t + 1일 때 인증된 BA 프로토콜이 병렬 실행에서 보안을 유지할 수 없음을 보였다.
분산 시스템 설계 시 통신 채널 공격을 고려한 Byzantine 합의 프로토콜의 보안 임계값을 확인해야 한다.
모바일 스플래시 광고에서 광고 SDK가 사용자 또는 장치의 애매한 신호를 광고 상호작용으로 재해석하는 새로운 형태의 광고 사기인 semi-drive-by splash ads를 발견하고, AdHive라는 자동화된 분석 프레임워크를 통해 이 사기의 보편성을 실증했다. 4천만 위안(약 60만 달러)의 환불을 유발한 실제 사례를 확인했다.
모바일 앱 스플래시 광고의 상호작용 신호를 검증하는 프로세스를 강화하고, AdHive와 유사한 분석 도구를 도입해 광고 네트워크의 부정 행위를 탐지해야 한다.
대규모 언어 모델에서 탈옥 공격을 위해 암호화된 문장을 학습시켜 악의적인 응답을 유도하는 임의 암호 공격을 제시하고, Anthropic, Google, OpenAI의 최첨단 모델에서 성공적으로 작동함을 보였다. 암호화된 악의적 콘텐츠는 기존 해로운 콘텐츠 분류기를 우회할 수 있다.
대규모 언어 모델의 탈옥 공격 방식으로 암호화된 문장을 활용하는 새로운 공격 벡터가 등장하여, 기존 해로운 콘텐츠 필터링 방식의 한계를 드러낸다.
추천 시스템에 대한 기존 시링 공격의 한계를 극복하기 위해 Coordinato가 여러 에이전트를 조정하는 Agentic Group Attack System (AGAS)을 제안한다. AGAS는 다양한 공격 대상에 걸쳐 표적 아이템을 적응적으로 홍보하면서 양성 추천 품질을 유지하고, 기존 탐지기를 약화시키며, 이전 공격보다 더 높은 효율성을 달성한다.
추천 시스템 보안 강화를 위해 적응적 시링 공격에 대응하는 메커니즘을 고려해야 한다.
딥페이크 오디오를 탐지하기 위해 시간적 일관성 분석 프레임워크를 제안한다. CLAP 임베딩을 기반으로 오디오 구간 간 코사인 유사도를 계산하고, 분포에서 통계적 특성을 추출하여 경량 앙상블 분류기를 학습시켰으며, 21개의 통계적 특성이 학습과 실제 배포에서 구분 방향이 뒤바뀌는 현상을 발견했다.
이 연구는 딥페이크 오디오 탐지에 있어 시간적 일관성 분석을 통해 경량화된 방법으로도 높은 성능을 달성할 수 있음을 보여준다.
이 연구는 네트워크 트래픽에서 개념 드리프트를 완화하기 위해 커뮤니티 및 스펙트럼 그래프 분석을 활용한 새로운 기능 선택 방법을 제안한다. t-robustness라는 새로운 안정성 점수를 도입하여, 기능 공간의 안정성을 평가하고, UGR16 데이터셋을 사용한 평가에서 기존 기능 대비 더 높은 탐지 성능(0.6025)을 보였다.
이 연구는 네트워크 보안 시스템에서 개념 드리프트에 대응하는 새로운 기능 선택 전략을 제시하여, 기존 탐지 방법보다 더 안정적인 성능을 제공할 수 있다.
완전 동형 암호화(FHE)의 성능 병목 현상인 키 전환(key-switching)을 개선하기 위해 FPGA 기반의 적응형 가속기를 설계하고 성능 모델을 통해 비교 분석했다. 실험 결과, 기존 FPGA 가속기 대비 부트스트랩 지연 시간이 1.84-3.31배, 보안 이미지 분류 지연 시간이 1.66-2.52배 개선되었다.
이 연구는 FPGA 기반 FHE 가속기의 성능을 향상시키는 새로운 설계 방법을 제시하여, 클라우드 환경에서의 실시간 암호화 처리 효율성을 높이는 데 기여할 수 있다.
풀더플렉스 음성 모델에서 사용자의 음성 입력을 수신하면서 응답을 생성하는 과정에서 발생하는 공격 표면을 분석하고, 새로운 공격 기법 DuplexJail을 제안한다. 4개 오픈소스 모델과 720개 해악 요청을 대상으로 실험한 결과, 고정 지연 인터럽션이 PersonaPlex와 PersonaPlex-RL에서 각각 40.3%와 48.7%의 공격 성공률을 보였다.
풀더플렉스 음성 모델의 안전 정렬이 말한 중간 인터럽션에 의해 붕괴될 수 있으므로, 지속적인 상호작용 중 안전성을 평가해야 한다.
연구팀은 agentic AI 프레임워크에 대한 멀티모달 프롬프트 인젝션 공격을 평가하기 위한 MMPIBench 벤치마크를 제안하고, 720회 실험을 통해 공격 성공률이 약 1%이지만 시도율은 12.8%에 달하는 것을 보였다. 공격 시도는 대부분 계획 단계에서 차단되며, 모델 종류에 따라 공격 시도율 차이가 큰 것으로 나타났다.
agentic AI 프레임워크는 멀티모달 입력을 통해 프롬프트 인젝션 공격에 노출될 수 있으므로, 특히 모델 수준의 방어 강화가 필요하다.
X-amine509는 기계 학습을 사용하여 기업의 X.509 인증서를 위험 수준에 따라 순위를 매기고, 가장 높은 위험 수준의 인증서만 결정론적 분석으로 전달하는 두 단계의 분류 시스템이다. 테스트 결과, Extra Trees 모델은 $R^2$ 0.993, MAE 2.26를 달성했으며, Decision Tree 모델은 370만 인증서/초의 처리 속도를 보였다.
이 시스템은 대규모 X.509 인증서 관리를 효율적으로 할 수 있어, 기업의 보안 운영을 개선할 수 있다.
자율주행차(AV)의 안전성에 영향을 주는 소프트웨어 취약점을 효과적으로 탐지하기 위해 LLM을 활용한 분석 프레임워크 LLMSec-AV를 제안한다. 18개의 취약점 분류체계를 구축하고, 이를 통해 기존 정적 분석 도구보다 높은 탐지 성능을 보인다.
LLMSec-AV는 자율주행차 소프트웨어의 취약점을 탐지하는 데 LLM을 효과적으로 활용할 수 있음을 보여주어, 실무에서 기존 분석 도구와 병행하여 사용할 수 있다.
전체 동형 암호화(FHE)는 비용이 많이 들기 때문에, 중요한 부분만 암호화하는 선택적 동형 추론을 연구한다. 작은 암호화된 영역에 대해서는 지역성을 보존하는 아키텍처가 동형 평가 속도를 10배 가량 빠르게 할 수 있다.
지역성을 보존하는 신경망 아키텍처를 사용하면 선택적 동형 추론을 통해 효율적으로 민감한 데이터를 보호할 수 있다.
TCP 및 DNS 클라이언트-서버 연결에 대한 오프-패스 네트워크 공격이 현재는 불가능하다고 여겨지지만, 이 연구는 악성 앱과 원격 공격자의 협력으로 이러한 공격이 가능함을 보인다. Linux, Android, Windows, macOS, iOS에서 TCP 연결 탈취와 Windows, Android, systemd-resolved에서 DNS 캐시 오염을 실증했다.
실무에서는 사용자 앱의 권한 관리와 네트워크 프로토콜 보안 강화가 필요하다.
RAG 시스템의 견고성을 문서 오염 공격에 대해 측정하여, 일부 검색된 문서가 오염되었을 때 정확도가 77.9%에서 43.5%로 감소함을 보였다. Entity swap 공격이 가장 많은 정답을 뒤바꾸는 것으로 나타났다.
RAG 시스템은 문서 오염 공격에 취약할 수 있으므로, 검색된 문서의 신뢰성을 철저히 검증해야 한다.
자원 제약 하에서 보안 보장 작업의 반복 시도와 커버리지, 증거 검증, 대응 모델을 분리한 이론적 프레임워크를 제안한다. 반복 시도의 커버리지 계산식과 유한 예산 관찰의 한계를 분석한다.
자원 제약 환경에서 보안 보장 전략을 설계할 때 이론적 기반을 제공한다.
이 연구는 컴퓨터 사용 에이전트(CUAs)에 대한 이미지 트리거로 인한 명령 주입 공격을 종단간 평가하는 프레임워크를 제시한다. 실험에서 84.5%의 T-ASR, 47.0%의 TAPR, 20.3%의 E2E-ASR를 달성했으며, 일부 성공 사례에서 에이전트가 악성 터미널 명령을 실행한 후 원래의 선량한 작업을 계속하는 경로를 보였다.
이 연구는 컴퓨터 사용 에이전트의 시각적 입력 취약점을 보여주어, 실무에서는 이러한 공격 방식에 대한 보호 조치를 강화해야 한다.
게이머를 표적으로 한 대규모 사이버 범죄 캠페인을 분석하고, 악성코드 배포 인프라를 조사했다. 10,000개 이상의 로더 샘플을 확인했다.
게이머와 기업 둘 다 피해를 입을 수 있는 악성코드 배포 방식을 주의해야 한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.