이 연구는 블랙박스 작업 상호작용을 통해 숨겨진 에이전트 스킬을 유출하는 새로운 공격 기법인 Daydreaming을 제안한다. Daydreaming은 7개 스킬과 4개 피해 모델에서 원래 스킬의 86.8% 기능을 복구하는 데 성공했으며, SigLeak보다 약 4배 우수한 성능을 보였다.
이 연구는 기존 방어만으로는 에이전트 스킬의 기능적 복구를 막을 수 없음을 보여주어, 보다 강력한 보호 전략이 필요하다는 시사점을 제공한다.
Kubernetes에서 정적 분석과 LLM을 활용해 컨테이너 권한을 최소화하는 KubeCap 프레임워크를 제안한다. 평균 54.97%의 권한 감소율을 보인다.
KubeCap을 활용해 Kubernetes 컨테이너의 권한을 최소화하여 공격 표면을 줄일 수 있다.
TEE 환경에서 대규모 언어 모델의 공격 기법인 SpectralLeak과 LatticeLeak을 제안하고, 이를 극복하기 위한 ButterflyCloak 방어 기법을 설계한다. 12개의 작업 설정에서 87.98% 평균 정확도를 달성했다.
TEE 환경에서 대규모 언어 모델의 보안을 강화하기 위해 새로운 방어 기법을 설계해야 한다.
LLM이 RTL 코드를 생성할 때 명시되지 않은 보안 의무를 어떻게 처리하는지 분석하고, 이를 해결하기 위한 신규 프레임워크 RTL-Obliger를 제안한다. RTL-Obliger는 기능적 의미 그래프를 추출하고 CWE 패턴과 비교해 보안 의무를 보완해 61.6%의 전체 통과율을 달성한다.
LLM으로 RTL 코드를 생성할 때 명시되지 않은 보안 의무를 체계적으로 확인해야 하며, RTL-Obliger와 같은 도구를 활용할 수 있다.
의료 사물인터넷(IoMT)에서 ECG와 PPG 신호에 무결성 공격을 주입한 반가상 벤치마크 IoMT-SecAlarmBench를 제시한다. 4가지 공격 형태, 4단계 심각도, 2가지 생리적 타당성 조건, 재생 공격을 결합한 실험 설계를 통해 각 주입된 윈도우에 공격 원인과 정상 신호를 포함시켜 평가했다. 6가지 탐지기 평가 결과, 재생 공격과 낮은 진폭의 일시적 스파이크는 탐지 성능이 낮아 평균 수준에 가까웠으며, 공격 탐지와 센서 고장 구분 사이에 트레이드오프가 발생하는 것을 보였다.
의료 사물인터넷(IoMT) 보안 실무에서는 공격 탐지와 센서 고장 구분의 균형을 고려한 감지 기법을 개발해야 한다.
SILK는 RoT 인증 후 발생하는 TOCTOU 취약점을 해결하기 위해 가중치 스트림을 최종 계산 경계에서 인증하는 방식을 제안한다. INT8 기준 CNN에서 최대 0.76 pp, LLM에서 0.17 perplexity의 품질 손실을 보인다.
SILK는 RoT 보호 AI 시스템에서 발생하는 TOCTOU 취약점을 실시간 인증으로 보완할 수 있다.
XRP 레저 네트워크의 공격에 취약한 연결 구조를 분석하고, 새로운 엣지 증강 전략을 제안한다. 증강 전략은 기본 네트워크 구조보다 강건성을 3개 엣지 추가로 개선한다.
XRP 레저 운영자는 네트워크 연결성을 강화하기 위해 엣지 증강 전략을 검토할 필요가 있다.
신뢰할 수 있는 실행 환경(TEE)은 외부 간섭으로부터 민감한 코드와 데이터를 보호하지만 메모리 안전성이 부족하다. PRISM은 CHERI 기반의 TEE 아키텍처로, 프리즘 능력을 활용하여 사용자 공간 enclave를 생성하고 기존 문제를 해결하며 15% 이하의 오버헤드를 보인다.
PRISM은 CHERI 기반의 TEE 구현에서 메모리 안전성과 성능을 동시에 개선할 수 있는 새로운 접근법을 제시한다.
FRESCO는 CHERI 애플리케이션 프로세서의 스택 use-after-return 문제를 해결하기 위해 하드웨어/소프트웨어 협업 설계를 제안한다. FRESCO는 스택 포인터에 인식 식별자를 할당하여 함수 종료 시 자동 무효화함으로써 시간적 안전성을 보장한다.
이 연구는 CHERI 기반 시스템에서 시간적 메모리 안전성을 향상시키는 새로운 접근법을 제시하여, 실무에서 메모리 보호 기술의 설계에 영향을 줄 수 있다.
CTF 벤치마크에서 LLM 에이전트의 플래그 획득 경로를 분석하여 실제 공격과 단순 추측 등을 구분하는 CTF-ABACUS라는 추적 기반 감사 프레임워크를 제안한다. 1,435개의 CTF 시도를 분석한 결과, 추적 검증된 공격이 플래그 회수의 62-87%를 차지하는 것으로 나타났다.
이 결과는 CTF 평가에서 단순히 플래그 회수 수를 세는 방식에서 벗어나, 실제 공격을 검증하는 방식으로 전환할 필요가 있음을 시사한다.
컴퓨터 사용 에이전트(CUA)의 시각 인터페이스와의 안전한 상호작용 능력을 평가하는 ADeptS-Bench 벤치마크를 제안한다. 7개 모델을 평가한 결과, 80% 이상의 작업 성공률과 30% 이하의 공격 성공률을 동시에 달성하는 모델은 없으며, '체크아웃' 버튼 클릭이나 '공장 초기화' 버튼 오인정도를 보인다.
CUA의 안전성과 모호한 지시 처리 능력을 평가하는 ADeptS-Bench를 통해, 실무에서는 에이전트의 신뢰성 검증이 중요하다.
2026년 2분기 산업 자동화 시스템에서 악성 객체가 차단된 컴퓨터 비율을 지역과 산업별로 분석했다. 생체 인식 분야가 악성 스크립트, 피싱 페이지, 악성 문서 등 다양한 위협에서 1위를 기록했으며, 동아시아 지역이 인터넷 위협 증가율이 가장 높았다.
산업 자동화 시스템 보안 관리자는 생체 인식 분야와 동아시아 지역의 보안 위협 증가를 주의 깊게 모니터링해야 한다.
AI는 보안 위협을 변화시키고 있으며, 특히 OSINT(개방 출처 정보 수집)를 통해 개인 및 기업을 대상으로 한 사기 행위를 용이하게 만드는 방법을 분석한다. AI 도구는 공개된 정보를 대규모로 수집하고, 이를 기반으로 사회 공학 스크립트를 설계하여 사기 행위를 확장할 수 있다.
AI 지원 OSINT를 통해 개인 정보가 대규모로 수집되어 사기 행위가 쉬워지고 있으므로, 개인 및 기업은 소셜 미디어 정보 공개를 제한하고 다중 인증을 사용하는 등 보호 조치를 강화해야 한다.
Rowhammer 공격을 방어하기 위해 메모리 컨트롤러에서 새로운 방안 FiRM을 제안한다. FiRM은 기존 방안인 Sigries의 취약점을 분석하고, 보안과 성능을 동시에 개선한다.
FiRM은 Rowhammer 방어에서 보안과 성능의 균형을 맞추는 새로운 접근법으로, 실무에서 메모리 보안 설계에 참고할 수 있다.
AI를 활용한 RTL 코드 생성 모델에서 발생할 수 있는 백도어 위협을 완화시키기 위해 RTLGuard라는 경량형 교사-학생 방어 기법을 제안한다. 실험 결과, RTLGuard는 공격 성공률(ASR)을 크게 줄이면서 생성된 RTL 코드의 기능적 정확성과 합성 가능성(스inté시즈 가능성)을 유지한다.
RTLGuard는 AI 기반 RTL 코드 생성 과정에서 발생할 수 있는 백도어 위협을 경량한 방식으로 완화할 수 있어, 반도체 설계 공급망 보안에 기여할 수 있다.
LLM 탈옥 공격을 방어하기 위해 공격 전략을 추상화하여 메서드 수준 규칙으로 저장하고 재사용하는 자체 진화하는 방어 프레임워크를 제안한다. 4가지 블랙박스 탈옥 공격 패밀리와 여러 모델에서 공격 성공률을 크게 줄이며, 정상적인 기능을 유지하고 메모리가 확장되더라도 과도한 거부를 증가시키지 않는다.
LLM 탈옥 공격에 대응하는 실시간 적응 방어 기법을 제공하여, 지속적인 공격 진화에 효과적으로 대응할 수 있다.
WeChat 미니 프로그램의 인터페이스 디자인 및 운영 안전성 문제를 해결하기 위해 YOLOv8와 mitmproxy를 활용한 검출 프로그램을 개발했다. 이 프로그램은 버튼의 위치와 크기를 확인하고 리디렉션 링크의 안전성을 분석한다.
이 연구는 미니 프로그램 사용자들이 실수로 결제하거나 악성 페이지로 리디렉션되는 문제를 감지하고 예방할 수 있는 실용적인 도구를 제공한다.
LLM 코딩 에이전트의 보안 취약점을 해결하기 위해 시스템 프롬프트에 보안 기술을 통합하는 SkillShield를 제안한다. RedCode에서 6개의 대형 언어 모델을 대상으로 실험한 결과, 악성코드 생성의 심각도를 3.37에서 0.58로 줄이고 실행 공격 성공률을 43.6%로 나타냈다.
SkillShield는 LLM 코딩 에이전트의 악성 요청을 방지하는 보안 기술로, 실무에서 즉시 적용 가능한 방어 기법으로 활용될 수 있다.
Dockerfile의 보안 설정 오류와 구조적 기술 부채를 분석하기 위해 6단계 자동 파이프라인을 제안하고, 11,470개 Dockerfile을 대상으로 실증 연구를 수행하였다. 99%의 파일에 보안 설정 오류가 있고, 80.8%가 Dockerfile 최고 기준을 위반하며, 83%의 기능 클러스터 내에 고질량 참조 구현이 이미 존재하는 것을 확인하였다.
이 결과는 기업 내부 소스에서 Dockerfile의 보안 문제를 자동으로 분석하고 개선할 수 있는 기반을 제공한다.
자가진화하는 LLM 코딩 에이전트가 공유된 스킬 라이브러리에서 악성 스킬을 템플릿으로 사용하여 새로운 악성 스킬을 생성하는 self-poisoning 취약점을 발견하고, 이를 악용하는 EvoMal 공격을 제시한다. 153개의 SWE-bench Verified 작업에서 ASPR(에이전트 자기중독률)은 20.3%에서 41.8%까지이며, 심지어 심도 있는 심도-V4-프로 모델은 11.1%의 ASPR을 보인다.
자가진화 코딩 에이전트의 스킬 라이브러리 관리 시 악성 스킬이 자가복제되는 self-poisoning 공격 가능성에 주의해야 한다.
이 논문은 얼굴 스와핑을 통해 익명화된 이미지에서 대상자의 신원 유출이 발생하는 메커니즘을 해석 가능한 선형 확률 모델로 설명하고, 이를 통해 프라이버시 평가를 이론적 근거에 기반한 분석으로 전환시킨다. 실험적으로 유출이 발생함을 확인하고, 이를 예측할 수 있는 모델을 제안한다.
이 연구는 얼굴 스와핑 익명화 기술의 프라이버시 보장 메커니즘을 해석 가능하게 설명함으로써, 실무에서 보다 신뢰성 있는 프라이버시 평가 기준을 제공할 수 있다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.