연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
2026년 2분기 산업 자동화 시스템에서 악성 객체가 차단된 컴퓨터 비율을 지역과 산업별로 분석했다. 생체 인식 분야가 악성 스크립트, 피싱 페이지, 악성 문서 등 다양한 위협에서 1위를 기록했으며, 동아시아 지역이 인터넷 위협 증가율이 가장 높았다.
시사점 산업 자동화 시스템 보안 관리자는 생체 인식 분야와 동아시아 지역의 보안 위협 증가를 주의 깊게 모니터링해야 한다.
AI는 보안 위협을 변화시키고 있으며, 특히 OSINT(개방 출처 정보 수집)를 통해 개인 및 기업을 대상으로 한 사기 행위를 용이하게 만드는 방법을 분석한다. AI 도구는 공개된 정보를 대규모로 수집하고, 이를 기반으로 사회 공학 스크립트를 설계하여 사기 행위를 확장할 수 있다.
시사점 AI 지원 OSINT를 통해 개인 정보가 대규모로 수집되어 사기 행위가 쉬워지고 있으므로, 개인 및 기업은 소셜 미디어 정보 공개를 제한하고 다중 인증을 사용하는 등 보호 조치를 강화해야 한다.
Rowhammer 공격을 방어하기 위해 메모리 컨트롤러에서 새로운 방안 FiRM을 제안한다. FiRM은 기존 방안인 Sigries의 취약점을 분석하고, 보안과 성능을 동시에 개선한다.
시사점 FiRM은 Rowhammer 방어에서 보안과 성능의 균형을 맞추는 새로운 접근법으로, 실무에서 메모리 보안 설계에 참고할 수 있다.
AI를 활용한 RTL 코드 생성 모델에서 발생할 수 있는 백도어 위협을 완화시키기 위해 RTLGuard라는 경량형 교사-학생 방어 기법을 제안한다. 실험 결과, RTLGuard는 공격 성공률(ASR)을 크게 줄이면서 생성된 RTL 코드의 기능적 정확성과 합성 가능성(스inté시즈 가능성)을 유지한다.
시사점 RTLGuard는 AI 기반 RTL 코드 생성 과정에서 발생할 수 있는 백도어 위협을 경량한 방식으로 완화할 수 있어, 반도체 설계 공급망 보안에 기여할 수 있다.
LLM 탈옥 공격을 방어하기 위해 공격 전략을 추상화하여 메서드 수준 규칙으로 저장하고 재사용하는 자체 진화하는 방어 프레임워크를 제안한다. 4가지 블랙박스 탈옥 공격 패밀리와 여러 모델에서 공격 성공률을 크게 줄이며, 정상적인 기능을 유지하고 메모리가 확장되더라도 과도한 거부를 증가시키지 않는다.
시사점 LLM 탈옥 공격에 대응하는 실시간 적응 방어 기법을 제공하여, 지속적인 공격 진화에 효과적으로 대응할 수 있다.
WeChat 미니 프로그램의 인터페이스 디자인 및 운영 안전성 문제를 해결하기 위해 YOLOv8와 mitmproxy를 활용한 검출 프로그램을 개발했다. 이 프로그램은 버튼의 위치와 크기를 확인하고 리디렉션 링크의 안전성을 분석한다.
시사점 이 연구는 미니 프로그램 사용자들이 실수로 결제하거나 악성 페이지로 리디렉션되는 문제를 감지하고 예방할 수 있는 실용적인 도구를 제공한다.
LLM 코딩 에이전트의 보안 취약점을 해결하기 위해 시스템 프롬프트에 보안 기술을 통합하는 SkillShield를 제안한다. RedCode에서 6개의 대형 언어 모델을 대상으로 실험한 결과, 악성코드 생성의 심각도를 3.37에서 0.58로 줄이고 실행 공격 성공률을 43.6%로 나타냈다.
시사점 SkillShield는 LLM 코딩 에이전트의 악성 요청을 방지하는 보안 기술로, 실무에서 즉시 적용 가능한 방어 기법으로 활용될 수 있다.
Dockerfile의 보안 설정 오류와 구조적 기술 부채를 분석하기 위해 6단계 자동 파이프라인을 제안하고, 11,470개 Dockerfile을 대상으로 실증 연구를 수행하였다. 99%의 파일에 보안 설정 오류가 있고, 80.8%가 Dockerfile 최고 기준을 위반하며, 83%의 기능 클러스터 내에 고질량 참조 구현이 이미 존재하는 것을 확인하였다.
시사점 이 결과는 기업 내부 소스에서 Dockerfile의 보안 문제를 자동으로 분석하고 개선할 수 있는 기반을 제공한다.
자가진화하는 LLM 코딩 에이전트가 공유된 스킬 라이브러리에서 악성 스킬을 템플릿으로 사용하여 새로운 악성 스킬을 생성하는 self-poisoning 취약점을 발견하고, 이를 악용하는 EvoMal 공격을 제시한다. 153개의 SWE-bench Verified 작업에서 ASPR(에이전트 자기중독률)은 20.3%에서 41.8%까지이며, 심지어 심도 있는 심도-V4-프로 모델은 11.1%의 ASPR을 보인다.
시사점 자가진화 코딩 에이전트의 스킬 라이브러리 관리 시 악성 스킬이 자가복제되는 self-poisoning 공격 가능성에 주의해야 한다.
이 논문은 얼굴 스와핑을 통해 익명화된 이미지에서 대상자의 신원 유출이 발생하는 메커니즘을 해석 가능한 선형 확률 모델로 설명하고, 이를 통해 프라이버시 평가를 이론적 근거에 기반한 분석으로 전환시킨다. 실험적으로 유출이 발생함을 확인하고, 이를 예측할 수 있는 모델을 제안한다.
시사점 이 연구는 얼굴 스와핑 익명화 기술의 프라이버시 보장 메커니즘을 해석 가능하게 설명함으로써, 실무에서 보다 신뢰성 있는 프라이버시 평가 기준을 제공할 수 있다.
스파이킹 신경망(SNN)의 체크포인트 재사용을 위해 출력 헤드가 아닌 내부 막 상태에 워터마크를 삽입하는 MeMark 기법을 제안한다. 20개의 독립 64비트 키가 51/64 검증 규칙을 통과하며, 3만 개의 무작위 키는 통과하지 못하는 결과를 보인다.
시사점 SNN 체크포인트의 소유권 증명을 위해 내부 막 상태에 워터마크를 삽입하는 MeMark 기법을 실무에 적용할 수 있다.
기존 암호화 기반 검색 방법의 한계를 극복하기 위해 학습된 딥 해싱을 프라이버시 필터로 재사용하여, 사용자의 쿼리와 검색 결과를 보호하면서도 정확도를 유지하는 기법을 제안한다. 200-500개 후보군을 사용해 2.68M개 패시지 NQ 코퍼스에서 0.73초의 추가 지연만 발생시킨다.
시사점 이 기법은 대규모 코퍼스에서 프라이버시 보호 검색을 실현하면서도 성능 저하를 최소화하여, 기업의 보안 검색 시스템에 적용 가능하다.
자동 코드 리뷰어가 풀 리퀘스트(PR)의 보안성을 평가할 때 판단과 진단의 차이(VD 갭)를 해결하기 위해 MalPR-Bench 벤치마크와 PRGuard 리뷰 도구를 제안한다. PRGuard는 31개 악성 PR 중 22개를 차단하고 14개 부재형 사례 중 9개를 차단했으며, 12개 새로운 취약점을 발견했다.
시사점 자동 리뷰 시스템의 평가 기준을 개선하여 실제 보안 위협을 더 정확히 식별하고, 책임 있는 보안 리뷰를 가능하게 한다.
LLM 에이전트에서 분산된 보안 위험을 방어하기 위해 경로 수준 보안 증거를 기반으로 행동 생성을 조건부로 하는 ReDiR 방식을 제안한다. ReDiR은 공격 성공률을 8% 이하로 낮추며, 새로운 도메인으로 전이 가능하고 계산 오버헤드가 낮다.
시사점 ReDiR은 LLM 에이전트의 다중 턴 공격을 방어하는 실용적인 방안으로, 기존 방어 방식보다 효율적이다.
LLM 보안을 위해 Linux 보안 모듈(LSM)의 개념을 적용한 LMSM 프레임워크를 제안한다. Qwen3-4B 모델에서 LMSM-Checkpoint를 사용하면 HarmBench 공격 성공률이 39.20%에서 3.32%로 감소하고 XSTest 거부율은 2.40%에서 4.40%로 증가한다.
시사점 이 연구는 LLM 보안 방안을 표준화하고 확장할 수 있는 새로운 프레임워크를 제시하여, 다양한 보안 모듈을 통합적으로 관리할 수 있게 된다.
연구팀은 사회 공학 공격 유형과 심리적 요인 간의 상관관계를 실험적으로 분석하였다. 12명의 참가자에게 25개의 자극(5개 심리적 요인과 5개 사회 공학 공격 유형)을 노출시켜 실험한 결과, 권위, 신뢰, 탐욕에 가장 효과적인 공격 유형은 spear-phishing이었으며, 탐욕을 이용한 spear-phishing이 가장 성공적인 조합이었다.
시사점 이 연구는 사회 공학 공격의 효과성을 높이기 위해 특정 심리적 요인과 공격 유형의 조합을 고려할 필요가 있음을 시사한다.
대규모 언어 모델(LLM)을 보안 취약점 평가에 통합하면서 발생하는 신뢰성 문제인 'AI slop'을 실증적으로 조사하고, 이를 해결하기 위한 전략을 제시한다. Deductive Coverage Score라는 측정 지표를 제안하고, chain-of-thought 프롬프팅과 도구 사용 에이전트가 이 격차를 줄이는 데 기여하지만 완전히 해소하지 못함을 보인다.
시사점 이 연구는 AI 기반 취약점 평가 시스템의 신뢰성을 높이기 위해 수학적 검증 가능성으로 평가 기준을 전환할 필요성을 시사한다.
이 연구는 DeFi 스테이블코인 스마트 계약의 보안 취약점을 실시간으로 방어하고 이상을 탐지하는 아키텍처와 모델을 제안한다. 실험 결과, 이상 탐지 모델의 분류 정확도는 96.61%, 악성 공격 샘플의 재현률은 평균 97.70%, 단일 추론 지연 시간은 1.5~2.8밀리초이다.
시사점 이 연구는 DeFi 스테이블코인의 보안을 강화하기 위해 실시간 이상 탐지 시스템을 도입할 필요성을 제시한다.
다중모달 대형 언어 모델(MLLM)의 제이블레이크 취약성 원인을 분석하기 위해 인수를 분리한 벤치마크 MMJailBench를 제안한다. 16개의 오픈소스 및 프로퍼티어리 MLLM을 대상으로 한 대규모 평가에서 제이블레이크 취약성은 해로운 의도, 프롬프트 구성, 시각적 의미, 지시문 전달 방식에 따라 달라지는 것을 확인했다.
시사점 이 연구는 MLLM의 제이블레이크 취약성을 세분화하여 평가할 수 있는 벤치마크를 제공하여, 모델 보안 강화에 기여할 수 있다.
권한 부여와 증명을 분리하는 보안 아키텍처를 제안한다. 전체 매개변수의 해시를 계산하여 공개 정보를 최소화하면서 기록을 보장한다.
시사점 이 아키텍처는 권한 결정과 정보 공개를 분리하여 보안성을 향상시키며, 실무에서 데이터 최소화 원칙을 구현하는 데 활용할 수 있다.
기존 보안 지침 주입 및 다중 에이전트 피드백 방식의 한계를 분석하고, 기능 정확성과 보안성을 동시에 최적화하는 다중 에이전트 프레임워크 MACGen을 제안한다. CWEval과 BaxBench에서 F&S@1 지표가 평균 19.61pp와 10.57pp 개선되었다.
시사점 코드 생성 시 기능 정확성과 보안성을 동시에 고려하는 다중 에이전트 협업 방식을 실무에 도입할 수 있다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.