공개와 권한 부여 분리: 에이전트 행동 중재를 위한 필드 계층 최소화
AI 보안
권한 부여와 증명을 분리하는 보안 아키텍처를 제안한다. 전체 매개변수의 해시를 계산하여 공개 정보를 최소화하면서 기록을 보장한다.
시사점 이 아키텍처는 권한 결정과 정보 공개를 분리하여 보안성을 향상시키며, 실무에서 데이터 최소화 원칙을 구현하는 데 활용할 수 있다.
보안 아키텍처데이터 최소화권한 부여정보 공개
(새 창에서 원문 열기)RESEARCH
연구·리포트 참고 자료
이번 주 연구
연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
연구 목록
MACGen: 기능적으로 올바르고 보안적인 코드 생성을 위한 다중 에이전트 협업
AI 보안기존 보안 지침 주입 및 다중 에이전트 피드백 방식의 한계를 분석하고, 기능 정확성과 보안성을 동시에 최적화하는 다중 에이전트 프레임워크 MACGen을 제안한다. CWEval과 BaxBench에서 F&S@1 지표가 평균 19.61pp와 10.57pp 개선되었다.
시사점 코드 생성 시 기능 정확성과 보안성을 동시에 고려하는 다중 에이전트 협업 방식을 실무에 도입할 수 있다.
ai-security코드 생성다중 에이전트보안 분석(새 창에서 원문 열기)GIFT: GPU 정보 흐름 추적을 통한 LLM 서빙에서의 사용자 데이터 격리 강제
프라이버시LLM 서빙 프레임워크에서 사용자 데이터 격리를 보장하기 위해 GPU 정보 흐름 추적 시스템 GIFT를 제안한다. GIFT는 CPU 측 프레임워크를 수정하지 않고 사용자 데이터 격리를 강제하며, 처리량 오버헤드는 4-10.7%이다.
시사점 이 결과로 실무에서는 LLM 서빙 환경에서 사용자 데이터 격리를 보다 효율적으로 강제할 수 있다.
LLM 서빙GPU 정보 흐름 추적데이터 격리보안 프라이버시(새 창에서 원문 열기)LLMscope: 레이저 전압 이미징을 통한 에지 AI 칩에서 LLM 자산 추출
AI 보안LLM 추론 과정에서 발생하는 물리적 사이드채널 취약점을 분석하고, 레이저 전압 이미징을 사용하여 모델 자산을 추출하는 공격 기법을 제시한다. FPGA 기반 LLM 가속기에서 공격을 수행하여 타겟 자산의 완전한 복원을 보인다.
시사점 이 연구는 에지 AI 칩에서 LLM 자산을 물리적 공격으로 추출할 수 있음을 보여주어, 에지 기기의 보안 설계 시 사이드채널 공격에 대한 대비가 필요하다.
LLM사이드채널 공격레이저 전압 이미징에지 AI 칩(새 창에서 원문 열기)자동차 HSM(하드웨어 보안 모듈) - 아키텍처적 과제와 보안 영향
시스템·하드웨어자동차 ECU는 HSM을 통해 소프트웨어 무결성과 진위를 보호한다. HSM의 설계 선택이 보안 부팅, 안전한 저장, 실행에 미치는 영향을 분석했다.
시사점 자동차 시스템 설계자는 HSM의 아키텍처적 결정이 보안에 미치는 영향을 고려해야 한다.
자동차 HSM보안 모듈시스템 보안보안 부팅(새 창에서 원문 열기)동적 워크로드를 위한 인증 데이터 구조
시스템·하드웨어동적 워크로드에서 항목 접근 빈도가 달라지는 환경에 적합한 인증 데이터 구조 Huffman-Merkle Tree(HMT)를 제안한다. HMT는 빈도에 따라 항목을 루트에 가깝게 배치하고, 빈도 추적과 배치 업데이트를 통해 접근 비용을 줄였다. 평균 해시 연산은 MPT 대비 2.4배, UBT 대비 0.34배 감소했으며, 증명 크기는 각각 0.18배, 0.55배로 줄었다.
시사점 동적 워크로드에서 인증 데이터 구조의 성능을 개선할 수 있는 HMT를 채택하면, 블록체인과 같은 분산 시스템의 효율성을 높일 수 있다.
인증 데이터 구조Huffman-Merkle Tree블록체인동적 워크로드(새 창에서 원문 열기)BGPay: BGP 해킹 필터링을 위한 동기 부여 메커니즘
네트워크·프로토콜BGP 해킹 방지를 위해 기존 방어 기법의 동기 문제를 해결하는 시장 기반 메커니즘 BGPay를 제안한다. 1,000건의 실제 해킹 사례 분석을 통해 공개 라우트 모니터가 필터링 효과를 평가하는 데 충분함을 보인다.
시사점 BGP 해킹 방지에 있어 네트워크 운영자의 참여 동기를 개선할 수 있는 새로운 메커니즘이 제안되었다.
BGP해킹 방지동기 부여네트워크 보안(새 창에서 원문 열기)CA 미사용 시각 채널을 통한 문서 공동서명 프로토콜
시스템·하드웨어두 모바일 장치가 시각 채널을 통해 CA 없이 문서를 공동서명하는 프로토콜을 제안한다. ECDSA P-256, SHA-256, 애플 App Attest/플레이 인티그리티를 활용한 구현 사례를 보인다.
시사점 CA를 사용하지 않고도 모바일 장치 간 안전한 공동서명이 가능하다는 점에서 기존 인증 방식의 대안으로 활용될 수 있다.
공동서명시각 채널하드웨어 인증ECDSA(새 창에서 원문 열기)디지털 포렌식 및 마이그레이션 보증을 위한 스트립된 바이너리에서 양자 안전 암호 알고리즘의 정적 탐지
암호Kestrel은 스트립된 바이너리에서 ML-KEM과 ML-DSA 알고리즘을 정적 분석으로 식별하는 방법이다. 128개 중 128개를 정확히 식별하며, 6,224개 바이너리에서 12개의 ML-KEM 포함 프로그램을 발견했다.
시사점 Kestrel은 소프트웨어 공급망 검사와 포렌식 분석에서 양자 안전 암호화 마이그레이션을 보장하는 실용적인 도구로 활용될 수 있다.
암호 알고리즘양자 안전정적 분석디지털 포렌식(새 창에서 원문 열기)회수되지만 신뢰할 수 없는 RAG: 공격과 방어에 대한 조사
AI 보안RAG 시스템의 보안 취약점을 체계적으로 분류하고, 공격 목적과 방어 전략을 파이프라인별로 정리했다. 정량 결과는 원문 참조.
시사점 RAG 시스템을 사용하는 실무자는 공격 범주와 방어 단계를 파악해 보안 설계에 반영해야 한다.
RAG보안 취약점공격 분류방어 전략(새 창에서 원문 열기)ToolMinimize: LLM 에이전트 도구 호출 감사 및 재작성으로 개인정보 노출 최소화
AI 보안LLM 에이전트가 도구 호출 시 불필요한 개인정보(PSD)를 포함하는 문제를 분석하고, 도구 기능에 필요한 최소한의 데이터만 남기는 중간웨어를 제안한다. 3개 LLM에서 실시간 검증 결과, 개인정보 노출 비용을 81.2~92.0% 줄이며 100%의 작업 유효성을 달성했다.
시사점 LLM 에이전트의 도구 호출 시 불필요한 개인정보를 효과적으로 제거하여 실무에서 개인정보 보호를 강화할 수 있다.
LLM 에이전트개인정보 노출도구 호출ToolMinimize(새 창에서 원문 열기)2026년 2분기의 공격 기법과 취약점
취약점·익스플로잇2026년 2분기 취약점 현황을 분석하고, AI 도구의 보급으로 인한 새로운 취약점 유형을 조사했다. Linux 네트워킹 서브시스템과 Windows 구성요소에서 주요 취약점이 발견되었다.
시사점 AI 도구의 보급으로 인해 취약점 발견이 급증하고 있으며, Windows와 Linux 시스템에서 새로운 공격 표면이 나타나고 있다.
취약점AIWindowsLinux(새 창에서 원문 열기)프롬프트 구조가 재분배하는 LLM 생성 파이썬 코드의 보안 취약점
AI 보안LLM 생성 파이썬 코드의 보안 취약점을 실증적으로 분석하고, 프롬프트 구조가 취약점 분포에 미치는 영향을 밝혔다. GPT-4o의 고위험 취약점은 20.8%에서 13.6%로 감소했으나, 저위험 취약점은 32%에서 43.5%로 증가했다.
시사점 LLM 개발 지원에서 프롬프트 구조는 보안 제어를 대체할 수 없으며, 강력한 보안 조치가 여전히 필요하다.
LLM프롬프트 구조보안 취약점파이썬 코드(새 창에서 원문 열기)ICS 사이버보안 데이터셋: 커버리지, 평가 실천, 구조적 격차에 대한 체계적 메타리뷰
취약점·익스플로잇2019~2026년 18개 연구를 메타리뷰하여 ICS 보안 데이터셋 83개를 분류하고 평가 방법을 분석했다. 85.5%가 후기 OT 방해 전략에 집중되고, 15.7%만 운영 데이터를 포함하며, 평가 실천에서 재현성 요구사항을 충족하는 경우는 2건뿐이다.
시사점 ICS 보안 연구자들은 데이터셋의 구조적 한계를 인식하고, 교차 단계 코퍼스 구축과 시간 구조화 벤치마킹을 고려해야 한다.
ICS사이버보안데이터셋메타리뷰(새 창에서 원문 열기)누가 SMiSh에 속는가? 모바일 메시징 공격에 대한 인식 교육 대상 분석
정책·인간요소모바일 메시징 피싱(SMiShing) 공격에 취약한 인구를 조사하고, 인식 교육을 위한 대상자를 분석하였다. 두 대규모 설문 조사에서 24세 이하와 대학가들이 특히 취약한 것으로 나타났다.
시사점 모바일 메시징 공격에 취약한 24세 이하와 대학가를 대상으로 한 맞춤형 인식 교육이 필요하다.
SMiShing피싱인식 훈련취약 인구(새 창에서 원문 열기)SeriCrypt: 암호 프로토콜을 위한 LLM 기반 컨텍스트 인식 직렬화 프레임워크
시스템·하드웨어SeriCrypt는 암호 프로토콜의 메시지 시퀀스를 자동 생성하는 LLM 기반 직렬화 프레임워크로, 프로토콜 명세에서 필드 제약 조건과 암호 계산 규칙을 추출하여 보안 테스트를 지원한다. TLS 1.2/1.3, IKEv1/v2, SSH, TLCP 등에서 테스트해 5개의 명세 위반을 발견하고 퍼징 테스트에서 더 깊은 프로토콜 상태와 높은 코드 커버리지를 달성했다.
시사점 SeriCrypt는 암호 프로토콜 보안 테스트에서 퍼징 및 명세 위반 탐지를 효과적으로 수행할 수 있어, 실무에서 보안 검증 도구로 활용할 수 있다.
LLM암호 프로토콜보안 테스트퍼징(새 창에서 원문 열기)시스템 프롬프트가 행동적 지문을 남기는가? 출력 유사도를 통한 클론 탐지 대규모 실증 연구
AI 보안시스템 프롬프트를 추출해 재배포하는 행위를 탐지하기 위해 Black-Box Behavioral Fingerprinting (BBF) 기법을 제안하고, 4개 모델 가족, 8개 벤치마크, 288,000개의 응답을 대상으로 실증 연구를 수행했다. 동일 모델 탐지에서 AUC 0.876, 교차 모델 탐지에서 평균 AUC 0.725를 달성했으며, 비적응적 프롬프트 변형에도 견디는 것을 확인했다.
시사점 이 연구는 LLM 시스템 프롬프트의 무단 재배포를 탐지하는 실용적인 방법을 제시하여, AI 모델 보호와 관련된 실무에 기여할 수 있다.
LLM프롬프트 보안행동적 지문클론 탐지(새 창에서 원문 열기)구조적 적대적 공격에 대항하는 GNN 기반 NIDS 방어
AI 보안GNN 기반 NIDS가 구조적 적대적 공격에 취약하다는 문제를 해결하기 위해 적대적 훈련을 기반으로 방어 프레임워크를 제안한다. CTU-13과 TON-IoT 데이터셋에서 E-GraphSAGE 기반으로 실험한 결과, 정상 그래프에서의 탐지 성능이 우수하고 구조적 공격에 대한 내성이 향상되었다.
시사점 GNN 기반 NIDS의 구조적 공격 내성을 향상시키는 방어 전략을 제시하여, 실제 네트워크 보안 시스템의 신뢰도를 높일 수 있다.
적대적 훈련구조적 적대적 공격그래프 신경망네트워크 침입 탐지(새 창에서 원문 열기)SSH 사용자 인증을 위한 포스트-퀀텀 KEM 대체 방안
암호SSH 프로토콜에서 클라이언트 서명을 대체하는 KEM 기반 사용자 인증 방법을 제안한다. 평균 핸드셰이크 지연 시간을 기존 대비 약 10%까지 감소시켰다.
시사점 이 연구는 SSH에서 포스트-퀀텀 보안을 유지하면서 성능 저하를 최소화할 수 있는 실용적 대안을 제시한다.
암호KEMSSH인증(새 창에서 원문 열기)모든 토큰이 같지 않다: MLLMs의 백도어를 지역 인식 방식으로 복구하는 RACER
AI 보안MLLMs에 존재하는 백도어를 모델 수준에서 제거하기 위해 RACER라는 프레임워크를 제안한다. RACER는 백도어가 유발하는 내부 표현의 계층별 불일치를 지역별로 정규화하여 36개의 백도어 설정에서 평균 ASR을 1.1%로 줄였다.
시사점 RACER는 MLLMs에 숨겨진 백도어를 제거하면서 모델 성능을 유지할 수 있는 방안으로, 모델 수준의 방어 기술을 개선하는 데 기여할 수 있다.
MLLMs백도어 제거RACER모델 수준 복구(새 창에서 원문 열기)사기 전화 분석: 10,000개의 실제 사기 및 스팸 전화가 밝혀낸 전화 사기 운영 방식
AI 보안AI 음성 에이전트 허니팟을 통해 수집한 10,211개의 전화 사기 및 스팸 전화를 분석하여, 사기 전화의 운영 방식을 밝혔다. 사기 전화는 평일에 6.6배 더 많고, 30개의 반복 스크립트를 사용하며, 15% 더 많은 대화 턴을 노년층에게 제공한다.
시사점 전화 사기는 템플릿화된 운영 방식으로, 노년층을 대상으로 더 적극적으로 접근하는 것으로 나타나, 실무에서는 대상별 대응 전략이 필요하다.
전화 사기AI 음성 에이전트사기 탐지템플릿 기반 사기(새 창에서 원문 열기)
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.