LLM 보호적 개입의 요청 수신 방식 의존성
AI 보안
대규모 언어 모델(LLM)이 음성 대 텍스트 요청에 따라 보호적 개입이 달라지는지 실험했다. 음성 인터페이스에서 보호 행동이 줄어드는 경향을 관찰했으며, 응답 길이와 무관하게 나타났다.
시사점 LLM의 보호적 개입이 요청 수신 방식에 따라 달라질 수 있으므로, 보호 정책 설계 시 인터페이스 차이를 고려해야 한다.
LLM보호적 개입인터페이스보안
(새 창에서 원문 열기)RESEARCH
연구·리포트 참고 자료
이번 주 연구
연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
연구 목록
보안 토큰의 규제 조치 형식화: 의미론, 위조, 경계 EVM 증거
시스템·하드웨어ERC-8319에서 제안한 규제 조치 의미를 형식화하고, 이에 대한 위조 가능성과 경계 증거를 분석했다. 49개 핵심 의무와 24개 필수 지원 의무를 모두 충족하는 7개의 증거 패키지를 검증했다.
시사점 이 연구는 보안 토큰의 규제 조치를 형식적으로 검증할 수 있는 기반을 제공하여, 향후 규제 준수 토큰 표준의 신뢰성 향상에 기여할 수 있다.
보안 토큰ERC-8319형식화EVM(새 창에서 원문 열기)클라우드-엣지 협력 디코딩에서의 프라이버시 유출 감사 및 완화
프라이버시클라우드-엣지 협력 디코딩에서 프라이버시 유출 위험을 분석하고, CoVeil이라는 방어 메커니즘을 제안한다. CoVeil은 디코딩 시 유출을 최대 87.2%까지 줄이며 정확도 손실은 최소화한다.
시사점 CoVeil을 통해 클라우드-엣지 협력 시스템에서 프라이버시와 유틸리티의 균형을 실현할 수 있다.
프라이버시 유출클라우드-엣지 협력CoVeilLLM(새 창에서 원문 열기)UiAs: 사용자 독립적 3D 얼굴 생체 인증 방식
시스템·하드웨어3D 얼굴 위조 공격을 탐지하기 위해 무선 신호를 활용한 사용자 독립적 3D 얼굴 생체 인증 방식을 제안한다. 실사용자에 대한 정확도는 93.25%이다.
시사점 이 연구는 3D 얼굴 인증 시스템의 위조 공격 탐지 정확도를 높이는 새로운 방법을 제시한다.
3D 얼굴 인증생체 인증무선 신호위조 탐지(새 창에서 원문 열기)언어 스테가노그래피 종합 서베이: 방법, 대응책, 평가, 과제
AI 보안LLM 시대의 언어 스테가노그래피 분야를 체계적으로 정리하고, 148개의 방법, 60개의 대응책, 23개의 평가 지표, 9개의 개방적 과제를 분류하고 분석한다. LLM 시대의 5가지 패러다임 변화를 식별한다.
시사점 이 서베이를 통해 실무자는 LLM 시대의 언어 스테가노그래피 기술 동향과 주요 과제를 파악할 수 있다.
언어 스테가노그래피LLM보안서베이(새 창에서 원문 열기)CARVY-FL: 증명 가능한 보안 연방 학습에서의 견고한 투표를 위한 클라이언트 반군집화
AI 보안연방 학습(FL)에서 악의적인 클라이언트에 대한 취약성을 개선하기 위해 CARVY-FL이라는 새로운 방어 기법을 제안한다. MNIST와 Fashion-MNIST에서 FLCert보다 높은 인증 정확도(CA)를 보였다.
시사점 CARVY-FL은 연방 학습 환경에서 악성 클라이언트의 영향을 줄이는 데 실무적으로 활용될 수 있다.
연방 학습보안CARVY-FL반군집화(새 창에서 원문 열기)멤버십은 소유권이다(Membership is Ownership): 확산 모델을 위한 강력한 소유권 검증 프레임워크
AI 보안확산 모델의 지적 재산권 보호를 위해 훈련 시간에 워터마크를 삽입하는 기존 방법의 한계를 극복한 새로운 소유권 검증 프레임워크를 제안한다. MiO는 ROC-AUC와 true-positive rate 지표에서 성능을 보인다.
시사점 이 연구는 확산 모델의 지적 재산권 보호를 위한 실용적인 방안을 제시하여, 모델 도용 방지를 위한 실무 전략에 기여할 수 있다.
확산 모델지적 재산권 보호소유권 검증Membership is Ownership(새 창에서 원문 열기)설계된 신원, 우연한 인구통계: 행동 생체 인증 임베딩에서 인구통계 유출과 억제
프라이버시행동 생체 인증(BBA) 시스템에서 신원을 인증하는 임베딩이 성별, 나이, 키 등의 민감한 인구통계 정보를 우연히 유출할 수 있음을 보인다. 11개 모델과 9개 데이터셋을 사용한 체계적 분석을 통해 4가지 억제 기법의 성능을 평가한다.
시사점 BBA 시스템 설계 시 인구통계 정보 유출을 방지하기 위한 억제 기법을 고려해야 한다.
behavioral biometric authenticationdemographic leakageprivacysuppression methods(새 창에서 원문 열기)머신러닝을 활용한 SQL 인젝션 탐지 웹 방화벽 개선
AI 보안SQL 인젝션 공격 탐지를 위해 DistilBERT-Stacked 앙상블 파이프라인을 설계하고 최적화하여 탐지 효율과 견고함을 향상시켰다. 최적화된 앙상블은 정확도 99.81%를 달성했으며, 단일 모델 대비 140배 빠른 추론 속도를 기록했다.
시사점 이 연구는 실시간 SQL 인젝션 탐지에 적합한 고정확도, 고속도의 방화벽 구축 방법을 제시한다.
SQL 인젝션머신러닝앙상블 학습웹 방화벽(새 창에서 원문 열기)BERT-GNN을 활용한 SQL 인젝션 탐지 웹 애플리케이션 방화벽 개선
AI 보안BERT와 그래프 신경망(GNN)을 결합한 하이브리드 모델을 설계하여 SQL 인젝션 공격 탐지 정확도를 향상시켰다. 99.67% 정확도, 99.71% 정밀도, 99.39% 재현율, 99.55% F1 점수를 달성했다.
시사점 BERT-GNN 하이브리드 모델은 웹 애플리케이션 방화벽의 SQL 인젝션 탐지 성능을 현저히 향상시킬 수 있다.
BERTGNNSQL 인젝션웹 보안(새 창에서 원문 열기)일반 목적 대형 언어 모델(LLM)로 다크넷 CAPTCHA 해결
AI 보안다크넷 환경에서 자주 사용되는 자바스크립트 없는 CAPTCHA를 대형 언어 모델(LLM)로 해결하는 방법을 연구하고, 정확도 90% 이상의 하이브리드 프레임워크를 제안한다. 실험 결과, LLM과 전통적 컴퓨터 비전 기법을 결합한 시스템이 90% 이상의 성공률을 보였다.
시사점 이 연구는 LLM과 전통적 컴퓨터 비전 기법을 결합한 하이브리드 시스템이 CAPTCHA 해결에 효과적임을 보여주어, 보안 설계 시 이러한 결합 방식을 고려해야 한다는 시사점을 제공한다.
대형 언어 모델CAPTCHA다크넷보안(새 창에서 원문 열기)JSCeal의 컴파일된 V8 바이트코드 정적 디오브피스케이션
악성코드·위협JSCeal이라는 악성코드의 정적 디오브피스케이션 기법을 분석하여, 악성코드가 어떻게 암호화된 바이트코드를 실행하는지 밝혔다. 분석 결과, 악성코드는 Node.js 런타임을 사용하여 V8 바이트코드(.jsc)를 실행하고, 암호화폐 애플리케이션을 표적으로 삼는다.
시사점 이 연구는 JSCeal 악성코드의 동작 메커니즘을 이해하는 데 도움을 주어, 악성코드 탐지 및 분석 방법을 개선할 수 있다.
악성코드 분석정적 디오브피스케이션V8 바이트코드JSCeal(새 창에서 원문 열기)8월 31일 – 위협 지능 보고서(Threat Intelligence Report)
악성코드·위협맨체스터 공항 그룹의 고객 데이터 870만 건이 노출되는 사이버 공격을 분석했다. 침해된 정보에는 연락처 등이 포함된다.
시사점 영국 주요 공항 운영사의 대규모 데이터 노출 사례를 주의 깊게 살펴볼 필요가 있다.
사이버 공격데이터 노출Threat Intelligence침해 사례(새 창에서 원문 열기)스프링 링(Spring Ring): 마이크로소프트 팀스(Microsoft Teams) 내 음성 피싱 공격 캠페인 분석
악성코드·위협2026년 1월부터 4월까지 외부 마이크로소프트 팀스 계정을 IT 지원 인물로 위장하는 사회공학 공격을 분석하였다. 10개 이상 기업의 150명 이상 직원을 표적으로 하여 음성 피싱(vishing)을 통해 원격 모니터링 및 관리(RMM) 도구나 커스텀 악성코드 실행을 유도하였다.
시사점 음성 피싱을 통해 SaaS 협업 플랫폼을 악용하는 공격이 증가하고 있으므로, 직원 교육과 외부 통신 감시를 강화해야 한다.
음성 피싱사회공학악성코드Microsoft Teams(새 창에서 원문 열기)ValleyRAT가 광고 소프트웨어로 위장한 사례
악성코드·위협ValleyRAT 백도어가 광고 소프트웨어(QN Wallpaper)로 위장하여 배포되는 방식을 분석하였다. 분석 대상 파일은 악성 설치 프로그램으로, 사용자의 주의를 돌리기 위해 다양한 앱을 설치하는 동시에 악성 DLL을 로드하여 백도어를 전달한다.
시사점 악성코드가 정상적인 광고 소프트웨어로 위장하여 배포되는 방식에 주의해야 한다.
ValleyRAT악성코드 분석DLL sideloading백도어(새 창에서 원문 열기)조직 간 에이전트 메시징의 오프라인 검증 가능한 책임성: 보존된 증거 번들 접근법
시스템·하드웨어조직 간 에이전트 워크플로우에서 오프라인으로도 독립적으로 검증 가능한 책임성을 보장하기 위해 보존된 증거 번들 모델과 정책 기반 오프라인 검증기를 제안한다. 300개 워크플로우와 1200개의 보존된 번들을 대상으로 한 프로토타입 평가에서, 정책에 따라 증거의 충분성을 오프라인으로 검증할 수 있음을 보였다.
시사점 이 연구는 조직 간 에이전트 시스템의 책임성 검증을 위해 오프라인 환경에서도 신뢰할 수 있는 증거 체계를 제공한다.
에이전트 시스템오프라인 검증책임성증거 번들(새 창에서 원문 열기)CBDC 은행 간 결제 시스템의 완화된 발신자 익명성: 권한 있는 EVM에서의 제로페이스 접근
프라이버시CBDC 은행 간 결제 시스템에서 블록체인의 투명성과 상업적 민감 정보 보호 간의 갈등을 해결하기 위해, 규제 요구사항에 맞춘 완화된 발신자 익명성 모델을 제안한다. Hyperledger Besu를 사용한 프로토콜 구현에서 8-16초의 종단 간 결제 시간과 1ms의 증명 검증 오버헤드를 보인다.
시사점 이 연구는 CBDC 결제 시스템에서 익명성과 투명성을 균형 있게 유지하는 새로운 프로토콜을 제시하여, 금융 기관의 상업적 정보 보호와 규제 준수를 동시에 달성할 수 있는 실용적 접근법을 제시한다.
CBDC제로페이스 증명익명성블록체인(새 창에서 원문 열기)인식은 있지만 실행은 없음: LLM 에이전트 지시 조정의 구성에 따른 실패
AI 보안LLM 에이전트가 시스템 프롬프트, 사용자, 메모리, 도구에서 온 지시를 조정하지만, 이 조정이 신뢰 경계를 강제하지 못한다는 것을 보인다. 46개 모델 엔드포인트에서 평균 실행률은 1.21%이며, 외부 참조 모니터를 통해 위조된 요청을 확정적으로 거부하는 방어 기법을 제안한다.
시사점 LLM 에이전트의 자체 조정은 보안 경계로 간주할 수 없으며, 외부 강제가 필요하다.
LLM 에이전트지시 조정신뢰 경계외부 참조 모니터(새 창에서 원문 열기)소프트웨어 및 시스템 보안을 위한 LLM 기반 에이전트: 접근, 응용, 평가
AI 보안LLM 기반 에이전트가 보안 작업을 자동화하는 방식을 체계적으로 검토하고, 기술적 접근, 응용 분야, 평가 방법을 분석했다. 2023~2026년 동안의 동료 평가 논문을 대상으로 했다.
시사점 이 연구는 LLM 기반 에이전트의 보안 자동화에 대한 체계적 이해를 제공하여, 실무에서의 적용 범위와 한계를 파악하는 데 도움이 된다.
LLM에이전트보안 자동화문헌 검토(새 창에서 원문 열기)O-RAN 보안 강화를 위한 양자 기반 솔루션
암호O-RAN의 분산형 아키텍처로 인한 보안 취약점을 양자 기반 기술로 보완하는 방안을 제시한다. 양자 저항성 암호(PQC), 양자 인증, 양자 강화 위협 탐지 등을 제안한다.
시사점 O-RAN 보안 강화를 위해 양자 기반 기술을 도입할 필요가 있다.
O-RAN양자 보안양자 저항성 암호PQC(새 창에서 원문 열기)코어별 누수 공격: 멀티코어 아키텍처의 전자기 부채널 모니터링
시스템·하드웨어멀티코어 아키텍처의 전자기 누수 메커니즘을 분석하고, 코어별 누수를 활용한 부채널 공격을 실증했다. 상용 멀티코어 임베디드 시스템에서 실용성을 검증했다.
시사점 임베디드 시스템의 멀티코어 구조는 전자기 누수를 통한 부채널 공격에 취약할 수 있으므로, 하드웨어 설계 시 누수 저감 기술을 고려해야 한다.
부채널(side-channel)멀티코어전자기 누수임베디드 시스템(새 창에서 원문 열기)
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.