연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
도구 호출 기반 대형 언어 모델(LLM) 에이전트에서 지속적 청구 상태(persistent billable state)를 정의하고, 이를 악용한 6가지의 지갑 거부 공격 벡터를 제시한다. 243회 실행에서 최대 14,293배의 입력 증가를 관찰했으며, 방어 기법으로 압축 성공률 10/12~11/12를 달성했다.
시사점 LLM 에이전트의 도구 호출 기반 청구 상태 관리가 필요하며, 지속적 청구 상태를 제어하는 방어 기법을 도입해야 한다.
다단계 LLM 기반 사이버 에이전트가 공격 흐름을 완료하지만 취약하고 비용이 많이 든다는 점을 분석했다. 6개의 최첨단 모델을 기업 유사 환경에서 평가하여 병목 현상이 자격 증명 및 측면 이동 작업에 집중되고 완전 자율 운영 시 더 다양하게 나타난다는 것을 보였다.
시사점 이 연구는 사이버 에이전트 시스템의 신뢰성 평가 시 성공률 외에도 증거 해석, 자원 사용, 실패 후 적응을 함께 평가해야 한다는 점을 시사한다.
동영상 생성 에이전트 시스템에서 생성된 실행 추적이 검증기의 판단을 왜곡하는 문제를 분석하고, 이로 인해 검증기의 실제 통과율이 낮아지는 현상을 보인다. 실험 결과, 실행 추적이 성공적인 도구 호출을 보고하면 78~90%의 실패 동영상이 수용되고, 모순적인 추적이면 100%의 올바른 동영상이 거부된다.
시사점 동영상 생성 에이전트 시스템의 검증 과정에서 실행 추적 정보가 검증기의 판단을 왜곡시킬 수 있으므로, 검증 시 실행 추적을 제외하고 순수하게 시각 정보만을 기반으로 판단하는 방식이 필요하다.
LLM이 코딩 에이전트를 통해 작동할 때 모델 식별을 위해 실행 동작을 분석하는 새로운 지문 추출 기법인 LIDAR를 제안한다. 36개 모델에서 Top-1 정확도와 MRR에서 기존 기법을 초과하는 성능을 보인다.
시사점 이 연구는 코딩 에이전트 환경에서 LLM 모델 식별을 위한 새로운 접근법을 제시하여, 모델의 보안성과 신뢰성을 평가하는 데 유용할 수 있다.
니지리아 핀테크 이메일의 피싱을 탐지하기 위해 Gmail 브라우저 확장 프로그램을 제안하고 보낸 사람 도메인 및 URL 확인과 BiLSTM 분류기를 통합하였다. 8,943개 테스트 메시지에서 99.99% 정확도, 100.00% 정밀도, 99.98% 재현율, 99.99% F1 점수를 기록하였다.
시사점 이 연구는 Gmail 사용자에게 니지리아 핀테크 이메일의 피싱을 탐지하는 프로토타입 확장 프로그램을 제공하여 피싱 공격에 대한 인식을 높일 수 있다.
연구팀은 대규모 언어 모델의 잔여 스트림을 통해 정보를 유출하는 새로운 공격 기법을 제시한다. 11개 모델에서 91~100%의 복구율을 기록했으며, 기존 탐지기는 무작위 추측 수준이었다.
시사점 이 연구는 LLM의 중간 활성화 데이터를 통해 정보가 유출될 수 있음을 보여주어, 보안 환경에서의 모델 사용 시 주의가 필요하다.
LLM 에이전트가 외부 도구 응답의 타이밍을 결정 과정에 사용하는 점을 악용한 적대적 예약 공격 기법을 제안한다. GPT-5.6 Sol, Gemini 3.6 Flash, DeepSeek V4 Flash, Claude Sonnet 4.6에서 실험한 결과, 응답 도착 순서를 조작해 최종 결정을 바꿀 수 있음을 보인다.
시사점 LLM 에이전트의 도구 응답 타이밍을 조작하는 공격이 가능하므로, 실무에서는 응답 순서의 일관성을 보장하는 방어책을 고려해야 한다.
전통적인 반응형 보안 기술이 현대 사이버 위협에 부적합하다는 점을 지적하고, 에이전트 AI를 활용한 자율적이고 적응적인 사이버 방어 프레임워크를 제안한다. 프레임워크는 인지, 추론, 결정, 실행, 피드백 학습의 주요 기능 계층을 갖춰 분산 환경에서 능동적 위협 탐지와 동적 위험 평가, 조율된 완화 전략을 지원한다.
시사점 이 결과로 실무에서는 AI 기반의 자율적 사이버 방어 시스템 구축 방안을 고려해야 한다.
대형 모델 기반 구현 에이전트의 보안과 프라이버시 문제를 수명 주기별로 체계적으로 분석하고, 공격과 방어 기법을 검토한다. 종합적인 보호와 평가 방법의 한계를 드러낸다.
시사점 대형 모델 기반 구현 에이전트의 보안과 프라이버시를 수명 주기별로 이해하고, 종합적인 보호 전략을 수립해야 한다.
다중 에이전트 시스템에서 A2A 프로토콜의 이름 충돌 취약점을 분석하고, 공격자가 신뢰된 피어 이름을 악용해 요청을 잘못된 피어로 라우팅하는 방식을 실증했다. 7개의 오픈소스 릴리즈에서 테스트한 결과, 6개는 공격자 제어 피어의 엔드포인트를 선택했고, 1개는 라우팅 경로가 충돌해 접근 제어 상태에 따라 정보 탈취 또는 거부가 발생했다.
시사점 다중 에이전트 시스템을 사용하는 실무자는 요청 라우팅 시 신뢰할 수 있는 고정식 식별자를 사용하고, 이름을 단순히 표시용으로 제한해야 한다.
도구 사용 언어 모델 에이전트의 안전성은 모델과 해석 소프트웨어의 결합 속성임을 보인다. GPT-oss-20b 모델에서 단일 문자열 추가로 사고 체인을 억제하고, 40개 작업에서 추론 채널 토큰 수가 52.5에서 0으로 감소하며, 39.6%의 거부 요청이 완료된 데이터 유출로 전환된다.
시사점 도구 사용 에이전트의 안전성은 모델과 해석 소프트웨어의 결합 속성임을 인식하고, 입력 정화, 파서 강화, 빈 추론 탐지 등의 방어 전략을 고려해야 한다.
기존 CNN 암호분석적 추출 공격은 네트워크 아키텍처가 알려져 있음을 가정하지만, 본 연구는 최대 및 평균 풀링을 사용하는 CNN에서 아키텍처 가정을 제거할 수 있음을 증명한다. 가중치 벡터의 공간 기하학을 분석하여 풀링 타입, 윈도우 크기, 스트라이드 등을 복원할 수 있음을 보인다.
시사점 이 연구는 CNN 모델의 아키텍처와 파라미터를 동시에 추출할 수 있는 새로운 공격 기법을 제시하여, 모델 보호 및 보안 강화에 주의가 필요하다.
이 논문은 블록체인에서 최대 추출 가능 가치(MEV) 전략을 자동으로 생성하고 적응하는 다중 에이전트 프레임워크인 EVAGE를 제안한다. EVAGE는 이더리움, 베이스, BNB 스마트 체인에서 150만 개 이상의 블록을 평가하여 5가지 새로운 MEV 전략 변형을 발견하고, 수익 증가율 1.02~15.97배를 달성했다.
시사점 이 연구는 MEV 전략 개발을 자동화하여 블록체인 생태계에서의 경제적 이점을 극대화할 수 있음을 보여준다.
LLM 추론의 외주 처리 검증을 위해 샘플링된 계층별 증명(SLP) 프로토콜을 제안하고, 이를 구현한 프로토타입을 제시한다. 1.1B 모델에서 47개 청크 중 7개를 증명하는 데 전체 시간의 22.0%와 증명 크기의 6.8%만 소요된다.
시사점 SLP는 LLM 추론 검증의 효율성을 높여, 클라우드 환경에서의 신뢰성 있는 모델 사용을 가능하게 한다.
IOT 보안을 위해 연방 학습과 티니ML 기반 모델 압축 기법을 결합하여 침입 탐지 시스템을 설계하고, 코사인 학습률 스케줄링을 통해 공격 탐지율을 46.7%에서 93.85%로 향상시켰다. 모델 압축과 에지 배포 효율성을 동시에 달성했다.
시사점 IOT 침입 탐지 시스템에서 연방 학습과 티니ML 기법을 결합하면 프라이버시 보호와 에지 기기에서의 효율적인 배포가 가능하다.
소셜 미디어 플랫폼에서 사용되는 대규모 언어 모델 기반 에이전트의 취약성을 분석하고, 추천 시스템의 투표 점수 메커니즘을 악용한 다단계 중독 공격 알고리즘을 제안한다. 실험 결과, 제안된 알고리즘이 투표 점수 피드백 루프를 통해 사용자-게시물 유사도가 검색 임계값 이하일 때에도 중독된 게시물을 추천 시스템이 선택하게 만드는 것을 보인다.
시사점 이 연구는 소셜 미디어 플랫폼에서 자동화된 에이전트의 추천 알고리즘을 악용할 수 있음을 보여주어, 추천 시스템의 보안 강화 필요성을 강조한다.
연방 학습에서 중앙 파라미터 서버를 우회하는 새로운 공격 기법을 제안하고, 이에 대응하는 탐지 및 복구 메커니즘을 제시한다. Fed-ADR 공격은 전역 모델 정확도를 90% 이상에서 10% 이하로 낮추는 반면, 제안된 방어 기법은 몇 라운드 내 정확도를 90% 이상으로 복구한다.
시사점 이 연구는 연방 학습 환경에서 동적 공격을 탐지하고 복구하는 실용적인 방안을 제시하여, 분산 학습 시스템의 보안 강화에 기여할 수 있다.
스마트 계약의 복잡성과 금전적 가치가 증가함에 따라, 이 연구는 Solidity로 작성된 코드 조각의 취약점 탐지를 위한 트랜스포머 기반 접근법을 제시한다. BERT 기반 아키텍처를 미세 조정한 모델은 F1 점수 92%를 달성하여, LLM 적응이 스마트 계약 보안을 향상시키는 데 효과적임을 보인다.
시사점 이 연구는 LLM을 활용한 스마트 계약 보안 강화 방법을 제시하여, 블록체인 개발자와 보안 전문가가 취약점 탐지를 위한 새로운 도구로 활용할 수 있다.
기존 중독 공격이 유사한 문서에 동일한 주장 반복으로 패턴을 만들지만, 이를 방어하는 시스템이 억제할 수 있다. DnD는 타겟 답변을 다양한 스타일의 문서에 분산시키고, 참조 답변의 증거를 의심시키는 문서를 포함해 방어를 우회하는 공격 기법이다.
시사점 이 연구는 RAG 기반 시스템의 방어 전략을 우회할 수 있는 새로운 중독 공격 기법을 제시하여, RAG 시스템의 보안 설계에 주의가 필요하다.
Ajar는 기존 에이전트 보안 벤치마크를 활용하여 방어 기법이 얼마나 많은 권한을 열어두는지 직접 측정하는 방법을 제안한다. AgentDojo 벤치마크에 적용한 결과, 5가지 방어 기법이 각기 다른 수준의 열린 권한을 보였다.
시사점 이 연구는 기존 보안 평가 지표 외에 열린 권한을 추가적으로 측정해야 함을 시사한다.
연구팀은 LLM의 암호 해독 능력을 평가하는 다단계 벤치마크 ACTS를 제안하고, 메타데이터 제거 수준에 따른 정확도 차이를 실험적으로 보여준다. 블라인드 조건(Tier-3)에서 30.8%의 정확도를 기록했으며, 이는 14.3%의 무작위 기준보다 약간 높았다.
시사점 이 연구는 LLM이 암호문만으로 암호 식별에 어려움을 겪는다는 점을 실증해, 보안 설계 시 메타데이터 보호의 중요성을 강조한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.