연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
블록체인과 인공지능(AI)을 결합하여 분산 시스템에서 데이터 공유, 모델 무결성, 자율 결정을 보장하는 방법을 제안한다. 블록체인의 불변성, 분산 합의, 검증 가능한 기원이 데이터, 모델, 자율 에이전트에 대한 신뢰 문제를 해결한다.
시사점 블록체인과 AI를 결합한 보안 아키텍처를 설계할 때 신뢰성과 확장성, 프라이버시-투명성의 균형을 고려해야 한다.
IoT 침입 탐지 시스템에서 머신러닝 모델이 일반화된 공격 행동을 학습하는지 또는 데이터셋의 단서를 악용하는지 평가했다. 361만 개 이상의 흐름 기록을 사용한 실험에서, 통계적 흐름 행동만 사용할 때 LightGBM, Random Forest, Deep MLP가 유사한 Macro-F1 (92.55~92.58%)를 보였다.
시사점 IoT 침입 탐지 모델이 데이터셋의 단서를 악용하는 경우가 많아, 평가 시 데이터 누수를 방지하는 프로토콜 체크리스트를 따르는 것이 중요하다.
Jev라는 비생성형 결정 모델에서 510개의 InjecAgent 사례를 재구성하여 프롬프트 인젝션 공격의 영향을 분석했다. 악의적인 콘텐츠는 행동 확률을 변화시키지만 공격자의 대상 선택은 드물며, 적응형 공격은 최대 공격자 대상 확률을 1.8%에서 3.5%로 높였다.
시사점 비생성형 모델에서도 프롬프트 인젝션 공격이 일부 영향을 미친다는 점을 실증하여, 스키마 정의 출력 내에서 신뢰할 수 없는 콘텐츠의 영향을 평가할 필요성을 강조한다.
연방 학습 환경에서 라벨 뒤집기 공격이 침입 탐지 시스템에 미치는 영향을 실증적으로 분석하였다. 60% 라벨 뒤집기 공격으로 공격자의 정확도가 99.96%에서 84.33%로 감소하는 현상을 관찰하였다.
시사점 연방형 침입 탐지 시스템에서 라벨 뒤집기 공격이 자체적으로 공격자의 성능을 저하시키는 현상을 활용해 비잔틴 클라이언트를 탐지할 수 있다.
에이전트 시스템에서 승인 인터페이스의 기록-폐쇄 관계를 체계적으로 분석하고, 승인 랜더링 문제를 해결하기 위한 벤치마크와 예측 기반 접근법을 제안한다. 111개 승인 객체/트레이스 쌍에서 잔여 기록이 명령 의미론과 결정 시 메타데이터를 통해 각각 40에서 17, 13으로 감소했으며, 11개 고정-SHA 실행에서 메타데이터 잔여 기록이 0까지 감소했다.
시사점 에이전트 시스템의 승인 랜더링 문제를 인식하고, 승인 전에 실행 경로의 전이적 영향을 예측하고 기록하는 방법을 도입해야 한다.
도구 호출 기반 대형 언어 모델(LLM) 에이전트에서 지속적 청구 상태(persistent billable state)를 정의하고, 이를 악용한 6가지의 지갑 거부 공격 벡터를 제시한다. 243회 실행에서 최대 14,293배의 입력 증가를 관찰했으며, 방어 기법으로 압축 성공률 10/12~11/12를 달성했다.
시사점 LLM 에이전트의 도구 호출 기반 청구 상태 관리가 필요하며, 지속적 청구 상태를 제어하는 방어 기법을 도입해야 한다.
다단계 LLM 기반 사이버 에이전트가 공격 흐름을 완료하지만 취약하고 비용이 많이 든다는 점을 분석했다. 6개의 최첨단 모델을 기업 유사 환경에서 평가하여 병목 현상이 자격 증명 및 측면 이동 작업에 집중되고 완전 자율 운영 시 더 다양하게 나타난다는 것을 보였다.
시사점 이 연구는 사이버 에이전트 시스템의 신뢰성 평가 시 성공률 외에도 증거 해석, 자원 사용, 실패 후 적응을 함께 평가해야 한다는 점을 시사한다.
동영상 생성 에이전트 시스템에서 생성된 실행 추적이 검증기의 판단을 왜곡하는 문제를 분석하고, 이로 인해 검증기의 실제 통과율이 낮아지는 현상을 보인다. 실험 결과, 실행 추적이 성공적인 도구 호출을 보고하면 78~90%의 실패 동영상이 수용되고, 모순적인 추적이면 100%의 올바른 동영상이 거부된다.
시사점 동영상 생성 에이전트 시스템의 검증 과정에서 실행 추적 정보가 검증기의 판단을 왜곡시킬 수 있으므로, 검증 시 실행 추적을 제외하고 순수하게 시각 정보만을 기반으로 판단하는 방식이 필요하다.
LLM이 코딩 에이전트를 통해 작동할 때 모델 식별을 위해 실행 동작을 분석하는 새로운 지문 추출 기법인 LIDAR를 제안한다. 36개 모델에서 Top-1 정확도와 MRR에서 기존 기법을 초과하는 성능을 보인다.
시사점 이 연구는 코딩 에이전트 환경에서 LLM 모델 식별을 위한 새로운 접근법을 제시하여, 모델의 보안성과 신뢰성을 평가하는 데 유용할 수 있다.
니지리아 핀테크 이메일의 피싱을 탐지하기 위해 Gmail 브라우저 확장 프로그램을 제안하고 보낸 사람 도메인 및 URL 확인과 BiLSTM 분류기를 통합하였다. 8,943개 테스트 메시지에서 99.99% 정확도, 100.00% 정밀도, 99.98% 재현율, 99.99% F1 점수를 기록하였다.
시사점 이 연구는 Gmail 사용자에게 니지리아 핀테크 이메일의 피싱을 탐지하는 프로토타입 확장 프로그램을 제공하여 피싱 공격에 대한 인식을 높일 수 있다.
연구팀은 대규모 언어 모델의 잔여 스트림을 통해 정보를 유출하는 새로운 공격 기법을 제시한다. 11개 모델에서 91~100%의 복구율을 기록했으며, 기존 탐지기는 무작위 추측 수준이었다.
시사점 이 연구는 LLM의 중간 활성화 데이터를 통해 정보가 유출될 수 있음을 보여주어, 보안 환경에서의 모델 사용 시 주의가 필요하다.
LLM 에이전트가 외부 도구 응답의 타이밍을 결정 과정에 사용하는 점을 악용한 적대적 예약 공격 기법을 제안한다. GPT-5.6 Sol, Gemini 3.6 Flash, DeepSeek V4 Flash, Claude Sonnet 4.6에서 실험한 결과, 응답 도착 순서를 조작해 최종 결정을 바꿀 수 있음을 보인다.
시사점 LLM 에이전트의 도구 응답 타이밍을 조작하는 공격이 가능하므로, 실무에서는 응답 순서의 일관성을 보장하는 방어책을 고려해야 한다.
전통적인 반응형 보안 기술이 현대 사이버 위협에 부적합하다는 점을 지적하고, 에이전트 AI를 활용한 자율적이고 적응적인 사이버 방어 프레임워크를 제안한다. 프레임워크는 인지, 추론, 결정, 실행, 피드백 학습의 주요 기능 계층을 갖춰 분산 환경에서 능동적 위협 탐지와 동적 위험 평가, 조율된 완화 전략을 지원한다.
시사점 이 결과로 실무에서는 AI 기반의 자율적 사이버 방어 시스템 구축 방안을 고려해야 한다.
대형 모델 기반 구현 에이전트의 보안과 프라이버시 문제를 수명 주기별로 체계적으로 분석하고, 공격과 방어 기법을 검토한다. 종합적인 보호와 평가 방법의 한계를 드러낸다.
시사점 대형 모델 기반 구현 에이전트의 보안과 프라이버시를 수명 주기별로 이해하고, 종합적인 보호 전략을 수립해야 한다.
다중 에이전트 시스템에서 A2A 프로토콜의 이름 충돌 취약점을 분석하고, 공격자가 신뢰된 피어 이름을 악용해 요청을 잘못된 피어로 라우팅하는 방식을 실증했다. 7개의 오픈소스 릴리즈에서 테스트한 결과, 6개는 공격자 제어 피어의 엔드포인트를 선택했고, 1개는 라우팅 경로가 충돌해 접근 제어 상태에 따라 정보 탈취 또는 거부가 발생했다.
시사점 다중 에이전트 시스템을 사용하는 실무자는 요청 라우팅 시 신뢰할 수 있는 고정식 식별자를 사용하고, 이름을 단순히 표시용으로 제한해야 한다.
도구 사용 언어 모델 에이전트의 안전성은 모델과 해석 소프트웨어의 결합 속성임을 보인다. GPT-oss-20b 모델에서 단일 문자열 추가로 사고 체인을 억제하고, 40개 작업에서 추론 채널 토큰 수가 52.5에서 0으로 감소하며, 39.6%의 거부 요청이 완료된 데이터 유출로 전환된다.
시사점 도구 사용 에이전트의 안전성은 모델과 해석 소프트웨어의 결합 속성임을 인식하고, 입력 정화, 파서 강화, 빈 추론 탐지 등의 방어 전략을 고려해야 한다.
기존 CNN 암호분석적 추출 공격은 네트워크 아키텍처가 알려져 있음을 가정하지만, 본 연구는 최대 및 평균 풀링을 사용하는 CNN에서 아키텍처 가정을 제거할 수 있음을 증명한다. 가중치 벡터의 공간 기하학을 분석하여 풀링 타입, 윈도우 크기, 스트라이드 등을 복원할 수 있음을 보인다.
시사점 이 연구는 CNN 모델의 아키텍처와 파라미터를 동시에 추출할 수 있는 새로운 공격 기법을 제시하여, 모델 보호 및 보안 강화에 주의가 필요하다.
이 논문은 블록체인에서 최대 추출 가능 가치(MEV) 전략을 자동으로 생성하고 적응하는 다중 에이전트 프레임워크인 EVAGE를 제안한다. EVAGE는 이더리움, 베이스, BNB 스마트 체인에서 150만 개 이상의 블록을 평가하여 5가지 새로운 MEV 전략 변형을 발견하고, 수익 증가율 1.02~15.97배를 달성했다.
시사점 이 연구는 MEV 전략 개발을 자동화하여 블록체인 생태계에서의 경제적 이점을 극대화할 수 있음을 보여준다.
LLM 추론의 외주 처리 검증을 위해 샘플링된 계층별 증명(SLP) 프로토콜을 제안하고, 이를 구현한 프로토타입을 제시한다. 1.1B 모델에서 47개 청크 중 7개를 증명하는 데 전체 시간의 22.0%와 증명 크기의 6.8%만 소요된다.
시사점 SLP는 LLM 추론 검증의 효율성을 높여, 클라우드 환경에서의 신뢰성 있는 모델 사용을 가능하게 한다.
IOT 보안을 위해 연방 학습과 티니ML 기반 모델 압축 기법을 결합하여 침입 탐지 시스템을 설계하고, 코사인 학습률 스케줄링을 통해 공격 탐지율을 46.7%에서 93.85%로 향상시켰다. 모델 압축과 에지 배포 효율성을 동시에 달성했다.
시사점 IOT 침입 탐지 시스템에서 연방 학습과 티니ML 기법을 결합하면 프라이버시 보호와 에지 기기에서의 효율적인 배포가 가능하다.
소셜 미디어 플랫폼에서 사용되는 대규모 언어 모델 기반 에이전트의 취약성을 분석하고, 추천 시스템의 투표 점수 메커니즘을 악용한 다단계 중독 공격 알고리즘을 제안한다. 실험 결과, 제안된 알고리즘이 투표 점수 피드백 루프를 통해 사용자-게시물 유사도가 검색 임계값 이하일 때에도 중독된 게시물을 추천 시스템이 선택하게 만드는 것을 보인다.
시사점 이 연구는 소셜 미디어 플랫폼에서 자동화된 에이전트의 추천 알고리즘을 악용할 수 있음을 보여주어, 추천 시스템의 보안 강화 필요성을 강조한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.