연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
연구진은 웹에서 얻은 코드를 기반으로 식별자 이름만 변경하여 AI 코딩 에이전트를 공격하는 NameTrap이라는 소스 코드 오염 공격을 개발했다. 이 공격은 6개 에이전트, 10개 언어 모델, 4가지 취약점 범주에 걸쳐 22.5%에서 최대 75.0%의 공격 성공률을 달성했다.
시사점 웹 콘텐츠를 소비하는 AI 에이전트의 코드베이스에 대한 신뢰할 수 없는 입력은 공격 표면으로 작용할 수 있으므로 이에 대한 주의가 필요하다.
본 연구는 RAG 시스템의 핵심인 ANN 검색에 대해, 기존의 $O( ext{N}^{0.5})$ 시간 복잡도를 가지던 MPC 기반 프로토콜을 개선하여 $O( ext{log N})$ 검색 시간을 달성하는 HNSecW 프로토콜을 제안하였다. 실험 결과, HNSecW는 평문 HNSW의 높은 정확도($ ext{recall} ext{ } ext{90} ext{ extperthousand}$ 이상)를 유지하면서도 이전 연구 대비 $20 imes$ 이상의 효율성 향상을 보였다.
시사점 ANN 검색을 MPC 환경에서 수행할 때, 검색 시간을 로그 시간 복잡도로 줄이는 새로운 프로토콜을 적용할 수 있다.
본 연구는 명령어 출처, 보안 플래그 등의 추가 힌트를 활용하여 기존 모니터링 시스템의 네 가지 실패 모드를 효과적으로 극복하는 방법을 제시하였다. 이러한 힌트 증강은 계산 비용을 최소화하면서도 모니터링 성능을 크게 향상시키고 탐지 실패를 거의 완전히 제거함을 확인하였다.
시사점 에이전트 시스템의 모니터링 정확도를 높이려면 명령어의 출처나 보안 상태와 같은 보조적인 맥락 정보를 함께 제공하는 것이 효과적이다.
본 연구는 CVE를 MITRE ATT&CK 기법으로 매핑하기 위해 다중 출처의 구조적/의미적 증거를 통합하여 후보군을 구성하고, 이를 기반으로 재순위를 매기는 TRACE 프레임워크를 제안했다. 이 프레임워크는 ATT&CK 검색 공간을 약 60% 줄이면서도 95.11%-100%의 CVE에 대해 최소 하나의 정답 기법을 유지하는 것으로 평가되었다.
시사점 이 접근 방식은 취약점 정보를 공격자 행위에 대한 통제 가능하고 일반화 가능한 연결 고리로 변환하는 데 도움을 준다.
본 연구는 양자 컴퓨터의 위협에 취약한 분산 사이버-물리 시스템(CPS)을 위해, 암호학적 시대(cryptographic epochs) 간의 인증된 전환을 통해 키 노출을 제한하는 회전 비밀성(rotational secrecy)을 도입하였다. 제안된 PARS-ESL은 권한 있는 검증자 또는 엣지 게이트웨이가 유지하는 블록체인에 보안 상태를 기록함으로써, 자원 제약적인 에이전트가 경량 클라이언트로서 참여할 수 있음을 보여주었다.
시사점 블록체인 기반의 양자 내성 키 에포크 관리는 특정 엣지 AI 및 CPS 보안 제어 워크로드에 대해 실현 가능한 것으로 나타났다.
본 연구는 검색 시점에 적용되는 필터 기반 방어 기법이 공격 시퀀스 구축 방식에 의해 성능이 결정됨을 보여주었다. 공격 시퀀스에서 특정 접두사를 제거하거나 패딩을 통해 방어 필터의 탐지율을 크게 저하시키거나 높은 탐지율을 유지할 수 있음을 실험적으로 입증했다.
시사점 RAG 방어의 탐지 결과는 필터가 읽는 내용보다는 공격 시퀀스가 구축된 방식에 의해 좌우되므로, 방어 시스템의 구축 프로파일을 함께 고려해야 한다.
본 연구는 C 소스 코드 취약점 탐지에 다양한 코드 표현(원시 코드, AST, CFG)을 활용하는 접근법을 체계적으로 연구하고, 이를 통합한 Representation-Aware Logical Ensemble (RALE)을 제안했다. 단일 표현 모델이 최대 73% F1-점수를 달성한 반면, 통합 접근법은 78% F1-점수를 달성하며 정확도, 정밀도, 재현율 측면에서 향상된 성능을 보였다.
시사점 LLM을 이용한 취약점 탐지 시, 단일 코드 표현에 의존하기보다 다양한 코드 표현을 통합적으로 활용하는 것이 효과적이다.
본 연구는 파일 입출력, 프로세스 실행 등을 수행하는 LLM 에이전트를 운영체제(OS)처럼 취급하고, 19개 하위 시스템에 걸친 116개 메커니즘을 OS 개념과 비교 분석했다. 실험을 통해 에이전트의 권한 관리는 취약하며, 특히 권한 분리, 자원 할당량, 무결점 감사 등의 보호 기능이 부족함을 확인했다.
시사점 LLM 에이전트의 동작을 OS의 관점에서 분석할 때, 현재의 에이전트 구현은 운영체제가 제공하는 수준의 보안 보호 기능을 갖추지 못하고 있음을 알 수 있다.
연구진은 연결성이 제한된 환경에서 오프라인으로 구동되는 생성형 AI를 위해 연결성 레짐 프레임워크와 서명된 지식 팩을 제안하고 Raspberry Pi 5에서 실험하였다. 검색 점수 게이트는 지식 격차를 거의 완벽하게 탐지(AUROC 0.97)했으나, 특정 주제의 답변 불가 질문에 대해서는 낮은 성능을 보였다.
시사점 오프라인 엣지 환경에서 생성형 AI를 운영할 경우, 지식 팩의 무결성 검증만으로는 악의적으로 오염된 입력에 의한 오답 생성을 막을 수 없다.
연구진은 실제 어셈블리-C 함수 쌍과 CWE 주석을 포함하는 대규모 데이터셋을 구축하고, 신경망 디컴파일러를 활용한 엔드투엔드 프레임워크를 개발했다. 이 프레임워크는 테스트 세트에서 거시적 F1 점수 0.61을 달성하며 신경망 디컴파일링이 바이너리 취약점 탐지에 강력한 대안이 될 수 있음을 보여주었다.
시사점 신경망 디컴파일링은 낮은 수준의 바이너리 표현 대신 취약점 탐지를 위한 강력한 대안을 제공한다.
ProbeID는 표준화된 프로브(probe) 응답을 신뢰 기준과 비교하여 LLM 에이전트가 사용하는 도구의 정체성을 검증하며, 모호할 경우 판단을 유보한다. 이 방법은 특정 조건에서 16개 중 15개까지 오염된 작업을 걸러내는 성능을 보였다.
시사점 LLM 에이전트가 사용하는 도구의 신뢰성을 검증하는 새로운 접근 방식이 제시되었으며, 이는 도구의 응답 변화에 따라 그 유효성을 판단하는 데 활용될 수 있다.
본 연구는 LLM이 웹 증거를 기반으로 주장을 검증할 때, 평가자들의 오류가 누적되어 잘못된 결론에 도달할 수 있음을 증명하고 Astral이라는 프로토콜을 제안했습니다. Astral은 $f$명의 오류가 있는 평가자를 고려할 때, $2f+1$명의 동의를 얻을 때만 결론을 수용하며, 이는 다수결 투표 대비 공격 성공률을 각각 21.5-53.1%로 낮춥니다.
시사점 LLM 기반의 정보 검증 시스템을 구축할 때는 평가자들의 독립성과 오류 가능성을 고려한 합의 프로토콜이 필요하다.
본 연구는 F1 미드홀 인터페이스에 접근 가능한 가상화된 6G 지향 O-RAN 테스트베드를 대상으로 표적 공격 체인을 평가하였다. 이 공격은 합법적인 O-DU 연결을 방해하고, 관찰된 설정 매개변수를 사용하여 악성 O-DU를 삽입하며, 사용자 평면 트래픽을 가로챘다.
시사점 6G 및 O-RAN 네트워크의 취약점을 이해하고 방어 전략을 개발하는 것이 중요하다.
본 연구는 FHE 기반 MLaaS 환경에서 발생하는 높은 계산 오버헤드를 줄이기 위해 공개-비공개 레이어 분할 및 ReLU 근사 기법을 적용한 Pacifo 프레임워크를 제안했다. Pacifo는 최신 FHE 구현 대비 실행 시간을 3.7~21.7배 단축하면서도 원본 모델 정확도의 95%~99%를 유지했다.
시사점 FHE를 이용한 머신러닝 서비스 제공 시, 효율적인 모델 구조 및 연산 최적화가 필수적이다.
연구진은 자연어 명령과 실행 코드를 통합 분석하는 정적 분석 프레임워크인 SCS를 개발하여, 명령어와 코드를 통합 그래프로 변환하고 TSC 모델을 통해 보안 속성을 전파하여 위험을 탐지한다. 이 프레임워크는 검증된 벤치마크에서 평균 정확도 85.6%, 재현율 95.2%, F1 점수 86.9%를 달성했다.
시사점 LLM 에이전트의 명령어와 코드가 결합된 경우, 이들을 통합적으로 분석하는 도구가 공급망 보안 위험을 탐지하는 데 유용하다.
본 연구는 추론 시점에 CWE 데이터베이스에서 취약점 맥락을 검색하여 LLM의 코드 생성에 적용하는 SecGent 프레임워크를 제안했다. 이 프레임워크는 다양한 오픈소스 LLM과 Claude Sonnet 5.5를 대상으로 평가되었으며, 오픈 가중치 모델에서 RAG 대비 평균 기능-보안 성공률(FS@1)이 15.5% 향상되었다.
시사점 LLM 기반 코드 생성 시 추론 시점에 보안 지식을 통합하여 기능성과 보안성을 동시에 향상시킬 수 있는 접근법이 가능하다.
본 연구는 단일 모델에 존재하는 다양한 트리거 메커니즘을 가진 멀티-트리거 백도어 공격에 대응하기 위해 훈련 없는 Combinatorial Lock 방어 기법을 제안하였다. 이 기법은 공격 성공률(ASR)을 0.1%까지 낮추면서도 정상 정확도를 97.8% 유지하는 것을 확인하였다.
시사점 본 연구에서 제안된 Combinatorial Lock은 하드웨어 구현이 가능하며, 멀티-트리거 백도어 공격에 대한 새로운 방어 접근법을 제시한다.
본 연구는 AI 에이전트가 신뢰성, 권위 등의 단서를 악용하여 승인되지 않은 행동을 유도하는 합성 사회 공학(SSE)의 운영 프레임워크를 정의했다. 시뮬레이션에서 제한된 사전 합의가 있을 때, 권위 호소는 비승인 요청을 43.3%에서 96.7%로 증가시켰다.
시사점 웹 서비스 간의 협업 시, 증거 처리 성공 여부와 관계없이 행동 선택에 대한 보안적 고려가 필요하다.
본 연구는 네트워크 정보와 위치별 DER P/Q 설정값을 사용하여 선택된 송전 통로에 열적 부하를 극대화하는 협력 최적화 기반 공격(COBA)을 소개한다. 시뮬레이션 결과, COBA는 특정 조건에서 B86 및 B51 버스에 각각 약 30% 및 55%의 과부하를 유발함을 보였다.
시사점 DER 기반 전력 시스템에서 통신 채널을 통한 공격은 단순히 전체 침투율뿐만 아니라 토폴로지, 목표 선택, 명령 능력에 따라 열적 위험을 유발할 수 있다.
본 연구는 LLM 도입 결정을 지원하기 위해 일반적인 경제 모델을 개발하고, 이를 SOC 워크플로우에 적용하여 생산성 향상과 운영 비용을 균형 있게 고려하였다. 분석 결과, 대부분의 구성은 수익성이 없었으며, 높은 정확도와 낮은 불확실성을 가진 배포에서만 수익성이 나타났다.
시사점 조직은 LLM 도입 시 정확도, 오류 비용, 모델 가격 등의 요소를 고려하여 투자 대비 수익성을 정량적으로 판단해야 한다.
연구진은 HPC 시스템에서 실행되는 LLM 에이전트의 무단 실행 및 오용을 막기 위해 하드웨어 기반의 신뢰 루트를 갖춘 결정론적 보안 런타임인 Enclawed를 개발했다. 이 시스템은 정책 기반의 실행 게이트, 서명된 하트비트 기반의 임대 부여, 그리고 감독관을 통해 공격 시도를 차단하며, 실제 모델에서 24회의 시도 중 108회의 합법적 실행을 허용했다.
시사점 HPC 환경에서 LLM 에이전트를 운영할 경우, 실행 단계에서부터 물리적/소프트웨어적 수준의 강력한 감독 메커니즘을 도입해야 한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.