프라이빗 허브(PrivateHub): 대조 확산 모델을 활용한 개인 정보 보호 센서 집약 환경 데이터 생성
센서 집약 환경에서 개인 정보 보호를 위해 대조 학습 기반 확산 모델을 제안하고, 3개의 실제 데이터셋에서 개인 활동 탐지 정확도를 40~50% 감소시켰다. 비개인 활동 성능에는 영향을 주지 않았다.
센서 데이터를 활용한 서비스에서 개인 정보 보호를 강화할 수 있는 새로운 기법을 제시한다.
프라이버시확산 모델대조 학습센서 데이터
RESEARCH
연구·리포트 참고 자료
프라이버시 보호를 위한 이질적 다중 LLM 연방 추론 프레임워크
AI 기반 교육 시스템에서 프라이버시 보호와 정확한 인지 진단의 균형 문제를 해결하기 위해, 여러 상용 LLM API가 원시 학생 데이터나 프로퍼티 모델 내부에 접근하지 않고 협력하는 연방 추론 프레임워크를 제안한다. 이 프레임워크는 LLaMA-3.3-70B, GPT-4o-mini, Claude-3-Haiku 등의 이질적 다중 LLM 아키텍처를 기반으로 하며, epsilon-로컬 차분 프라이버시를 통해 각 엔티티의 예측 출력에 래플레 노이즈를 추가하고 잔차 기반 집계를 통해 모델 이질성을 완화한다.
이 연구는 AI 교육 시스템에서 학생 데이터의 프라이버시를 보호하면서도 정확한 인지 진단을 가능하게 하는 연방 추론 프레임워크를 제시하여, 교육 기술 분야의 실무자들에게 프라이버시 보호 기술 적용 방안을 제시한다.
프라이버시 보호이질적 다중 LLM연방 추론차분 프라이버시
차분 프라이버시 선형 질의에 대한 무작위성-유틸리티 교환 관계 극복
차분 프라이버시 기반 선형 질의 응답에서 무작위성과 유틸리티의 교환 관계를 개선한 새로운 알고리즘을 제안한다. $\ell_\infty$-오차 기준에서 $O(d / \varepsilon)$ 오차로 $d$개의 선형 질의를 처리하는 데 $O(\log d)$ 개의 무작위 비트를 사용한다.
차분 프라이버시 기법에서 무작위성과 정확도의 균형을 더 효율적으로 맞출 수 있는 알고리즘이 제안되었다.
차분 프라이버시선형 질의무작위성 효율오차 분석
독립성 없이도 가능한 프라이버시 증폭: 음의 상관관계가 Poisson subsampling의 보장을 얼마나 이어가나
Poisson subsampling의 독립성에 기반한 프라이버시 증폭 메커니즘을 분석하고, 음의 상관관계가 이 메커니즘을 얼마나 확장할 수 있는지 이론적으로 규명했다. 음의 상관관계가 있는 경우, 정수 R\'enyi 순서 $\alpha\ge2$에서 독립적인 경우와 동일한 R\'enyi 발산을 보인다.
이 연구는 실무에서 구조화된 참여 방식을 사용할 때 프라이버시 증폭 계산의 한계와 대안을 제공하여, 미분 프라이버시 시스템 설계에 중요한 지침을 준다.
미분 프라이버시(differential privacy)Poisson subsampling음의 상관관계(negative association)R\'enyi 발산
TTS 모델에 대한 멤버십 추론 공격(Membership Inference Attacks) 프레임워크
이 연구는 텍스트-음성(TTS) 모델에 대한 멤버십 추론 공격(MIA) 프레임워크를 제안한다. TTS 모델의 멀티레벨 음성 특성과 시간적 변이성을 고려한 대표성 공학과 쿼리 생성 기법을 통해, 세 가지 최신 TTS 모델에서 멤버십 정보를 0.80~1.0의 AUC로 추론할 수 있음을 보인다.
이 연구는 TTS 모델이 개인 음성 데이터를 통해 학습되었을 때의 개인정보 유출 위험성을 입증하여, 보다 강력한 프라이버시 보호 기법의 필요성을 강조한다.
TTS멤버십 추론 공격프라이버시음성 합성
프라이빗 컴퓨팅 스페이스: 농업을 위한 신뢰할 수 있는 다중 클러스터 연방 학습 경험
PCS는 농업 분야에서 농부의 데이터와 신원을 보호하면서 모델 유틸리티를 유지하도록 설계된 보안 머신러닝 시스템이다. 뉴욕과 캘리포니아에서 6개월과 10개월간 각각 농업 모니터링 및 예측 작업을 평가하여 DSC 0.71, R² 정확도 0.84를 달성했으며, 단일 사이트 모델 정확도를 각각 22.4%와 9.1% 개선했다.
PCS는 농업 분야에서 데이터 프라이버시를 보장하면서 모델 성능을 향상시키는 시스템으로, 농업 기술의 채택을 촉진할 수 있다.
프라이버시연방 학습보안 머신러닝농업 기술
Mixnets을 위한 익명 서비스 프로토콜 (NymHS)
Mixnets에서 수신자 익명성을 보호하는 새로운 프로토콜 NymHS를 설계하고, 웹 브라우징 실험을 통해 그 실용성을 입증했다. 10 KiB의 Sphinx 페이로드를 사용하면 평균 페이지 로드 지연이 약 5.2배 감소하고 통신 오버헤드는 4.3%로 줄었다.
NymHS는 Mixnets 기반 익명 통신 시스템에서 수신자 보호를 강화할 수 있는 실용적인 프로토콜로, 실무에서 익명성 향상에 활용될 수 있다.
Mixnets익명 통신NymHSSphinx 페이로드
위치가 중요하다: 토큰 축소 및 섞기로 ViT 분할 추론의 특징 역전 공격
ViT 분할 추론 시스템에서 토큰 축소와 섞기가 개인정보 보호에 미치는 영향을 분석하고, 새로운 공격 기법인 SARA를 제안하여 토큰 위치 정보를 복원하는 방법을 보인다. 토큰 섞기는 보안 효과가 제한적이고, 토큰 축소는 충분한 의미와 위치 정보가 남아 있으면 유출이 발생함을 실증한다.
ViT 분할 추론 시스템에서 토큰 섞기만으로는 개인정보 보호가 어렵고, 토큰 축소와 보완적 방어 기법을 함께 적용해야 한다.
Vision Transformer분할 추론특징 역전 공격토큰 축소
데이터 보호 영향 평가 및 그 이상에서의 구성적 위험 식별
개인 데이터가 협력 서비스 제공업체에 의해 분산 처리될 때 발생하는 구성적 프라이버시 위험을 식별하는 새로운 프로토콜을 제안한다. 이 프로토콜은 데이터 보호 영향 평가의 결과를 개선하기 위해 구성적 위험 후보를 식별하는 방법을 제시한다.
이 연구는 서비스 조합에서 발생할 수 있는 구성적 프라이버시 위험을 식별하는 프로토콜을 제안하여, 기업이 데이터 보호 영향 평가를 보다 효과적으로 수행할 수 있도록 지원한다.
프라이버시데이터 보호구성적 위험서비스 조합
CRSF: 공모 저항형 프라이버시 보호 센서 융합
센서-서버-클라이언트 구조에서 프라이버시 보호 센서 융합 기술을 개선한다. PBFT 기반 합의 단계와 서버별 라벨 해제를 도입하여 온라인 실행 시간을 평가했다.
센서와 서버의 공모 및 비잔틴 조작을 방지하는 CRSF 프로토콜을 통해 센서 융합 보안을 강화할 수 있다.
프라이버시 보호센서 융합비잔틴 내성PBFT
MultiGait: 다중 센서·다중 관점·다중 세션 생체 인식 추론 벤치마크 및 데이터셋
다양한 스마트 시티 센서에서 보행 특징을 분석하여 개인정보 유출 가능성에 대한 연구를 위한 데이터셋 MultiGait를 구축하고, 8가지 센서, 4가지 관점, 3가지 기록 세션을 통해 정량적 벤치마크를 수행하였다. 199명의 다양한 보행 모드와 개인 속성 정보를 포함하고 있어, 교차 센서 인식 및 엣지에서의 익명화 연구에 기초가 될 수 있다.
이 연구는 스마트 시티 센서의 개인정보 유출 가능성에 대한 체계적인 분석을 가능하게 하며, 특히 보안 친화적 센서라고 여겨지는 기술에서도 신원 추론 위험이 존재함을 보여준다.
MultiGait스마트 시티 센서보행 분석개인정보 유출
확장현실(XR)에서 움직임 데이터 프라이버시의 체계적 분석(SoK)
XR 장비는 사용자의 움직임을 추적하여 몰입감 있는 3D 경험을 제공하지만, 이 과정에서 민감한 정보를 노출할 수 있다. 134개 논문을 검토하여 공격 벡터, 추론 위험, 방어 방법을 체계화하고 향후 연구 방향을 제시한다.
XR 기기 사용 시 움직임 데이터의 프라이버시 위험을 인식하고, 제안된 방어 전략과 향후 연구를 주목해야 한다.
프라이버시확장현실(XR)움직임 추적시스템화 연구(SoK)
차분 프라이버시(DP) 기반 테이블-이미지 다중 모달 데이터 합성
차분 프라이버시(DP)를 적용한 테이블-이미지 다중 모달 데이터 합성 기법을 제안한다. 테이블 분포를 위한 확률 그래픽 모델과 조건부 이미지 분포를 위한 DP-SGD 기반 확산 모델을 결합하여, 테이블과 이미지 간 의존성을 보존하면서 데이터 신뢰도와 모달 간 정렬을 균형 있게 달성했다.
차분 프라이버시를 고려한 테이블-이미지 데이터 합성 기법을 개선하여, 의존성을 유지하면서 데이터 품질을 높이는 방안을 제시한다.
차분 프라이버시다중 모달 데이터확률 그래픽 모델DP-SGD
NeuroPriv: 웨어러블 EEG 시스템에서의 프라이버시를 위한 적대적 표현 학습
웨어러블 EEG 시스템에서 사용되는 공통 EEG 특징이 인지 상태 분류를 지원하는 동시에 참가자 신원 및 인구통계 정보를 유추할 수 있음을 보인다. NeuroPriv를 통해 인지 상태 분류 성능을 유지하면서 신원 및 인구통계 유추 정확도를 각각 0.206, 0.467, 0.563으로 감소시켰다.
웨어러블 뇌파 장치 사용 시 신원 및 인구통계 정보 유출 위험이 있으며, NeuroPriv를 통해 프라이버시 보호를 강화할 수 있다.
NeuroPriv웨어러블 EEG프라이버시적대적 표현 학습
DP-VOXLET: 분리된 음성 표현을 위한 증명 가능한 화자 익명화
화자의 음성을 익명화하면서 의미와 톤은 유지하는 기술을 제안한다. 기존 휴리스틱 기반 익명화 시스템과 달리, 이 접근법은 어떤 적대자라도 재식별 성공률을 보장한다.
이 연구는 익명화 기술의 신뢰성을 높이는 데 기여할 수 있으며, 음성 데이터를 사용하는 기업에서 개인정보 보호를 강화하는 데 활용될 수 있다.
음성 익명화차분 프라이버시재식별disentangled representations
KORD: 딜러 없는 FSS에서 키 생성 병목 현상을 해결하는 프로토콜-하드웨어 공동 설계
이 연구는 딜러가 없는 기능 비밀 공유(FSS)에서 키 생성 과정의 병목 현상을 해결하기 위해 특수 목적 칩을 활용한 프로토콜-하드웨어 공동 설계인 KORD를 제안한다. KORD는 기존 프로토콜 대비 키 생성 통신량을 7,633~70,274배 감소시키고, ResNet-18 추론에서 키 생성에 소요되는 시간 비중을 96%에서 11.9%로 줄였다.
이 연구는 딜러 없는 FSS의 실용성을 높이기 위해 하드웨어와 프로토콜을 통합 설계한 사례로, 실무에서는 키 생성 과정의 효율성을 개선할 수 있다.
FSS프로토콜-하드웨어 공동 설계비밀 공유보안 계산
클라우드-엣지 협력 디코딩에서의 프라이버시 유출 감사 및 완화
클라우드-엣지 협력 디코딩에서 프라이버시 유출 위험을 분석하고, CoVeil이라는 방어 메커니즘을 제안한다. CoVeil은 디코딩 시 유출을 최대 87.2%까지 줄이며 정확도 손실은 최소화한다.
CoVeil을 통해 클라우드-엣지 협력 시스템에서 프라이버시와 유틸리티의 균형을 실현할 수 있다.
프라이버시 유출클라우드-엣지 협력CoVeilLLM
설계된 신원, 우연한 인구통계: 행동 생체 인증 임베딩에서 인구통계 유출과 억제
행동 생체 인증(BBA) 시스템에서 신원을 인증하는 임베딩이 성별, 나이, 키 등의 민감한 인구통계 정보를 우연히 유출할 수 있음을 보인다. 11개 모델과 9개 데이터셋을 사용한 체계적 분석을 통해 4가지 억제 기법의 성능을 평가한다.
BBA 시스템 설계 시 인구통계 정보 유출을 방지하기 위한 억제 기법을 고려해야 한다.
behavioral biometric authenticationdemographic leakageprivacysuppression methods
CBDC 은행 간 결제 시스템의 완화된 발신자 익명성: 권한 있는 EVM에서의 제로페이스 접근
CBDC 은행 간 결제 시스템에서 블록체인의 투명성과 상업적 민감 정보 보호 간의 갈등을 해결하기 위해, 규제 요구사항에 맞춘 완화된 발신자 익명성 모델을 제안한다. Hyperledger Besu를 사용한 프로토콜 구현에서 8-16초의 종단 간 결제 시간과 1ms의 증명 검증 오버헤드를 보인다.
이 연구는 CBDC 결제 시스템에서 익명성과 투명성을 균형 있게 유지하는 새로운 프로토콜을 제시하여, 금융 기관의 상업적 정보 보호와 규제 준수를 동시에 달성할 수 있는 실용적 접근법을 제시한다.
CBDC제로페이스 증명익명성블록체인
사용자 중심의 컨텍스트 인식 권한 관리 프레임워크
기존 모바일 OS의 권한 모델은 앱 세션 단위로 권한을 부여해 사용자가 데이터 접근 시점을 알기 어렵다. 컨텍스트에 따라 권한을 제어하는 프레임워크를 제안하고, 104명의 설문과 8명의 테스트를 통해 초기 평가를 수행했다.
이 연구는 모바일 기본 앱의 권한 관리를 개선해 사용자 이해도를 높이는 방안을 제시한다.
모바일 보안권한 관리프라이버시사용자 인터페이스
FISGuard: 멤버십 추론 공격을 위한 고정 입력 부분공간 방어
FISGuard는 멤버십 추론 공격을 방어하기 위해 고정된 저차원 표현 부분공간을 구축하는 방식을 제안한다. 실험 결과, FISGuard는 ProjRes 공격의 AUC를 0.5 수준으로 낮추며, 다운스트림 작업 성능을 유지하고 계산 오버헤드가 적은 것을 보였다.
FISGuard는 멤버십 추론 공격에 효과적인 방어 기법으로, 분산 학습 환경에서 개인정보 보호를 강화할 수 있다.
FISGuard멤버십 추론(membership inference)프로젝션 잔차(ProjRes)저차원 표현 부분공간
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.