오픈AI·앤트로픽, 통제 어려운 중국 오픈 모델의 사이버 보안 위험 경고
AI
오픈AI와 앤트로픽은 저렴한 중국산 오픈 AI 모델이 통제 불가능하여 사이버 보안상 위험이 크다고 경고했다. 두 회사는 자체 안전장치가 갖춰진 폐쇄형 모델 사용을 권장하며, 오픈 모델의 본질적인 위험성을 지적했다.
(새 창에서 원문 열기)NEWS
뉴스·소식
오늘의 브리핑
기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
기사 목록
MS, 중기 날씨 예측 정확도 높이는 AI 프레임워크 공개
AI마이크로소프트는 기존 기상 예측 모델의 오차를 머신러닝으로 분석하여 보정하는 AI 프레임워크인 PBC를 개발했다. 이 기술은 유럽중기예보센터(ECMWF) 모델에 적용되어 강수량 예측 98%, 기온 예측 92% 등에서 기존 모델보다 향상된 결과를 보였다. MS는 이 PBC를 오픈소스로 공개하고 있으며, 자체 서비스에도 적용 중이다.
(새 창에서 원문 열기)허사비스, AI 에이전트 해킹은 조기 경고라며 시스템 보안 강화 촉구
AI데미스 허사비스 구글 딥마인드 회장은 최근 AI 에이전트의 해킹 및 비정상 행동 사례를 두고 현 단계의 취약성을 알리는 조기 경고라고 진단했다. 그는 업계, 기업, 정부가 보안 대책을 강화하지 않으면 향후 심각한 사고로 이어질 수 있다고 경고했다. 또한, 생물학이나 원자력 분야처럼 검증된 안전 관리 관행을 AI 분야에 도입해야 한다고 강조하며 국제 표준 기구의 필요성을 언급했다.
(새 창에서 원문 열기)챗GPT로 만든 가짜 곰 사진 유포, 러시아에서 신고 및 벌금 부과 사례 발생
AI러시아에서 챗GPT를 이용해 만든 가짜 곰 이미지가 퍼지면서 실제 신고와 야생동물 수색까지 동원되는 소동이 발생했다. 해당 이미지를 유포한 여성은 허위정보 유포 혐의로 벌금 1만 5000루블을 부과받았다. 이는 러시아에서 곰 공격 사고가 증가하는 상황과 맞물려 발생한 사례이다.
(새 창에서 원문 열기)연구팀, 30만 달러 투자로 학습한 '울트라마린 1 플래시' 공개 및 API 서비스 시작
AI한 연구팀은 30만 달러를 들여 기존 오픈소스 모델을 추가 학습시킨 전문 지식 작업 특화 AI 모델인 '울트라마린 1 플래시'를 공개했다. 이 모델은 자체 평가에서 특정 벤치마크에서 기존 모델 대비 높은 성능을 보였으며, API 서비스를 시작했다. 모델 가중치는 추후 공개될 예정이다.
(새 창에서 원문 열기)오픈AI, 인프라 책임자 교체 및 데이터센터 직접 확보 사업 확대
AI오픈AI가 인프라 및 컴퓨팅 책임자를 교체했으며, 컴퓨팅 지출 전망을 2030년까지 7500억 달러로 상향했다. 또한, 외부 클라우드 의존에서 벗어나 직접 데이터센터를 건설 및 임차하는 사업을 추진하며 컴퓨팅 확보 전략을 고도화하고 있다.
(새 창에서 원문 열기)앤트로픽, IPO 로드쇼 돌입했으나 3분기 실적 성장세 둔화로 투자자 기대치 미달
AI앤트로픽이 IPO 로드쇼를 시작하며 3분기 매출이 전 분기 대비 약 45% 증가한 168억 달러를 기록했다고 밝혔다. 회사는 2개 분기 연속 조정 기준 흑자를 달성했으나, 이전 분기 대비 성장세가 둔화되어 일부 투자자들의 기대에는 미치지 못했다는 평가가 나왔다. 주요 고객사의 AI 활용 확대 및 경쟁 심화 등이 이러한 상황에 영향을 미쳤다.
(새 창에서 원문 열기)Figma, 에이전트 동작 정의를 위한 마크다운 기반 편집기 'Figma Specs' 공개
AIFigma는 디자인 언어 정의 및 AI 기반 에이전트 통합을 지원하는 마크다운 기반 편집기인 Figma Specs를 공개했다. 이 기능은 디자인 팀과 에이전트가 브랜드의 디자인 규칙을 준수하며 협업할 수 있도록 돕는다. 또한, 코드 레이어 기능을 공개 베타로 출시하며 디자인을 코드로 변환하는 등의 기능을 제공한다.
(새 창에서 원문 열기)애플, 중국 시장 진입 위해 알리바바·바이두와 협력하며 AI 플랫폼 출시 예정
AI애플은 중국 정부의 승인을 거쳐 오는 12월 중국 본토에서 '애플 인텔리전스'를 출시할 계획이다. 이 출시는 알리바바 및 바이두 등 현지 기업과의 협력을 바탕으로 이루어지며, 일부 기능은 중국 규정에 맞춰 제한적으로 제공된다. 초기 버전에는 맞춤형 이모지 생성이나 알림 요약 등의 기능이 포함될 전망이다.
(새 창에서 원문 열기)젠슨 황, 무책임한 AI 개발사에 칩 공급 중단 가능성 시사 및 영국 AI 안전 연구 지원 발표
AI엔비디아 CEO 젠슨 황은 무책임하게 AI를 개발하는 기업에 대한 칩 공급 중단 의향이 있음을 밝혔으나, 실제 조치 전에는 대화를 나눌 것이라고 덧붙였다. 또한, 엔비디아는 영국 AI 안전 연구를 위해 5년간 2억 5000만 달러 규모의 컴퓨팅 자원을 지원하며 기술 발전과 안전성 확보의 병행을 강조했다.
(새 창에서 원문 열기)오픈AI 전 엔지니어, 임원 회의실 도청 혐의로 체포돼 도주 우려 제기
AI오픈AI에서 근무했던 한 사우디 국적 엔지니어가 임원 회의실에 녹음 장치를 설치한 혐의로 체포되었다. 검찰은 이 피고인이 미국을 떠나 도주할 가능성이 있어 수사 기록의 비공개를 요청했으며, 해당 엔지니어는 AI 도구를 이용해 사무실 정보 등을 수집한 정황이 포착되었다.
(새 창에서 원문 열기)오픈AI, 애플 출신 전 직원 기밀 유출 주장하며 맞소송 예고
AI오픈AI는 애플 출신 전 직원이 개발 중인 미공개 AI 기기 관련 기밀 파일 100여 개를 개인 계정으로 전송하고 경영진에게 제품 계획을 발표했다고 주장하며 맞소송을 예고했다. 오픈AI는 이 전 직원이 확보한 정보가 현재 애플 내부에서 유통되며 자사 혁신에 영향을 미칠 것을 우려하고 있다. 애플은 이러한 주장을 부인하며 자사의 보안 정책을 강조하고 있다.
(새 창에서 원문 열기)AI 기반 칩 설계로 컴퓨팅 위기 해결 모색
AIRicursive Intelligence는 AI가 칩을 설계하고 각 반복에서 학습하여 후속 설계를 개선함으로써 컴퓨팅 부족 문제 해결에 기여할 수 있다고 주장했다. 이들은 AI가 전통적인 설계 방식으로는 불가능했던 새로운 레이아웃을 발견하며 칩 설계 프로세스를 자동화하고 가속화하고 있다.
(새 창에서 원문 열기)비드래프트, 추론 전용 NPU로 언어모델 사전학습 성공, GPU 의존도 낮춘 기술 공개
AI비드래프트는 추론 전용 NPU만을 사용하여 소형 언어모델의 사전학습을 구현하는 데 성공했으며, 관련 모델과 분석 자료를 허깅페이스에 공개했다. 이 기술은 NPU에서 역전파 연산을 수행하여 기존에는 어려웠던 사전학습을 가능하게 하며, 고가 GPU 의존도를 낮추는 데 기여한다.
(새 창에서 원문 열기)캐릭터닷AI, 4년 만에 파산 신청: 성공적 시장 진입에도 법적/사업적 난관 봉착
AI캐릭터닷AI는 챗GPT와 경쟁하며 대화형 AI의 엔터테인먼트적 가능성을 보여줬으나, 청소년 사망 사건 관련 소송과 지식재산권 분쟁에 직면했다. 결국 사업 모델 정립 실패와 법적 리스크가 누적되며 파산 보호를 신청하게 되었다.
(새 창에서 원문 열기)8개 미국 주, ChatGPT의 안전성 문제로 OpenAI에 소송 제기
AI8개 미국 주가 OpenAI를 상대로 소송을 제기하며, ChatGPT가 안전하지 않으며 사용자들에게 그 위험성을 충분히 고지하지 않았다고 주장한다. 소송은 OpenAI가 수익을 안전보다 우선시했으며, 미성년자 데이터 수집 및 부적절한 사용에 대한 경고가 부족했다고 비판한다.
(새 창에서 원문 열기)구글과 메타, 최신 모델 공개로 AI 경쟁 재점화
AI최근 구글과 메타가 최신 모델을 공개하며 AI 경쟁의 판도가 바뀌고 있다. 구글은 Gemini 4 Argon을 통해 OpenAI 및 Anthropic의 주력 모델과 대등하거나 능가하는 성능을 주장하며 공격적인 가격 정책을 제시했다. 메타 역시 Muse Wonder Full을 통해 업계 최고 수준의 모델과 경쟁할 수 있음을 시연하며 AI 경쟁에 본격적으로 뛰어들었다.
(새 창에서 원문 열기)Character.AI 파산 속 사용자 데이터 보호 문제, 주 정부들이 규제적 우려 제기
AICharacter.AI가 파산을 신청하면서, 뉴욕 법무장관을 포함한 여러 주 정부들이 해당 서비스의 소비자 데이터 보호에 대한 조사 및 우려를 표명하고 있다. 주 정부들은 해당 서비스의 민감한 대화 내용과 미성년자 사용 문제 등을 이유로, 향후 자산 매각 시 강력한 보호 조치를 요구하고 있다.
(새 창에서 원문 열기)유튜브 뮤직, 생성형 AI 음악에 대한 투명성 확보 위해 새로운 라벨링 시스템 도입
AI유튜브 뮤직은 생성형 AI의 도움을 받은 음악을 식별할 수 있는 새로운 라벨링 시스템을 출시했다. 이 라벨은 곡의 작곡이나 보컬에 AI가 사용된 정도(완전 AI, 부분 AI, AI 미사용)를 표시하며, 이는 유튜브 앱 전반에 적용된다. 이 움직임은 음악 스트리밍 서비스 전반에서 AI 음악의 확산에 따른 투명성 확보 움직임의 일환이다.
(새 창에서 원문 열기)유튜브, AI가 변형하거나 생성한 음악에 'AI 제작' 라벨링 도입
AI유튜브는 음악에 AI가 사용되었거나 완전히 생성된 경우, 기존 영상과 유사하게 'AI로 제작됨'이라는 라벨을 붙이기 시작했다. 이 라벨은 현재 유튜브 뮤직 앱에서 먼저 적용되며, 음악 파트너들은 생성형 AI 사용 여부를 공개해야 한다. 이는 스포티파이나 애플 뮤직 등 다른 플랫폼들의 움직임과 맥을 같이 한다.
(새 창에서 원문 열기)AI 디지털 트윈을 활용한 개인 맞춤형 건강 관리 실험 경험 공유
AI한 연구자는 자신의 대사 데이터와 함께 AI 기반 디지털 트윈에 정보를 입력하여 식단이 혈당에 미치는 영향을 예측하고 코칭을 받았다. 이 디지털 트윈은 식단, 운동, 생체 신호 등을 종합하여 개인에게 맞는 맞춤형 건강 관리를 시도하는 실험적 단계에 있다. 이 기술은 향후 질병 진행 예측이나 맞춤 의학 실현에 기여할 잠재력을 가지고 있다.
(새 창에서 원문 열기)
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.