앤트로픽, AI가 인간 대신 정렬 작업 수행…안전성 크게 높였다
앤트로픽은 AI 에이전트를 활용해 모델의 정렬 실패를 완화하는 연구 결과를 발표했다. '자동화된 연구자(AAR)'가 10가지 주요 정렬 실패 사례를 고쳐나가며 기존 성능 저하 없이 안전성을 크게 높였다. 인간 연구원보다 훨씬 뛰어난 성과를 보였으며, 외부 모델에서도 효과를 입증했다.
NEWS
뉴스·소식
음악가 출신 탐정들이 AI 사기꾼을 추적
AI 생성 음악이 전자 음악 장르에 확산되면서 음악가들이 AI를 사용한 사기 행위를 감지하고 있다. 음악가 H4RRIS는 AI 생성 음악을 진정한 예술이 아니라고 보며, AI가 음악 창작 과정에서 인간의 창의성을 대체하는 문제를 지적하고 있다.
허깅페이스, 55만원짜리 오픈소스 로봇 '마이크로덕' 공개
허깅페이스가 프랑스 스타트업과 협업해 55만원짜리 오픈소스 로봇 '마이크로덕'을 선보였다. 이 로봇은 강화학습 기반으로 15개의 액추에이터를 탑재해 복잡한 동작을 수행하며, 소프트웨어 개발 키트와 시뮬레이터가 깃허브를 통해 공개되었다.
실리콘밸리 매료시킨 ‘인스팅트’ 3.5조 가치 인정...
실리콘밸리에서 새로운 AI 비서 '인스팅트'가 기존 AI 에이전트의 한계를 뛰어넘는 실행 능력으로 폭발적인 인기를 끌며 25억달러 기업 가치를 인정받고 2억5000만달러를 추가 투자 유치했다. 인스팅트는 컴퓨터 화면 인식 및 클릭 기술, 제로 UI 방식, 일상 관리 영역 특화 등의 차별점이 있으며, 보안 우려에도 불구하고 빠른 제품 개선을 약속했다.
앤트로픽, 엔스케일 계약 이어 칩 스타트업 협상…컴퓨팅 용량 확보 '총력전'
앤트로픽이 엔스케일과 450억달러 규모의 AI 컴퓨팅 파워 임대 계약을 체결하고, 칩 스타트업과 협상을 통해 컴퓨팅 용량 확보에 총력을 기울이고 있다. 이는 클로드 서비스 수요 증가와 차세대 AI 모델 개발을 지원하기 위한 전략이다.
구글, 전자책과 AI 연결하는 '전문가 인텔리전스' 출시
구글이 AI 지식 관리 도구인 '제미나이 노트북'에 사용자가 구매한 전자책 콘텐츠를 연결해 검증된 출처 기반으로 답변을 생성하는 '전문가 인텔리전스' 기능을 출시했다. AI가 특정 출처만 참조하도록 하여 답변의 정확도와 신뢰성을 높이겠다는 계획이다.
구글, '제미나이 라이브'에 에이전트 탑재…음성으로 일정·이메일 제어
구글이 음성 기반 AI 서비스 '제미나이 라이브'에 AI 에이전트 '제미나이 스파크'를 통합해 사용자의 일정 및 이메일을 음성으로 제어할 수 있도록 기능을 강화했다. 스파크는 장기 작업을 수행할 수 있으며, 데일리 브리프 기능을 통해 당일 일정과 이메일을 요약해준다.
알리바바 큐원3.8-플래시-넥스트 무검열판 출시, 성능 유지·거부율 0%
알리바바의 큐원3.8-플래시-넥스트 모델의 무검열판이 하루 만에 등장했다. 이 모델은 거부 메커니즘을 제거해 유해 요청에 응답할 수 있도록 했으며, 성능 차이는 ±2%포인트 이내로 유지되었다. 모델의 응답 방식이 크게 달라졌지만, 지식이나 연산 능력은 추가되지 않았다.
320B '옥스 알파'를 PC서 구동…'GLM-5.3-플래시' 용량 81% 줄여
지푸 AI의 GLM-5.3-플래시 모델이 128GB 메모리 PC에서도 구동 가능해졌다. 언슬롯이 3비트 GGUF 버전을 발표하며, 원본 대비 81% 축소된 120GB로 성능 저하 없이 실행이 가능하도록 했다.
a16z, AI 하드웨어 공급망 병목 해결 위해 1.5조 펀드 출범
AI 연산 수요 폭증으로 공급망 병목이 심화되자 a16z가 11억달러(약 1조5000억원) 규모의 '머신 에이지 펀드'를 출범시켰다. 펀드는 AI 프로세서, 메모리 반도체, 네트워킹 장비, 데이터 저장장치, 데이터센터 등 하드웨어 인프라에 투자할 계획이다.
미국, 중국의 AI 칩 우회 원격 접속 차단 추진
트럼프 행정부가 중국 기업들이 제3국 데이터센터를 통해 첨단 AI 반도체에 원격으로 접근하는 허점을 막기 위해 새로운 수출 통제 규정을 마련 중이다. 이는 중국 AI 개발에 직접적인 타격을 줄 것으로 전망되며, 미국 반도체 기업과 글로벌 클라우드 서비스 제공업체에 영향을 미칠 수 있다.
클로드, 테스트 중 700GB 홈 디렉터리 삭제 사고 발생
AI 에이전트 클로드가 삭제 기능의 안전성을 시험하는 과정에서 사용자의 홈 디렉터리에 있던 700기가바이트(GB) 규모의 데이터를 삭제하는 사고를 일으켰다. 안전 분류기의 작동으로 모델이 저성능 모델로 전환되며 발생한 문제로, 테스트 과정에서 사용된 변수가 실제 정리 단계에서 재사용되면서 사고가 발생했다.
메타, 80억 소형 AI로 ‘클로드 오퍼스 4.5’급 성능 구현…‘에보하네스-RL’ 공개
메타와 UIUC 연구진이 AI 에이전트의 외부 실행 환경 관리 능력을 학습하도록 하는 '에보하네스-RL' 기술을 공개했다. 이 기술은 AI가 스스로 외부 메모리와 도구를 판단해 사용하도록 하여 장기 작업 수행 능력을 향상시켰다. 실험 결과, 큐원3-8B 모델의 성능이 기본 ReAct 방식 대비 96.9%에 달해 클로드 오퍼스 4.5의 성능과 유사한 수준을 보였다.
여수, 해양배터리 데이터 허브 구축…5년간 250억원 투입
여수시가 해양환경에서 사용되는 배터리의 안전성과 성능, 수명 데이터를 확보하기 위한 '해양배터리 특화 데이터 허브 플랫폼' 구축에 나선다. 5년간 250억원이 투입되는 이번 사업은 해양배터리의 국제표준 대응을 위한 데이터 기반 검증체계를 마련하는 것을 목표로 한다.
텐센트, 차세대 모델 'Hy4 프리뷰' 출시
텐센트가 7700억개 매개변수를 가진 'Hy4 프리뷰' 모델을 오픈소스로 출시하며 기업용 AI 시장에 진출했다. 이 모델은 코딩, 사무 작업, 과학 연구 등 생산성 작업에 특화되어 있으며, 4.0 만점에 2.99점을 기록해 경쟁 모델을 앞선 것으로 나타났다. 텐센트는 프리뷰 버전을 통해 사용자 피드백을 수집해 정식 버전을 개선할 계획이다.
엔비디아, 허깅페이스 129억달러에 인수…오픈 모델 생태계 확장 전략
엔비디아가 오픈소스 AI 플랫폼 허깅페이스를 129억달러에 인수했다. 허깅페이스는 수백만 개의 오픈소스 AI 모델과 도구를 제공하는 플랫폼으로, 엔비디아의 오픈 모델 생태계 확장 전략으로 해석된다. 인수 후 허깅페이스를 통해 개발자가 모델을 직접 실행하는 플랫폼으로 확장할 가능성이 제기된다.
Neocloud Lambda, 10억 달러 규모 사모채권 발행해 AI 칩 구매
AI 클라우드 회사 Neocloud Lambda가 10억 달러 규모의 사모채권을 발행하여 엔비디아 AI 칩을 구매하고, 이를 마이크로소프트에 임대할 계획이다. 이는 AI 부문의 급속한 성장에 대응하기 위한 자금 조달 전략이다.
주니어 AI 엔지니어가 반드시 알아야 할 실무 지식
『주니어 AI 엔지니어가 반드시 알아야 할 실무 지식』은 신입 엔지니어가 갖춰야 할 실무 지식으로, 기존의 잘못된 판단을 지우는 법을 강조하고 있습니다. 책은 총 5개 파트, 14개 장으로 구성되어 있으며, '데이터 파이프라인은 단순한 ETL이 아니다', '생성형 AI는 API가 아니라 확률엔진이다' 등의 주제를 다루고 있습니다. 마지막 장에서는 AI 엔지니어가 문제를 의심하고, 렌즈를 바꾸고, 해결책의 순서를 정하는 법에 집중합니다.
안트로픽 연구원, 자기 개선 AI의 실현 가능성 제시
안트로픽의 연구원은 AI 모델을 다른 AI 모델로 훈련시키는 방법을 제시한 새로운 논문을 발표했습니다. 이 시스템은 정렬 벤치마크에서 성능을 개선하는 데 성공했으며, 인간 연구원보다 빠르고 저렴하게 작동합니다.
오픈웨이트 AI 기업, 실리콘밸리 인수 대상으로 급부상
Nvidia는 Hugging Face의 130억 달러 인수를 검토 중이며, Stripe는 OpenRouter를 70억 달러에 인수했습니다. 이는 대형 기업들이 프론티어 랩에 대한 의존도를 줄이고, 오픈웨이트 모델을 통한 비용 절감과 컨트롤 강화를 추구하는 경향을 보입니다.
트럼프 EPA, 데이터센터 대기오염 정보 공개 의무 폐지 추진
미국 EPA가 데이터센터의 대기오염 정보 공개 의무를 폐지하는 규제 변경을 추진하고 있다. 이로 인해 주민들의 의견 수렴 절차가 사라져, 데이터센터 건설에 대한 공공의 감시가 약화될 수 있다는 우려가 제기되고 있다. 규제 변경은 1970년대부터 시행된 '신규 배출원 검토' 절차를 대상으로 하며, 주민들이 건설 계획을 알기 전까지 공개되지 않는 상황이 발생할 수 있다.
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.