알트먼, AI 사고 불가피하지만 관리 가능 강조
AI
샘 알트먼 오픈AI CEO는 AI의 급격한 발전에 따른 사고 가능성은 인정하면서도 업계가 안전 문제를 관리할 수 있다고 강조했다. 그는 AI 기업들이 정렬과 안전, 모니터링을 능력보다 앞서 유지해야 하며, 사고를 투명하게 보고하고 배우는 문화를 만들 필요가 있다고 말했다.
(새 창에서 원문 열기)NEWS
뉴스·소식
오늘의 브리핑
기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
기사 목록
삼성서울병원, 의료용 휴머노이드로 수술 시연
AI삼성서울병원은 에이딘로보틱스와 레인보우로보틱스와 협력해 의료용 휴머노이드가 의료진과 협업하는 수술 시연을 선보였다. 휴머노이드는 담낭절제술 등 복강경 수술을 지원하며, 음성 인식 및 자동 조정 기술을 활용해 의료 인력난 해소와 업무 부담 개선을 목표로 한다. 2029년까지 임상 적용을 목표로 하며, 제도적 기반 마련이 필요하다는 점도 언급되었다.
(새 창에서 원문 열기)모티프 3 API 29일까지 무료 공개
AI모티프테크놀로지스가 국내 AI 모델 중 최고 성능을 입증한 '모티프 3'의 API를 29일까지 무료로 제공한다. 모델의 에이전트 기능 강조와 차기 모델 개발 계획도 밝혔다.
(새 창에서 원문 열기)VAN, 대격변 시대 속 AI 기술주권·노동대체 논의
AI청년 대학생 중심의 학회 VAN이 AI 기술주권과 노동대체 등 AI와 관련된 사회적 논의를 다룬 컨퍼런스를 개최했다. 전문가들은 AI 기술 격차 해소를 위한 독자 파운데이션 모델 개발과 청년 창업 지원 필요성을 강조했다.
(새 창에서 원문 열기)젠슨 황·알트먼, 미중 정상회담 국빈 만찬 참석
AI젠슨 황 엔비디아 CEO와 샘 알트먼 오픈AI CEO가 도널드 트럼프 미국 대통령이 시진핑 중국 국가주석을 위한 백악관 국빈 만찬에 참석할 예정이다. 이번 만찬에는 주요 글로벌 기술 기업 경영진이 대거 참석하며, AI와 반도체 산업의 중요성이 강조되고 있다.
(새 창에서 원문 열기)오픈AI, AI 정렬 실패 사례 공개 체계 마련
AI오픈AI가 AI 모델의 정렬 실패 사례를 추적·조사하고 정기적으로 공개하기 위한 새로운 보고 체계를 마련했다. 6개월간 모델 훈련 과정에서 관찰한 문제 행동 6건을 공개했으며, 앞으로는 모든 사례가 충분히 설명되거나 해결될 때까지 기다리지 않고 체계적으로 공개할 방침이다.
(새 창에서 원문 열기)EU, AI '속도조절론' 가세…최첨단 연구소 초청 회동 추진
AIEU 집행위원장 우르줄라 폰데어라이엔은 AI 개발 속도 조절을 지지하며 최첨단 연구소들과 위험 대응 방안을 논의하기 위한 회동을 추진한다고 밝혔다. 이는 미국 주요 AI 기업들의 요구에 따른 것으로, AI 모델의 강력해짐에 따른 잠재적 위험을 우려한 것이다.
(새 창에서 원문 열기)지니젠AI, 오픈라우터 426종 분석 '한국어 AI 품질 리더보드' 공개
AI지니젠AI가 오픈라우터의 426종 AI 모델을 분석한 한국어 품질 평가 결과를 허깅페이스에 공개했다. 7개 항목 평가에서 A등급 이상은 7.6%에 불과했으며, F등급이 33.6%를 차지했다. 동일 모델이라도 제공 사업자에 따라 가격 차이가 최대 14.47배에 달했다.
(새 창에서 원문 열기)외부 감사에 연구실 개방하라…오픈AI·앤트로픽, 내부 반발로 '몸살'
AI오픈AI와 앤트로픽 경영진이 AI 안전망 강화를 위해 외부 감시 체계를 도입하려는 계획을 발표했으나, 내부 연구진의 반발이 거세지고 있다. 외부 평가 기관 METR의 독립성에 대한 논란도 확대되고 있다.
(새 창에서 원문 열기)아이슬란드 기반 Treble, 음성 시뮬레이션 플랫폼을 위한 1800만 달러 투자 유치
AI아이슬란드에 본사를 둔 Treble은 음성 AI 산업의 시뮬레이션 플랫폼을 개발하는 스타트업으로, 1800만 달러를 추가로 유치하여 총 4000만 달러 이상의 투자를 확보했다. 이 회사는 음성 AI 모델 테스트와 피드백 제공, 하드웨어 디자인 및 테스트를 위한 음성 기반 시뮬레이션을 제공하고 있다.
(새 창에서 원문 열기)술레이먼, 앤트로픽에 직격탄...AI에 의식·권리 부여는 재앙적 위험
AI마이크로소프트 AI 최고책임자는 앤트로픽의 AI 모델 운영 철학을 비판하며, AI에 의식이나 감정을 부여하는 방식이 인류에 재앙을 초래할 수 있다고 경고했다. AI는 인간이 설정한 지시를 따르는 시스템이며, 의인화 시도는 통제 불능의 초지능 사태로 이어질 수 있다는 주장이다.
(새 창에서 원문 열기)미국인 63% 'AI, 인류 파멸시킬 수도'...개발 중단 지지 48%
AI미국 성인 63%가 고도화된 AI가 인류 파괴 위험이 있다고 보는 것으로 나타났다. AI 개발 중단을 지지하는 응답이 48%로, 지속 개발을 주장하는 31%보다 많았다. 정치 성향을 막론하고 AI 위험에 대한 우려가 높은 것으로 조사됐다.
(새 창에서 원문 열기)노타, 인텔과 AI 영상관제 패키지 출시
AI노타는 인텔과 협력해 GPU 'B70'을 결합한 AI 영상 관제 솔루션 'NVA'를 출시했습니다. 이 패키지는 하나의 GPU로 최대 32개의 CCTV를 감시할 수 있으며, 초당 16.9장의 화면 처리 성능을 제공합니다.
(새 창에서 원문 열기)트럼프 규제 회의론에 유엔 경고…AI 위험 대응 글로벌 공조 시급
AI안토니우 구테흐스 유엔 사무총장이 AI의 잠재적 위험에 대응하기 위해 국제사회가 공동의 안전장치를 마련해야 한다고 촉구했다. AI 규제 강화를 둘los 도널드 트럼프 미국 대통령의 회의적인 입장을 언급하며, 국가 간 AI 기술 경쟁이 심화되는 상황에서 안전 규제를 둘러싼 경쟁이 오히려 위험을 키울 수 있다는 지적을 내놨다.
(새 창에서 원문 열기)보이스루, AI·전문가 결합 더빙 서비스 ‘폴리타’ 출시
AIAI 콘텐츠 현지화 및 크리에이터 지원 솔루션 전문 보이스루는 AI와 전문가 검수를 결합한 B2B 더빙 제작 서비스 ‘폴리타’를 출시했다. 폴리타는 AI로 번역과 더빙을 생성한 후 전문가가 결과물을 검수해 품질을 높이는 서비스로, 화자 인식 오류를 방지하는 기능도 포함되어 있다.
(새 창에서 원문 열기)오픈AI, 2000조원 기업 가치 목표…IPO 추진
AI오픈AI가 기업공개(IPO)를 앞두고 1조5000억달러(약 2069조원)의 기업 가치를 목표로 투자 유치에 나섰다. 코덱스와 GPT-6 모델의 인기를 이유로 내세우며, 최근 투자 라운드에서 7300억달러의 기업 가치를 인정받은 바 있다. IPO는 내년에 추진할 계획이며, 경쟁사 앤트로픽도 10월 IPO를 준비하고 있다.
(새 창에서 원문 열기)태양광 직결 AI 데이터센터 등장
AI미국 스타트업 룬은 태양광발전소의 잉여 전력을 직접 AI 연산에 활용하는 모듈형 데이터센터 '렐릭'을 공개하고 운영에 들어갔다. 이는 기존 데이터센터와 달리 전력망 연결 없이 발전소 현장에서 연산을 수행하는 방식이다.
(새 창에서 원문 열기)알 고어, AI의 진짜 위험은 데이터센터가 아님
AI알 고어는 AI 데이터센터의 배출량보다 AI 산업 내부에서 나오는 경고가 더 큰 우려를 필요로 한다고 말했다. 그는 AI 데이터센터의 배출량이 세계의 노출된 매립지 배출량의 일부에 불과하다고 지적하며, 에어컨 사용 증가가 전력망에 더 큰 압력을 가할 것이라고 설명했다. 또한, AI 시스템 자체의 위험성과 기후변화 대응을 위한 AI 활용 가능성에 대해 언급했다.
(새 창에서 원문 열기)Snap, 새로운 Specs AI 도구 출시…iOS 및 Mac 지원
AISnap은 사용자의 디지털 계정을 연결하여 업무 및 여행 정보 관리 등을 돕는 AI 도구 'Specs Intelligence'를 출시했습니다. 이 도구는 iOS에서 미리 체험할 수 있으며, Mac으로의 확장이 예정되어 있습니다. 또한, Snap의 첫 소비자용 증강현실 안경 'Specs'와 함께 출시됩니다.
(새 창에서 원문 열기)AI 속도 조절 논란, 투자 둔화 우려 속 시장 반응 엇갈려
AIAI 업계에서 속도 조절 논의가 나오자 글로벌 증시가 크게 흔들렸으나, 빅테크 기업들의 주가는 상승세를 보였다. 시장은 AI 투자 둔화 우려를 반영했지만, 실제 지출 축소 여부는 투자 지표를 통해 확인해야 한다는 분석이 나왔다.
(새 창에서 원문 열기)Anthropic와 OpenAI, 안전성 평가자 내재화 제안… 독립성 보장될까
AIAnthropic와 OpenAI는 AI 안전성 평가를 위해 외부 독립 평가자를 내재화하는 방안을 제안했다. 평가자들이 모델 훈련 과정에서 문제 행동을 확인할 수 있도록 하려는 것이다. 그러나 평가자의 독립성과 접근 권한, 공개 범위 등 구체적인 실행 방안은 아직 명확하지 않다.
(새 창에서 원문 열기)
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.