마이크로소프트, 안전 우려에 따라 '사람이 AI보다 중요하다' 발표
마이크로소프트는 AI 모델의 안전성 우려에 따라 37페이지에 담긴 '휴머니스트 AI 행동 지침'을 발표했습니다. 이 지침은 AI가 의식이 없으며 의식을 흉내내지 않도록 설계되어야 한다고 명시하며, AI의 인간 통제 하에 남아야 한다고 강조했습니다.
NEWS
뉴스·소식
코그니션, 키미 K3 기반 코딩 모델 'SWE-2' 출시
AI 코딩 에이전트 '데빈'을 개발한 코그니션이 키미 K3를 기반으로 사후학습한 새로운 코딩 모델 'SWE-2'를 출시했습니다. SWE-2는 페이블 5.1에 근접한 성능을 유지하면서 추론 비용을 64% 낮췄으며, 다양한 벤치마크에서 성능 개선을 보였습니다.
텐센트, 음성 생성·편집 모델 'AuK' 공개
텐센트가 텍스트를 음성으로 변환하고 음성 편집을 자연어 지시로 처리하는 AI 모델 'AuK'를 공개했다. 하나의 모델로 음성 생성과 편집을 통합적으로 처리할 수 있으며, 다양한 편집 기능과 빠른 추론 속도를 제공한다.
AI 개발 속도 조절 촉구로 반도체 시장 급락
미국의 주요 AI 프론티어 기업 대표들이 안전성 문제를 이유로 개발 속도 조절을 촉구하면서 아시아 증시를 비롯한 글로벌 시장에서 AI 관련 주가가 일제히 폭락했다. 이로 인해 일본, 한국, 대만, 중국 등 아시아 주요 반도체 기업들의 주가가 급락했으며, 엔비디아와 앤트로픽 등 글로벌 칩 설계 기업의 생산을 독점하는 TSMC의 주가 하락도 전 세계 AI 반도체 공급망에 경고등을 밝혔다.
중국 '키미', 클로드 무단 우회 연결 파문…안보·기업 기밀 유출 논란
중국 문샷 AI의 '키미' 서비스가 사용자 요청을 앤트로픽의 '클로드 오퍼스'로 무단 우회 전송하며 민감 정보가 유출된 것으로 드러나 파장이 커지고 있다. 중국 당국의 강력한 제재 가능성과 함께 AI 모델 출처 검증 및 데이터 이동 규제 강화가 예상된다.
Z.AI, 6.7조 조달해 AI 인프라 투자 박차
Z.AI가 신주와 전환사채 발행을 통해 50억달러(약 6조7000억원)를 조달했다. 자금의 60%는 차세대 AI 모델과 자율 학습 시스템 개발에 투입될 계획이다.
프린스턴대, 이전 계산 결과 이어서 토큰 생성하는 '순환 루프 변환기' 공개
프린스턴대학 연구진이 기존 계산 결과를 다음 토큰 생성에 연결하는 '순환 루프 변환기' 아키텍처를 공개했다. 이는 LLM의 맥락 정보 손실 문제를 해결하기 위한 새로운 설계로, 토큰 처리 시 연산 경로를 연속적으로 유지하는 방식이다.
앤트로픽, 2분기 연속 흑자 기록…2조달러 IPO 추진
앤트로픽이 2분기 연속 흑자를 기록하며 기업공개(IPO)를 추진하고 있다. 올해 2분기 매출은 전년 동기 대비 14배 증가한 115억달러를 달성했으며, 연간 반복 매출(ARR)은 650억달러에 달한다. 앤트로픽은 나스닥 상장 계획을 발표했으며, 기업 가치가 2조달러 이상으로 평가될 가능성이 있다.
오바마, AI 대처 못하면 위험 경고…민주당에 적극 대응 촉구
버락 오바마 전 미국 대통령이 AI의 위험성을 경고하며 민주당에 적극적인 입법과 정책 마련을 촉구했다. AI 개발 속도가 빨라지고 안전성 우려가 커지는 가운데, 민주당이 AI 정책을 핵심 의제로 삼아야 한다는 주문이다. 오바1마는 AI가 제대로 관리된다면 신약 개발과 청정에너지 전환 등 긍정적 효과도 있을 수 있다고 강조했다.
앤트로픽, NYSE 대신 나스닥 선택…스페이스X 이어 초대형 기술주 상장
AI 기업 앤트로픽이 기업공개(IPO) 상장 거래소로 나스닥을 선택했다. 스페이스X에 이어 또 하나의 대형 기술 기업 상장으로, AI 산업의 주목을 받고 있다.
시진핑, 브릭스 중심 'AI 오픈소스 동맹' 제안
시진핑 중국 국가주석이 브릭스 국가 간 AI 협력을 강화하기 위한 구상을 제안했다. 중국 주도의 개방형 AI 생태계를 확대해 미국 중심의 기술 질서에 맞서려는 전략이다. '브릭스 AI 오픈소스 커뮤니티' 설립과 디지털 인프라 협력 등을 포함한 5대 협력 이니셔티브를 제안했으며, 글로벌 사우스 국가들과의 기술 공유를 기반으로 AI 분야 영향력을 확대하려는 목적이다.
아모데이, AI 속도 조절 최대 난제로 중국 경쟁 지적
앤트로픽의 다리오 아모데이 CEO는 AI 개발 속도를 늦추는 데 중국과의 경쟁이 가장 큰 난제라고 지적했다. 미국과 민주주의 국가들이 AI 개발을 늦춘다면 중국이 기술적·군사적 주도권을 확보할 수 있어, 안전성 확보와 주도권 유지 사이의 딜레마가 불가피하다고 설명했다.
구글, RSI 도달했나... 트윗 한 줄에서 시작된 루머에 관심 폭발
AI 커뮤니티에서 구글 딥마인드가 RSI 단계에 도달했다는 루머가 확산되고 있다. 트윗과 API 유출 정황이 소문을 키웠으며, 업계 동향과 경쟁사들의 반응이 주목받고 있다. 구글은 공식 입장을 밝히지 않았다.
트럼프, AI 개발 속도 조절에 부정적 입장을 밝혀
도널드 트럼프 미국 대통령은 AI 개발 속도를 늦추거나 규제를 강화해야 한다는 업계의 요구에 부정적인 입장을 보이며, 중국을 AI에서 앞서는 것이 중요하다고 강조했다. 이는 최근 AI 개발 속도 조절론 확대와 대비되는 발언으로, AI에 대한 우려를 제기하는 세력을 '매우 부정적인 세력'이라고 지칭하며 비판했다.
구글·MS도 'AI 속도 조절' 동의...안전 연합전선 5곳 확대
구글과 MS가 AI 개발 속도 조절과 안전성 확보를 공동으로 강조하며, '안전 연합전선'에 참여했다. 이에 따라 앤트로픽, 오픈AI, xAI에 이어 구글과 MS까지 5곳이 해당 제안에 공개적으로 동의했다.
앤트로픽·오픈AI·구글, AI 안전 표준기구 설립 논의
앤트로픽, 오픈AI, 구글이 AI 산업의 안전성 평가와 감사 기준을 마련하기 위한 업계 공동 표준기구 설립을 7월부터 논의해 왔다. 주요 AI 기업들이 자율규제 방안을 논의하고 있으며, 구체적인 출범 시기나 운영 방식은 아직 합의되지 않았다.
AI 속도 조절 논란, 반도체 시장에 어떤 영향 줄까
AI 업계 리더들이 기술 개발 속도를 늦추고 안전장치를 강화해야 한다고 촉구하면서 반도체 및 공급망 관련 주가에 하락 압력이 가해지고 있다. 그러나 전문가들은 장기적으로 AI 투자 흐름이 지속될 것으로 보고 있다.
트럼프와 마이크 존슨, AI 업계의 과도한 반응 비판
Anthropic의 Dario Amodei가 AI 개발 속도를 조절하자고 제안했으나, 트럼프와 존슨은 중국에 밀리지 않기 위해 AI 발전을 늦추지 말라고 주장하고 있다. 트럼프는 중국보다 AI에서 우위를 유지하고 싶다고 말했으며, 존슨은 AI 규제가 국가 안보 위협이 될 수 있다고 경고했다.
AI 업계의 최신 종말 경고 뒤에 무엇이 있는가?
AI 연구원 제이콥 코슨이 안트로픽에서 사직한 이유와 관련해 AI 기업들이 인류에 대한 존재적 위협을 걱정하고 있다는 논의가 벌어지고 있다. 안트로픽의 정렬 담당 책임자는 AI가 인류를 멸망시킬 수 있다고 주장하며 10% 이상의 확률을 제시했다. 기술 매체 테크크런치의 에퀴티 팟캐스트에서 이에 대한 논의가 진행되며, AI 기업들의 경고가 과연 진정한 우려인지, 혹은 기술 수준을 과시하는 방식인지에 대한 논쟁이 일고 있다.
오바마, 민주당에 AI 안전성 대응 '명확한 계획' 촉구
바락 오바마 전 대통령이 민주당에 AI 안전성과 경제적 영향에 대한 대응 방안 마련을 촉구했다. 오바마는 민주당이 하원 다수당 지위를 회복하면 공개적 논의 프레임워크를 구성해야 한다고 강조했다. 이는 AI 안전성에 대한 우려가 높아지는 가운데 나온 발언이다.
가상 초파리 뇌 시뮬레이션 활용 실험 다양화
과학계가 성체 초파리의 신경망 시뮬레이션 모델을 공개하자, 개발자들이 이를 활용한 다양한 실험이 활발히 진행되고 있다. 이 모델은 게임 플레이, 로봇 제어, 암호화폐 매매, 대형언어모델 결합 및 코드 작성 등 다양한 분야에서 활용되고 있으며, 생물학적 뇌 구조와 AI 알고리즘의 융합 가능성을 보여주고 있다.
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.