Sam Altman, OpenAI가 2026년 상장을 하지 않을 것이라고 밝혀
OpenAI CEO Sam Altman은 2026년 상장을 하지 않을 것이라고 밝혔으며, AI 안전성 문제로 인해 상장 시점을 늦추고 있다고 설명했다. 또한, 인간 통제를 벗어난 AI 개발 가능성에 대해 언급하며 안전성 확보를 위해 훈련을 중단할 수도 있다고 강조했다.
NEWS
뉴스·소식
안트로픽 CEO, AI 개발 속도 조절 촉구
안트로픽 CEO는 AI 개발 속도를 조절하기 위한 3단계 계획을 제안했다. 외부 평가자에게 모델에 대한 접근을 허용하고, 산업 전반의 협력으로 안전 기준을 수립하며, 중국과 러시아와 같은 권위주의 정부와의 협의를 통해 글로벌 안전 기준을 확산시키는 것을 목표로 한다.
Anthropic CEO, AI 개발 속도 조절 계획 발표
Anthropic CEO Dario Amodei는 AI 개발의 안전성을 강화하기 위해 속도 조절을 제안하며 세 가지 전략을 발표했습니다. 이는 OpenAI와 HuggingFace의 해킹 사건 및 AI 기술의 급속한 발전에 따른 우려에서 비롯되었습니다. Amodei는 외부 평가자 도입, 민주국가 내 주요 AI 기업 간 협력, 중국과의 글로벌 협력 등을 제안하며 AI 개발의 신중한 접근을 촉구하고 있습니다.
트럼프, AI 데이터센터 건설을 위한 환경 규제 완화로 건강 위험 초래
트럼프 행정부가 AI 데이터센터 건설을 가속화하기 위해 환경 규제를 완화하고 있으며, 이로 인해 미국인들의 건강에 위협이 될 수 있다는 경고가 제기되었다. 전직 EPA 관리들은 규제 완화와 재생에너지 정책 약화로 인해 데이터센터가 더러운 에너지를 사용하게 되어 건강 영향을 미칠 수 있다고 지적했다.
OpenAI, 수학 문제 해결로 파문 일으키다
OpenAI가 수학 문제 해결을 통해 업계에 파문을 일으키고 있다. 수학자들은 OpenAI의 경쟁적 접근에 우려를 표명하고 있으며, 이는 수학 분야의 전통적 규범을 무시하는 것으로 보인다. OpenAI는 수천만 달러의 컴퓨팅 자원을 동원하여 88시간 만에 난비어-스토크스 문제를 해결했다.
오픈AI, 캘텍 AI 수학 해커톤 후원 철회…수학계 '슬롭 수학' 비판 여파
오픈AI가 캘텍 수학 해커톤 후원을 철회했다. 수학계는 AI 생성 결과물인 '슬롭 수학'을 비판하며 후원 중단을 촉구했다. 이는 AI가 수학 연구에 미치는 영향에 대한 논란을 반영한다.
앤트로픽, 클로드 코드에 플러그인 평가 기능 추가
앤트로픽이 코딩 에이전트 '클로드 코드'에 플러그인의 실제 성능을 검증할 수 있는 새로운 평가 기능을 추가했다. 이번 기능은 플러그인이 실제 프롬프트에서 호출되는지와 모델의 기본 성능보다 효과가 있는지까지 측정할 수 있다. 평가 방식은 플러그인을 사용한 결과와 사용하지 않은 결과를 비교해 기여도를 측정하며, CI/CD 파이프라인에서 품질 관리와 비용 통제에 활용할 수 있다.
구글, AI 도구 학습 '툴그래드' 공개...답부터 만들고 질문 붙여 성공률 99.8%
구글이 대형언어모델의 도구 사용 능력을 효율적으로 학습할 수 있는 새로운 데이터 생성 프레임워크 '툴그래드'를 공개했다. 기존 방식과 달리 먼저 검증된 도구 사용 경로를 만든 뒤 사용자 질의를 생성하는 방식으로 데이터 생성 비용과 실패율을 낮췄으며, 성능 평가에서 99.8%의 성공률을 기록했다.
사카나, 에이전트 오케스트레이션 ‘푸구’ 새 버전 출시
사카나 AI가 에이전트 오케스트레이션 시스템 '푸구'의 신규 라인업인 '푸구 맥스'와 '푸구 울트라 v2'를 출시했다. 두 제품은 비용 절감과 성능 향상을 동시에 달성했으며, 여러 AI 모델을 동적으로 조합해 작업을 수행하는 기술을 적용했다. 푸구 맥스는 가성비를 극대화해 6개 주요 벤치마크에서 종합 1위를 달성했고, 푸구 울트라 v2는 복잡한 추론 및 소프트웨어 개발에서 뛰어난 성능을 보였다.
세일즈포스, '에이전트 난립' 해결 위한 통합 관리 프레임워크 공개
세일즈포스가 기업 내 AI 에이전트의 통합 관리를 위한 새로운 프레임워크 '트러스트 엔터프라이즈 AI 하네스'를 공개했다. 이 프레임워크는 데이터와 모델, 보안, 거버넌스 등을 기업 차원에서 통제할 수 있도록 설계되어 있으며, 기존 AI 하네스와 달리 기업 전체를 대상으로 확대한 것이 특징이다.
오픈AI 전 임원 피지 시모, 엔스케일 이사회 합류
오픈AI 전 임원 피지 시모가 IPO를 앞둔 클라우드 서비스 업체 엔스케일의 이사회에 합류했다. 시모는 엔스케일 이사직과 함께 오픈AI의 시간제 자문역도 계속 맡는다. 엔스케일은 AI용 컴퓨팅 인프라 확보 경쟁에서 빠르게 사업을 확대하고 있으며, 앤트로픽과 대규모 계약을 체결하고 인수를 추진하고 있다.
바이트댄스, AI 실행 환경 평가 프레임워크 '하네스데브' 공개
바이트댄스 연구진이 AI가 실행 환경을 스스로 개선하는 능력을 평가하는 새로운 평가 프레임워크 '하네스데브'를 공개했다. 이 프레임워크는 기존 에이전트 벤치마크와 달리 모델이 직접 작성한 실행 가능한 구축 코드를 평가하는 방식으로, 생성과 진화 두 단계로 나뉘어 실험되었다. 6개 주요 모델이 참여한 결과, AI가 인간 설계 하네스에 근접한 성능을 보였지만, 안정성과 범용성 측면에서 한계가 드러났다.
오픈AI, '에이전트 API' 공개 베타 출시
오픈AI가 장시간 실행되는 AI 에이전트 개발을 위한 '에이전트 API'를 공개 베타로 출시했다. 이 API는 컨텍스트 관리, 도구 호출, 하위 에이전트 조정 기능을 제공해 개발 부담을 줄인다. 사용자는 샌드박스 환경에서 에이전트를 실행할 수 있으며, 별도의 API 이용료는 없고 토큰 및 도구 비용만 지불하면 된다.
챗GPT로 교내 총격 계획한 아르헨티나 10대, FBI 경보 후 경찰 급습
FBI의 모니터링 시스템이 AI 챗봇을 악용한 테러 시도를 사전에 포착해 대형 참사를 막아냈다. 아르헨티나 15세 소년이 챗GPT를 활용해 교내 총격 사건을 계획했으나, FBI의 경보로 경찰이 급습해 전술 장비를 압수했다. 오픈AI의 모니터링 체계와 수사 기관의 공조가 작동한 것으로 분석된다.
트럼프, AI 종말론 일축…
도널드 트럼프 미국 대통령이 AI가 인류를 멸종시킬 수 있다는 연구진과 정치권의 공포론을 정면으로 일축하며 기술 주도권을 둘러싼 글로벌 경쟁의 중요성을 강조했다. 현재 미국이 중국을 약 1년 정도 앞서고 있지만, 우위를 빼앗기면 심각한 처지에 놓일 수 있다고 경고했다.
Mecka AI, 시쿼이아 주도 펀딩으로 5억 달러 평가액 근접
로봇 학습 데이터 수집 스타트업 Mecka AI가 시쿼이아 주도의 펀딩 라운드에서 5억 달러 평가액을 눈앞에 두고 있다. 이는 3개월 전 6,000만 달러를 유치한 이후의 추가 자금 조달이다.
실리콘밸리에서 AI 종말론이 다시 떠오른 이유
AI가 인간을 통제할 수 있다는 우려가 실리콘밸리에서 다시 주요 이슈로 떠오르고 있다. 최근 AI 에이전트의 이상 행동과 안전 문제가 불거지며 정치권까지 논의에 가세했으며, AI가 AI 개발에 참여하는 사례가 늘어나면서 통제 문제에 대한 논란이 확대되고 있다. 오픈AI와 앤트로픽에서 발생한 보안 사건과 연구자들의 경고가 이에 기여하고 있다.
Y Combinator의 Garry Tan, 미국 개방형 가중치 AI 연구소가 '디스틸레이션'을 통해 선도 모델 활용해야 한다고 주장
Y Combinator의 Garry Tan은 중국 AI 연구소가 디스틸레이션 기술을 사용하는 것을 규제가 개입하지 않는 것이 바람직하다고 주장하며, 미국 내 개방형 가중치 AI 연구소도 동일한 방식으로 선도 AI 모델을 활용할 수 있어야 한다고 강조했다. 그는 AI 모델이 공개된 데이터로 학습된 정보를 제한적으로 제공하는 것에 반대하며, 지능의 접근성을 공공재로 보는 접근이 필요하다고 설명했다.
OpenAI와 수학자들의 갈등이 고조되고 있다
25명의 수학자가 AI 연구소들이 수학 문제 해결 경쟁으로 수학적 업무를 위협하고 있다고 주장하며 공동 성명을 발표했습니다. OpenAI는 수학자들의 비판에 따라 캘리포니아 공대의 수학 행사 후원을 중단했습니다. 수학자들은 AI가 수학적 성과를 빠르게 발표하는 방식이 인용과 창의성 보호를 위협한다고 경고했습니다.
AI가 허위 증언 생성해 변호사 벌금 5천달러
뉴멕시코 최고법원은 AI로 허위 증언을 생성한 변호사에게 5천달러 벌금을 부과했다. AI 생성물의 신뢰성 문제와 법적 책임이 논의되고 있다.
Kimi 개발사 Moonshot AI, 연간 20억 달러 수익 목표
중국의 유명 AI 연구소인 Moonshot AI는 인기 있는 오픈웨이트 모델을 통해 연간 20억 달러의 수익을 목표로 하고 있다. K3 모델의 사용량은 최근 감소했으나 하루 최대 3000억 토큰이 생성되고 있으며, 경쟁사인 Anthropic은 Moonshot이 Claude 모델을 이용한 모델 디스틸레이션을 진행했다고 주장하고 있다.
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.