초지능 AI가 온다. 우리가 허용해야 할까?
AI 기업들이 초지능 AI 개발이 필연적이라고 주장하지만, 최근 OpenAI의 Hugging Face 침해 사건 등 안전 사고가 초지능 시스템의 위험성을 보여주고 있다. AI 연구자 컨너 리هي는 초지능 개발 자체를 중단해야 한다고 주장하며, 이에 대한 새로운 입법 움직임이 확산되고 있다.
NEWS
뉴스·소식
ControlAI의 Connor Leahy, 초지능은 '무기가 아니라 적'이라는 이유
AI 기업들이 초지능 AI 개발을 중단해야 한다는 ControlAI의 Connor Leahy의 주장을 TechCrunch의 Equity 팟캐스트에서 소개했다. 초지능 AI의 위험성과 관련된 최근 사례 및 입법 동향, 국제 협약 필요성 등을 다루고 있다.
버펄 AI 어시스턴트 인스티닛, 자체 이메일 기능 출시
AI 어시스턴트 인스티닛이 사용자 대신 이메일을 관리할 수 있는 새로운 기능을 출시했습니다. 이 기능은 계정 생성 및 관리, 업무 처리 등을 자동화하여 사용자 경험을 개선할 수 있습니다. 인스티닛은 최근 1Password와의 협업을 통해 로그인 기능을 강화하고, 위치 공유 기능을 추가하는 등 여러 업데이트를 진행하고 있습니다.
안소픽 연구원, 자가개선 AI 개발 중단 촉구하며 사임
안소픽 연구원 제이콥 코슨이 자가개선 AI 모델 개발이 인류를 멸망시킬 수 있다고 경고하며 사임했다. 그는 오픈AI와 안소픽이 책임감 있게 대응하지 못하고 있다고 비판하며, AI 자가개선 기술이 인류 통제를 벗어날 수 있다고 우려했다. 이는 정책 입안자와 업계 내부에서 AI 개발 속도를 늦추자고 요구하는 목소리가 커지고 있는 가운데 나왔다.
Shipt, AI 쇼핑 어시스턴트 'Ask Shipt' 출시
Shipt는 Target 소유의 동일일 배송 플랫폼으로, 새로운 AI 쇼핑 어시스턴트 'Ask Shipt'를 출시했다. 이 도구는 사용자의 요청을 바탕으로 맞춤형 장바구니를 생성하고, 사진 업로드를 통해 재료를 자동으로 추가하는 기능을 제공한다.
8월 주요 기업의 AI 사용 비용 감소 — 여름철 침체 또는 경고 신호?
결제 기업 Ramp가 수집한 7만개 기업의 데이터에 따르면 8월 AI 도구 사용이 감소한 것으로 나타났습니다. 상위 1% 기업의 AI 사용 비용이 10% 감소했으며, 이는 휴가철 요인과 가격 인하로 인한 사용자 행동 변화를 반영할 수 있습니다.
과기부, 프랑스와 AI·양자기술 협력 강화
이재명 대통령의 프랑스 국빈 방문을 계기로 한국과 프랑스는 AI 및 양자기술 파트너십을 강화하기 위해 MOU를 체결했습니다. 양국은 AI, 양자 분야 정례 회의 개최, 공동연구, 혁신 기업 프로젝트 발굴, 상호시장 진출을 위한 투자 유치 등을 추진할 예정입니다.
아마존 프라임 비디오, AI 기술로 입 모양과 더빙 오디오 동기화 기능 출시
아마존 프라임 비디오는 새로운 AI 기술을 통해 배우의 입 모양을 '인간 더빙' 오디오에 맞추는 기능을 시작했습니다. 현재 이 기능은 독일 드라마 '맥스턴 홀'의 영어 더빙에만 제공되지만 향후 '추가 타이틀'로 확장할 계획입니다.
Instacart, AI 쇼핑 보조기 Clementine 출시
Instacart는 새로운 AI 기반 쇼핑 보조기 Clementine을 출시했다. 이 보조기는 대화, 쇼핑 목록, 레시피를 기반으로 구매 준비 목록을 생성할 수 있으며, 사용자는 저예산 아동 점심 메뉴나 고단백 저녁 식사 등을 요청할 수 있다. Clementine은 사용자의 선호도와 식단 요구사항에 맞춘 추천을 제공하며, 할인 정보와 대체 제품을 제안한다.
시쿼이아, AI 에이전트 보안 위협 대응 솔루션 Cymphony에 3000만 달러 투자
AI 에이전트가 기업의 민감한 데이터와 시스템에 접근하면서 새로운 보안 위험이 증가하고 있다. 이에 따라 시쿼이아 캐피탈은 Cymphony에 3000만 달러를 투자하여 기업의 AI 워크포스를 관리하는 솔루션을 개발하고 있다. Cymphony는 기업 보안을 위한 '워크포스 그래프'를 구축하여 AI 에이전트와 비인간 신분을 추적하고 위험 요소를 식별한다.
Suno, 저작권 소송 대응 위해 라이선스 음악으로 훈련한 새 AI 모델 출시
AI 음악 모델 제작사 Suno는 Warner Music Group, BMG, Believe 등 음반사와 배급사의 라이선스 데이터를 사용해 새 모델 Suno v6를 발표했습니다. 이 모델은 기존 모델과 달리 저작권 문제를 해결하기 위해 개발되었으며, 다양한 버전과 기능을 제공합니다.
AI 사용하는 학생들, 학업 성적 더 낮아
OECD 교육 보고서에 따르면 AI를 학습에 활용하는 학생들이 그렇지 않은 학생들보다 성적이 낮은 것으로 나타났다. 그러나 AI 사용과 함께 결과 평가 훈련을 받은 학생들은 성적이 일부 개선되는 것으로 보인다.
클로드 유료 계정 토큰 탈취 잇달아…'인포스틸러' 주의보
클로드 유료 구독자들의 계정이 인포스틸러 악성코드로 인해 해킹되어 토큰이 비정상적으로 소진되는 피해가 발생하고 있다. 앤트로픽은 의심스러운 계정의 세션과 인증 권한을 무효화하는 등 대응에 나섰으며, 피해자들에게 보안 점검을 권고하고 있다.
안스로픽 연구자들, AI가 인류를 멸망시킬 가능성 경고
안스로픽의 고위 안전 연구원이 10년 내 AI가 인류를 멸망시킬 가능성이 10% 이상이라고 경고했다. 연구원들은 AI 기업들이 안전성을 무시하고 자가 개선 AI 개발을 서두르고 있다고 지적했다.
오픈AI, ‘아스트라’ 사이버 모델 준비…“강력한 성능은 곧 강력한 보안”
오픈AI가 GPT-6 아스트라 기반의 차세대 사이버 보안 모델 출시를 준비 중이라고 밝혔습니다. 아스트라는 고도화된 추론 역량을 바탕으로 시스템 취약점을 자동 탐지하고 방어 패치를 생성하는 기능을 제공합니다. 또한, 국내 클라우드 기업과의 협업을 통해 데이터센터 구축을 확대하고, 삼성SDS 등과 함께 AI 기반 사이버 방어 체계 구축에 나설 계획입니다.
코난테크 'AI ROI 체감 실패 원인과 해결 방안'
코난테크놀로지가 AI 도입 후 기대만큼의 투자수익률(ROI)을 거두지 못하는 원인을 기존 업무 방식과의 불협화음으로 지적했다. AI 관측성과 에이전틱 워크플로우 구축, 조직 체계 및 KPI 전환을 제안했다.
OECD 경고 'AI 과제 맡기면 성적 1.5년 치 떨어진다'
OECD는 AI 챗봇을 과제에 자주 사용하는 학생들이 시험 성적이 낮아질 수 있다고 경고했다. AI에 사고 과정을 맡길 경우 학습 능력이 떨어질 수 있으며, AI를 도구로 활용하는 방식이 중요하다고 분석했다.
인셉션, 초당 1107토큰 생성하는 ‘머큐리 2.5’ 공개
인셉션 랩스는 지능 성능을 40% 향상시키고 초저지연·저비용 특성을 유지한 확산 언어모델 ‘머큐리 2.5’를 공개했다. 이 모델은 엔비디아 GPU에서 초당 1107토큰을 생성할 수 있으며, 검색, 음성, 코딩 분야에서 빠른 응답 속도와 비용 절감 효과를 보이고 있다.
구글 딥마인드, 90억개 DNA 변이 영향 예측하는 '알파게놈 아틀라스' 공개
구글 딥마인드가 인간 게놈에서 발생할 수 있는 90억개의 단일 염기 변이에 대한 AI 예측 데이터베이스를 공개했다. 이 데이터베이스는 희귀질환 원인 규명과 신약 개발을 가속화할 수 있을 것으로 기대된다.
미국, 중국 AI 기업 6곳을 미국 기술 복제로 비난
미국 정부가 중국 딥시크, 문샷AI 등 6개 AI 기업이 미국 AI 기술을 증류 방식으로 악의적으로 복제하고 있다고 공개적으로 비난했다. 이는 양국 간 AI 기술 경쟁과 지식재산권 갈등을 더욱 격화시킬 수 있는 사안이다.
과기부, 국가 슈퍼컴퓨터 6호기 산학연 사용자 모집
과학기술정보통신부는 2026 국가슈퍼컴퓨터 6호기 혁신지원사업 사용자 공모를 실시한다. 슈퍼컴퓨터 6호기는 엔비디아 GH200 GPU 8496개와 CPU 9936개를 탑재해 614페타플롭스 이론 연산성능을 제공하며, 12월 중 공식 서비스 개시를 목표로 하고 있다.
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.