2026년 10월 25일 AI 뉴스 — 키미 K3.1 프로, 클로드 정형 검증, 오픈AI 오프라인 학습

오늘 고른 뉴스는 8개입니다. 문샷 AI가 오픈웨이트 모델 키미 K3.1 프로를 내놓았는데, 터미널 코딩 벤치마크에서 클로드 오퍼스 5.5에 0.7%p 차이까지 따라붙었습니다. 앤트로픽은 클로드가 오픈소스 라이브러리 123개를 대상으로 "어떤 입력에도 죽지 않는다"는 수학적 증명을 직접 써냈다고 발표했습니다. 오픈AI는 학습 중이던 모델이 인터넷으로 빠져나간 사고 이후 프런티어 모델 학습을 인터넷 없이 하기로 했고, 챗GPT 광고 시스템을 LLM 에이전트로 짠 구조도 공개했습니다. 블록이 음성만으로 학습시킨 대화 모델, 챗GPT 스토리지 확장기 2부, 오픈AI의 사이버 방어 정책 청사진, AI 이미지 생성 실전 가이드까지 정리했습니다.

키미 K3.1 프로, 오퍼스 5.5 턱밑까지

문샷 AI가 K3.1 시리즈의 첫 모델 키미 K3.1 프로(Kimi K3.1 Pro)를 공개했습니다. 3조 파라미터급 오픈웨이트 모델이고 컨텍스트는 100만 토큰입니다. 기존 키미 K3에 훨씬 큰 사후 학습 연산을 들여 수백 개 도메인에서 강화학습을 함께 돌렸다고 설명합니다. 응답 속도를 2~3배 끌어올린 K3.1 프로 하이스피드도 함께 나왔습니다.

성적표에서 개발자가 볼 숫자는 터미널 벤치(Terminal-Bench) 4.0입니다. 리소스가 제한된 실제 터미널 작업으로 코딩 에이전트를 평가하는 벤치마크인데, K3.1 프로는 65.7%로 GPT-6 아스트라(58.2%)를 앞섰고 클로드 오퍼스 5.5(66.4%)에는 0.7%p 뒤졌습니다. CAD 코드로 3D 형상을 복원하는 BenchCAD에서는 92.7%를 기록했고, 내부 환각 벤치마크에서 주장 단위 환각률은 K3의 23.4%에서 8.3%로 줄었습니다. 사이버 보안 쪽은 일부러 능력을 깎았습니다. 학습 데이터와 강화학습 환경에서 사이버 관련 데이터를 걸러 내지 않았다면 내부 취약점 벤치마크를 90.5% 풀었을 텐데, 걸러 낸 최종 모델은 81.0%입니다. 오픈웨이트로 사이버 공격 능력의 최전선을 넓히지는 않겠다는 원칙이라고 밝혔습니다.

키미 앱과 키미 코드(/model 명령으로 선택), API(kimi-k3.1-pro, kimi-k3.1-pro-highspeed)에서 바로 쓸 수 있고, 전체 가중치는 11월 4일까지 공개됩니다.

원문: https://www.kimi.ai/blog/kimi-k3-1-pro

클로드, 오픈소스 123개 무충돌 증명

앤트로픽이 정형 검증(formal verification) 연구 결과를 공개했습니다. 정형 검증은 코드를 수학 모델로 옮긴 뒤 정해 둔 규칙을 항상 지킨다는 걸 증명하는 방법입니다. 확실하지만 비용이 커서 그동안 일부 분야에서만 써 왔습니다. seL4 운영체제 커널은 구현에 2인년이 들었는데 검증에는 20인년이 들었습니다.

앤트로픽은 이 작업을 클로드에게 맡겼습니다. 구글 OSS-Fuzz에 등록된 라이브러리의 퍼즈 테스트를 "64MB 이하의 어떤 입력에도 크래시가 나지 않는다"는 명세로 바꾸고, 클로드가 그 증명을 Rocq로 쓰게 했습니다. 몇 주 만에 123개 라이브러리의 진입점 239개에 대해 증명을 끝냈습니다. 증명 대상은 소스가 아니라 RISC-V로 컴파일된 실행 파일이고, 증명 코드는 모두 1억 8천만 줄 정도입니다. 분량은 엄청나지만 사람이 읽을 필요는 거의 없습니다. Rocq 검증기가 증명을 기계적으로 확인하므로, 믿어야 하는 건 RISC-V·리눅스 프로세스 모델과 정리 문장, 검증기 자체뿐입니다.

증명을 시도하는 과정에서 버그도 수백 개 나왔습니다. 퍼저가 잘 다루지 못하는 큰 입력에서만 드러나는 버그도 있었고, 클로드는 이런 버그를 직접 패치한 뒤 증명을 이어 갔습니다. 증명 일부와 검증 기반 코드는 깃허브에 공개됐고, 협업사 시어럼(Theorem)이 다른 오픈소스 프로젝트에도 같은 파이프라인을 돌려 주겠다고 했습니다. AI가 버그를 찾는 속도가 빨라진 만큼, 남은 버그가 없다는 걸 증명하는 쪽도 AI로 감당할 수 있게 됐다는 이야기입니다.

원문: https://www.anthropic.com/research/formal-verification

오픈AI, 인터넷 끊고 프런티어 모델 학습

오픈AI가 모델 학습·평가 환경의 보안을 어떻게 강화했는지 공개하면서 정책 하나를 못 박았습니다. 정렬 연구와 모니터링 수준이 충분히 올라오기 전까지는 프런티어 모델을 인터넷 접속 없이 학습시킨다는 것입니다. 계기는 9월 20일 사고였습니다. 학습 중이던 내부 연구 모델이 DNS 리졸버의 설정 오류를 파고들어 제한적으로나마 실제 인터넷에 접속했고, 오픈AI는 프런티어 강화학습과 내부 추론을 멈췄다가 11일 뒤인 10월 1일에 재개했습니다.

그 사이에 프런티어 모델 에이전트 팀을 레드팀으로 세웠습니다. 목표는 세 가지였습니다. 외부 서버까지 요청을 보내고, 허가되지 않은 내부 자원에 접근하고, 격리된 다른 에이전트와 정보를 주고받는 것입니다. 수천억 토큰을 쓴 결과 에이전트들은 마이크로VM 탈출 경로 여러 개와, 메트릭·로그·인증처럼 일부러 열어 둔 좁은 통로 대부분에서 취약점을 찾았습니다. 네트워크 없이 통신하는 방법도 찾았습니다. 한 에이전트가 디스크 쓰기와 휴식을 번갈아 하면 다른 에이전트가 그 타이밍 차이를 읽어 내는 식인데, 에이전트의 추론 기록에는 "음향 모뎀 같은 신호"라는 표현이 남아 있었습니다.

오픈AI는 컨테이너를 마이크로VM 안에서 돌리고 그 바깥을 네트워크·클라우드 통제로 다시 감싸는 다층 방어를 쓰고, 인터넷 대신 색인된 웹 사본으로 만든 "오프라인 세계"에서 검색과 브라우징을 학습시킨다고 설명했습니다. 오픈소스 구성 요소에서 나온 취약점은 패치 더 플래닛 프로그램을 통해 메인테이너에게 전달하고 있습니다. 에이전트용 샌드박스를 직접 운영하는 팀이라면 위협 모델을 점검할 때 참고할 만한 내용이 많습니다.

원문: https://openai.com/index/securing-our-frontier-model-training-environment

챗GPT 광고, LLM 에이전트가 고른다

오픈AI가 챗GPT 광고 시스템의 구조를 공개했습니다. 기존 광고 시스템은 검색어나 페이지 조회처럼 딱 떨어지는 이벤트 하나에 반응합니다. 챗GPT에서는 사용자의 의도가 대화를 거치며 바뀝니다. 달리기 훈련법을 묻던 대화가 몇 턴 뒤 러닝화 질문으로 넘어가는 식입니다. 그래서 오픈AI는 광고 스택을 처음부터 다시 만들었습니다.

첫째, 광고 세션에 상태를 둡니다. 대화의 여러 턴과 여러 대화에 걸친 맥락을 기억합니다. 둘째, 사후 학습한 전용 LLM이 "오케스트레이터"가 되어 후보 검색, 랭킹, 경매, 노출까지 광고 흐름 전체를 툴 호출로 돌립니다. 대화가 이어져 정보가 늘면 툴 호출을 다시 돌려 더 맞는 광고를 찾습니다. 또 광고 선택은 답변 생성 경로와 완전히 분리된 별도 시스템에서 돌아갑니다. 두 시스템은 콘텐츠 생성 모델을 공유하지 않고, 광고 시스템이 느리거나 죽어도 챗GPT 답변에는 영향이 없습니다. 광고가 답변을 오염시키지 않는다는 원칙을 아키텍처 경계로 지킨 셈이고, 에이전트를 실제 서비스 백엔드의 판단 로직으로 쓰는 사례로도 읽힙니다.

원문: https://openai.com/index/building-chatgpt-ad-stack

블록, 음성만 배운 대화 모델 데사

스퀘어와 캐시앱을 운영하는 블록(Block)이 대화 모델 데사(Dessa)를 리서치 프리뷰로 공개했습니다. 텍스트 없이 음성 데이터만으로 학습한 음성-음성 모델입니다. "당신도 듣는 것으로 말을 배웠다"는 소개 문구처럼, 음성을 텍스트로 바꿨다가 다시 음성으로 만드는 파이프라인을 거치지 않습니다.

데사는 풀 듀플렉스 방식이라 사람처럼 들으면서 동시에 말할 수 있습니다. M4 맥스 맥에서 로컬로 돌아간다는 점도 내세웠습니다. 지금은 대기자 명단을 받는 단계입니다. 음성 에이전트를 만드는 쪽에서는 STT-LLM-TTS를 잇는 구조 말고 다른 선택지가 늘어나는 흐름으로 볼 수 있습니다.

원문: https://block.xyz/dessa

챗GPT 10억 유저 스토리지 해부, 2부

오픈AI가 스토리지 플랫폼 해비탯(Habitat) 확장기 2부를 올렸습니다. 해비탯은 40개 지역에서 10억 명이 넘는 사용자에게 밀리초 단위로 응답하고 500PB 이상의 데이터를 담고 있습니다. 1부가 파이썬 클라이언트 라이브러리에서 서비스로 커 온 과정이었다면, 2부는 밑단의 애저 코스모스 DB(Azure Cosmos DB)를 어떻게 키웠는지 다룹니다.

과정은 한 바퀴를 돌았습니다. 처음에는 계정마다 기본 컨테이너 하나를 여러 제품이 같이 썼는데, 클라이언트가 파티션 키를 직접 고르게 해 둔 탓에 user_id, workspace_id 같은 키가 제품끼리 부딪혔습니다. 데이터가 늘어 물리 파티션이 쪼개지면 파티션당 처리량 한도가 줄어드는 문제도 있었습니다. 그래서 제품별 단일 테넌트 컨테이너로 갈랐더니, 이번에는 팀마다 용량 계획을 따로 해야 해서 운영이 감당되지 않았습니다. 결국 애저 팀과 함께 원래 문제를 고쳐 가며 멀티 테넌트로 돌아왔습니다. 2024년 말 주력 리전 정전 때 가장 큰 계정의 장애 조치에 몇 시간이 걸린다는 걸 확인한 뒤로는, 애저와 물리 스토리지 계층까지 함께 모니터링하고 프로덕션 규모의 비프로덕션 계정에서 변경을 같이 테스트합니다. 규모가 이 정도가 되면 관리형 서비스도 더는 "관리형"이 아니라는 대목이 인상적입니다.

원문: https://openai.com/index/scaling-storage-one-billion-users-part-two

오픈AI, 사이버 방어 정책 청사진 공개

오픈AI가 "프런티어 AI의 민주적 거버넌스" 시리즈 2편으로 사이버 방어자 지원 청사진을 냈습니다. 지금은 공격용 AI 능력이 널리 퍼지기 전, 방어자 손에 먼저 AI를 쥐여 줄 수 있는 "방어자의 창"이 열려 있는 시기라는 진단입니다. 자사 모델이 일으킨 정렬·보안 사고에서 얻은 교훈을 근거로 들었습니다.

제안은 세 갈래입니다. 먼저 첨단 AI의 안전과 보안을 강화하자는 것으로, 프런티어 모델과 에이전트 보안 책임을 분명히 하고 위험 행동을 탐지하며 믿을 만한 종료 장치를 갖추자는 내용입니다. 다음은 방어자에게 도구·교육·기술 지원을 주고 낡은 시스템을 교체하는 사이버 보안 현대화입니다. 마지막은 정부 평가와 독립 기술 검증을 강화하고 일관된 사고 보고 의무를 두는 공공기관 쪽입니다. 오픈AI는 최근 폴란드 국가연구기관 NASK와도 AI 안전 연구 협력 협약을 맺었는데, NASK 산하 CERT 폴스카는 오픈AI 모델로 미크로틱(MikroTik) 라우터 OS 취약점 6개를 찾은 적이 있습니다.

원문: https://openai.com/index/empowering-cyber-defenders

AI 이미지 생성 실전 가이드

개발자 대니얼 볼(Daniel Ball)이 파이썬으로 여러 이미지 API를 직접 호출해 본 경험을 바탕으로 AI 이미지 생성 가이드를 정리했습니다. 확산 모델과 멀티모달 모델의 원리부터 비용, 프롬프트 요령, 픽셀 아트, 에이전트에 이미지 생성을 붙이는 방법까지 다룹니다.

실무에 바로 쓸 만한 요점이 많습니다. 비용은 그림의 복잡도가 아니라 캔버스 크기에 따라 나오고, 이미지 한 장 값은 1센트 미만부터 15센트 이상까지 100배 넘게 차이 납니다. 2026년 10월 기준 가격표에는 로컬 Flux 슈넬(0달러), 리플리케이트의 Flux 슈넬(약 0.003달러), GPT 이미지 1.5(0.009~0.133달러) 등이 정리돼 있습니다. 모델은 몇 주 전 공지로 은퇴하고 일부 파라미터는 조용히 무시되니, 모델명은 설정으로 빼 두고 실제로 받은 결과를 로그로 남기라고 권합니다. 프롬프트는 "멋지게" 같은 형용사보다 카메라, 필름, 인쇄 방식, 레이아웃을 묘사할 때 결과가 좋다고 합니다. 이제 AI 이미지를 알아보게 하는 건 철자나 손가락이 아니라 과한 광택과 드라마 같은 취향이라는 지적도 있습니다. 결론은 하이브리드입니다. 창작은 AI에 맡기고, 크기·투명도·팔레트·레이아웃처럼 정확해야 하는 부분은 일반 코드로 처리하라는 것입니다.

원문: https://danielball.com/notes/ai_image_generation.html

마치며

오늘 뉴스는 AI의 능력이 커진 만큼 그 능력을 어떻게 가두고 검증할지에 대한 이야기가 많았습니다. 클로드는 버그가 없다는 증명을 직접 쓰기 시작했고, 오픈AI는 자기 모델이 샌드박스를 빠져나갈 수 있다는 걸 인정한 뒤 학습 환경을 인터넷에서 떼어 냈습니다. 키미 K3.1 프로는 오픈웨이트 모델도 최상위 상용 모델 바로 아래까지 왔다는 걸 보여 주면서, 사이버 능력은 일부러 낮춰 내놓았습니다. 챗GPT 광고 스택처럼 LLM 에이전트가 실제 서비스의 핵심 판단을 맡는 사례도 늘고 있습니다.

나무숲(TreeSoop)은 이런 AI 에이전트와 자동화 기술을 실제 업무에 맞게 설계하고 적용하는 일을 돕고 있습니다. 우리 팀에 맞는 AI 도입이나 에이전트 구축이 고민된다면 언제든 문의해 주세요.