2026년 10월 26일 AI 뉴스 — 코히어 리랭크 5, 젯브레인즈 씽크레일, 세레브라스 3조 모델 서빙

오늘 고른 뉴스는 8개입니다. 코히어가 리랭커 신모델 리랭크 5를 내놓았는데, 문서 순위만 매기던 데서 한 걸음 나아가 문서 안의 핵심 구절만 골라 돌려줍니다. 젯브레인즈는 코딩 에이전트 pi를 중심에 둔 가벼운 에이전트 IDE 씽크레일을 오픈소스로 공개했고, 세레브라스는 3조 파라미터 모델 키미 K3를 웨이퍼 59장에 나눠 올리는 방법을 계산식째 풀어 설명했습니다. 클로드 코드와 코덱스를 한 에이전트 안에 묶은 신디, AI 리뷰 다음 단계에서 PR의 위험도를 짚어 주는 파롤, 클로드 코드용 SEO 감사 플러그인, RTX 30 시리즈의 BF16 연산 제한을 푸는 리눅스 모듈, 앤트로픽 장기이익신탁에 합류한 하버드 물리학자 소식까지 정리했습니다.

코히어, 리랭크 5 공개

코히어(Cohere)가 검색 결과 재정렬 모델 리랭크 5(Rerank 5)를 프로(Pro)와 패스트(Fast) 두 등급으로 내놓았습니다. 프로는 ViDoRe V3, BRIGHT, BEIR 같은 공개 벤치마크에서 비교 모델을 모두 앞섰고, 46개 복합 데이터셋 가운데 39개에서 1위를 했다고 밝혔습니다. 다국어 성능도 전 버전보다 올랐는데, 한국어 점수는 프로가 91.8로 표에 나온 6개 언어 중 가장 높습니다. 패스트는 A100 한 장에서 1,000토큰 문서를 초당 약 187개 처리해 프로보다 처리량이 2.9배 많습니다.

개발자가 눈여겨볼 기능은 새로 들어간 컨텍스트 포커스(Context Focus)입니다. 리랭크 API를 한 번 호출하면 문서별 관련도 점수와 함께 문서 안에서 질문과 맞닿은 텍스트 구간을 점수와 같이 돌려줍니다. 그 구간만 LLM에 넘기면 토큰을 줄일 수 있습니다. 코히어 실험에서는 검색 결과의 절반을 덜어 내도 답변 품질이 96% 유지됐습니다. BM25 검색만 쓰는 에이전트에 리랭크 5와 컨텍스트 포커스(임계값 0.4)를 붙이자 정확도는 46%에서 58%로 오르고 토큰은 35% 줄었습니다. 점수도 보정돼 나와서 0.7이면 "쓸모 있을 확률 70%"로 읽으면 되고, 모델을 바꿀 때마다 컷오프를 다시 맞출 필요가 없습니다.

가격은 100만 토큰당 프로 0.05달러, 패스트 0.02달러입니다. 코히어 API와 모델 볼트, 마이크로소프트 파운드리, 아마존 세이지메이커에서 바로 쓸 수 있고 자체 VPC나 온프레미스 배포도 됩니다.

원문: https://cohere.com/blog/rerank-5

젯브레인즈 에이전트 IDE 씽크레일

젯브레인즈(JetBrains)가 씽크레일(ThinkRail)을 깃허브에 공개했습니다. 오픈소스 코딩 에이전트 pi를 중심에 두고 그 주변에 가벼운 IDE를 붙인 형태입니다. 깃 저장소를 프로젝트로 열면 작업마다 git worktree로 분리된 워크스페이스를 만들어 줘서, 에이전트 여러 개가 내 체크아웃을 건드리지 않고 동시에 일합니다. 잘된 브랜치만 머지하고 나머지는 지우면 됩니다. 모나코 에디터 탭, 깃 변경 표시가 붙은 파일 트리, 터미널이 워크스페이스 단위로 묶여 있고, 파일이나 diff에 남긴 리뷰 코멘트를 구조화된 컨텍스트로 채팅에 넘길 수 있습니다.

워크스페이스마다 pi 세션을 여러 개 띄울 수 있고, 세션별로 모델을 따로 고르며 토큰과 비용이 실시간으로 표시됩니다. 실행 중인 턴에 방향을 틀거나 후속 지시를 대기열에 넣을 수 있고, 서브에이전트에게 일을 맡기거나 에이전트와 함께 고치는 공용 계획을 단계별로 커밋할 수도 있습니다. 눈에 띄는 건 "살아 있는 스펙"입니다. 코드 옆에 SPEC.md 파일들이 그래프로 연결돼 있고, 에이전트가 전용 spec_* 도구로 이 문서를 읽고 고쳐 가며 세션이 끝나도 의도가 남게 합니다. 다른 코딩 에이전트용으로 만들어 둔 에이전트 스킬도 그대로 읽습니다. 다음 단계로는 씽크레일이 사용자의 작업 방식에 맞춰 필요한 도구를 직접 만드는 확장 기능을 준비하고 있습니다.

원문: https://github.com/JetBrains/thinkrail

세레브라스의 3조 모델 서빙법

세레브라스(Cerebras)가 1조 파라미터를 넘는 모델을 자사 웨이퍼 칩에 어떻게 올리는지 블로그에 풀었습니다. WSE-3T 웨이퍼 한 장의 온칩 메모리는 44GB인데, 이런 모델은 가중치만 테라바이트 단위입니다. 예시로 든 모델은 오픈소스 키미 K3(Kimi K3)로, 약 3조 파라미터에 선형 어텐션 레이어 69개와 덴스 레이어 24개로 이뤄져 있습니다. 가중치를 4비트로 양자화하면 레이어 하나가 약 16GB가 됩니다. 덴스 레이어는 KV 캐시 자리가 필요해 웨이퍼마다 하나씩 두고, 요청마다 작은 고정 크기 상태만 갖는 선형 레이어는 웨이퍼 한 장에 두 개씩 넣습니다. 그래서 35장과 24장을 더한 웨이퍼 59장이면 모델 전체가 칩 위에 올라갑니다.

웨이퍼끼리는 이더넷 위 RDMA로 활성값만 주고받고, 홉당 약 2마이크로초가 걸립니다. 가중치는 움직이지 않습니다. 웨이퍼를 파이프라인 단계로 쓰면 앞 단계가 노는 것 아니냐는 질문에는, 단계마다 서로 다른 요청을 동시에 처리해 파이프라인을 늘 채운다고 답합니다. 단계마다 작은 마이크로배치를 돌려서 동시 처리 요청 수는 대략 단계 수에 마이크로배치 크기를 곱한 값이 되고, 그 상한은 덴스 레이어 웨이퍼에 남은 KV 캐시 공간이 정합니다. 이렇게 해서 초당 1,000~2,000토큰 이상을 낸다고 합니다. 세레브라스는 추론 시스템을 비교할 때 동시성이나 배치 크기보다 같은 생성 속도에서의 메가와트당 초당 토큰 수를 보라고 권합니다.

원문: https://www.cerebras.ai/blog/how-we-deploy-trillion-parameter-frontier-models-on-cerebras

클로드 코드·코덱스 묶은 신디

신디(Cindy)는 설치하면 바로 쓸 수 있는 오픈소스 AI 에이전트 앱입니다. 깃허브에 공개된 건 데스크톱(일렉트론)과 모바일(엑스포) 클라이언트이고 라이선스는 아파치 2.0입니다. 백엔드 서비스는 별도 저장소에 있습니다. 첫 지원 하네스는 클로드 코드와 코덱스이고, 자체 하네스도 만들고 있습니다. 작업 도중에 하네스와 모델을 바꿔도 워크스페이스·메모리·스킬·도구는 그대로 이어집니다. 한 작업을 계획, 병렬 실행, 리뷰로 나눠 각각 다른 하네스와 모델 조합에 맡길 수도 있습니다.

로컬에서 실제 파일과 로그인된 앱을 그대로 쓰고, 브라우저와 컴퓨터, 휴대폰까지 조작합니다. 메신저로 일을 받거나 예약 작업을 돌릴 수 있고 MCP로 사내 도구도 붙일 수 있습니다. 비용 면에서는 이미 내고 있는 클로드 코드·코덱스 요금제를 그대로 연결할 수 있어 이중 과금이 없고, 자기 API 키나 로컬 모델도 됩니다. 로그인 화면에서 "Skip Sign-In"을 고르면 계정 없이 로컬 에이전트만 쓸 수 있습니다.

원문: https://github.com/makecindy/cindy

AI 리뷰 다음 PR 위험 지도, 파롤

에이전트가 코드를 쓰고 리뷰까지 해도 머지 승인은 결국 사람 몫입니다. 파롤(farol, 포르투갈어로 등대)은 그 승인자를 위한 무료 오픈소스(MIT) CLI이자 깃허브 액션입니다. AI 리뷰를 대신하지 않고, 그 뒤에 붙어서 "이 변경을 받아들이면 얼마나 위험하고 위험이 어디 있는지"를 알려 줍니다. 판정은 빠른 통과·간단 리뷰·꼼꼼한 리뷰 세 단계와 0~100점 위험 점수로 나옵니다. 점수는 변경이 닿는 범위, diff 테스트 커버리지, 보안 발견 사항, 계약 파괴, 의존성 변경으로 매깁니다. 위험한 파일부터 인라인 diff와 테스트 안 된 줄 표시, 손으로 확인할 체크리스트를 보여 줍니다.

모델이 추측하지 않고 실제 컴파일러로 정적 분석을 하기 때문에 같은 PR에는 늘 같은 답이 나옵니다. 타입스크립트 타입 체커, go/types, 파이썬 ast로 선언 그래프를 만들어서, formatPrice 하나를 고치면 "파일 1개 변경"이 아니라 그 함수를 렌더링하는 페이지 12개를 짚어 줍니다. GraphQL, FastAPI, Go 핸들러, gRPC에서 응답 필드 삭제나 필수 파라미터 추가 같은 계약 파괴도 호출하는 서비스와 함께 잡아냅니다. npx @winninjs/farol로 돌리거나 winnin/farol/action을 PR마다 붙이면 되고, 계정이나 호스팅 서비스 없이 내 머신이나 CI 러너에서 돌며 머지를 막지는 않습니다. 개발진은 클로드 코드 팀의 코드 리뷰 원칙인 "리뷰 강도는 작성자가 아니라 변경이 정한다"를 그대로 따랐다고 밝혔습니다.

원문: https://github.com/winnin/farol

클로드 코드용 SEO 감사 플러그인

클로드 SEO(claude-seo)는 클로드 코드에서 쓰는 무료 오픈소스(MIT) SEO 플러그인입니다. 웹사이트 주소를 주면 10~15분 동안 전체 SEO 감사를 돌리고, 중요한 순서로 정리한 실행 계획을 돌려줍니다. 하위 스킬 26개와 전문 에이전트 19개로 짜여 있고, 감사할 때는 에이전트가 최대 17개까지 동시에 사이트를 나눠 봅니다.

크롤링·색인·사이트맵·코어 웹 바이탈 같은 기술 SEO부터 E-E-A-T 콘텐츠 품질, 스키마 마크업 생성과 검증, 로컬·이커머스·다국어 SEO까지 다룹니다. 구글 AI 오버뷰와 챗GPT, 퍼플렉시티, 제미나이가 내 페이지를 인용할 가능성을 따지는 GEO 점검도 들어 있습니다. 실시간 SEO 데이터를 붙이는 선택형 확장도 9개 있습니다. 설치는 클로드 코드에서 /plugin marketplace add AgriciDaniel/claude-seo로 마켓플레이스를 추가하고 플러그인을 깐 뒤 /seo audit <url>을 치면 됩니다. 프로젝트 사이트(claude-seo.md)를 첫날부터 이 도구로 관리해 첫 12주 동안 서치 콘솔 클릭 1만 800회를 얻었다고 합니다.

원문: https://github.com/AgriciDaniel/claude-seo

RTX 30 BF16 연산 제한 푸는 모듈

gpu-unlock은 엔비디아 RTX 30 시리즈 그래픽카드의 FP16·BF16 명령 발행 속도를 같은 칩을 쓰는 전문가용 카드 수준으로 풀어 주는 리눅스 커널 모듈입니다. GA102·GA103·GA104·GA106 칩에서 FP32 누산으로 처리하는 FP16·BF16 FMA 명령의 발행 속도를 두 배로 올립니다. 엔비디아 드라이버가 카드를 잡기 전에 잠금 해제와 리셋을 끝내는 방식이라, 드라이버를 패치하지 않으니 새 드라이버가 나올 때마다 다시 손댈 필요가 없습니다.

공개된 RTX 3090 Ti 측정치(8192³ GEMM, 450W)를 보면 BF16이 87.5에서 157.4 TFLOPS로, TF32가 42.6에서 82.6 TFLOPS로, FP16이 87.5에서 118.4 TFLOPS로 올랐습니다. 사용자 보고 기준으로 RTX 3090은 BF16 GEMM이 25~67%, RTX 3080 10GB는 70~73% 빨라졌습니다. OEM판 RTX 3080 Ti 20GB처럼 잠금 해제가 끝나도 BF16이 절반 속도에 머무는 카드도 있습니다. 집에서 옛 RTX 30 카드로 로컬 모델을 학습하거나 돌리는 사람에게는 반가운 소식이지만, 비공식 커널 모듈이니 쓰기 전에 지원 카드 목록과 이슈 보고를 확인하는 편이 좋습니다.

원문: https://github.com/Zagitta/gpu-unlock

앤트로픽 신탁에 하버드 물리학자

하버드대 실험물리학자이자 2018~2024년 하버드 이과대학장을 지낸 크리스토퍼 스텁스(Christopher Stubbs)가 앤트로픽 장기이익신탁(Long-Term Benefit Trust)에 합류했습니다. 스텁스는 1998년 우주가 가속 팽창한다는 사실을 발견한 High-Z 초신성 탐색팀의 일원이었고, 지금의 베라 C. 루빈 천문대 초대 프로젝트 과학자를 맡았습니다. 미국 정부에 국방·기술 자문을 해 온 과학자 모임 JASON의 회원이기도 합니다. 최근에는 같은 질문에도 모델이 다른 답을 내는 상황에서 AI를 쓴 연구의 재현성을 어떻게 지킬지에 대해 글을 써 왔습니다. 그는 "연구에 매일 AI 도구를 쓰면서 그 가능성을 보고 있다"고 말했습니다.

장기이익신탁은 공익법인(PBC)인 앤트로픽이 상업적 성장과 공익 목적 사이의 균형을 오래 지키도록 만든 기구로, 이사회 과반을 선임할 권한이 있습니다. 앤트로픽은 이번 주 첫 공익 보고서(Public Benefit Report)도 냈는데, 신탁 위원들이 평가 기준이 된 헌장 다섯 기둥을 함께 정했고 보고서 끝에 지금까지의 진척을 직접 평가했습니다.

원문: https://www.anthropic.com/news/christopher-stubbs-joins-long-term-benefit-trust

마치며

오늘 뉴스에는 에이전트를 둘러싼 도구들이 한 단계 더 세분화되는 모습이 많았습니다. 리랭크 5는 에이전트가 읽을 토큰을 검색 단계에서부터 줄이고, 씽크레일과 신디는 코딩 에이전트를 워크스페이스·스펙·하네스 단위로 관리하는 쪽으로 갔습니다. 파롤은 에이전트가 쓰고 리뷰한 코드를 사람이 승인하는 마지막 단계를 겨냥했습니다. 인프라 쪽에서는 세레브라스가 3조 파라미터 모델을 칩 위에 통째로 올리는 방식을 공개했고, gpu-unlock은 오래된 소비자용 GPU에서 연산 성능을 더 끌어냈습니다.

나무숲(TreeSoop)은 이런 AI 에이전트와 자동화 기술을 실제 업무에 맞게 설계하고 적용하는 일을 돕고 있습니다. 우리 팀에 맞는 AI 도입이나 에이전트 구축이 고민된다면 언제든 문의해 주세요.