2026년 8월 5일 AI 뉴스 — 전문가를 보상하는 LLM, 하네스 설계, 한국 오픈웨이트 모델

오늘 AI 뉴스는 "누가 AI를 잘 쓰는가"라는 질문에서 시작한다. 같은 모델을 써도 결과가 갈리는 이유, 모델보다 하네스가 중요해진 이유, 그리고 한국 기업들이 연달아 내놓은 오픈웨이트 모델까지 여덟 가지를 정리했다.

LLM은 전문가에게 더 후하다

숀 괴데케는 LLM이 실력을 평준화하는 도구라는 통념을 정면으로 반박한다. 그가 드는 사례는 수학자 테런스 타오가 ChatGPT와 나눈 대화다. 타오는 모델이 내놓은 풀이에서 어느 단계의 논증이 헐거운지 즉시 짚어내고, 그 지점을 겨냥해 다시 질문을 던져 더 나은 답으로 끌고 간다. 이건 수학을 깊이 아는 사람만 할 수 있는 조작이다.

괴데케의 표현을 빌리면 "병목은 모델이 아니라 사람"이다. 좋은 답과 그럴듯한 오답을 구분하지 못하면, 아무리 좋은 모델을 붙여도 뽑아낼 수 있는 것의 상한이 낮다. 소프트웨어 엔지니어링에서도 마찬가지여서, 도메인 이해가 깊은 사람일수록 같은 모델에서 훨씬 많은 것을 얻는다. 모델이 좋아질수록 전문성의 가치가 떨어질 거라는 예상과 정반대의 결론이다.

https://www.seangoedecke.com/llms-reward-expertise/

모델보다 하네스가 스스로 큰다

Lilian Weng이 에이전트 하네스를 재귀적 자기개선의 관점에서 정리한 긴 글을 냈다. 여기서 하네스란 모델을 둘러싼 워크플로 자동화, 지속 메모리, 도구 연결을 통칭한다. 모델 가중치를 건드리지 않아도 이 층을 어떻게 설계하느냐에 따라 에이전트의 실제 성능이 크게 달라진다는 것이 요지다.

글은 세 가지 설계 패턴을 다룬다. 워크플로 자동화, 파일 시스템 기반 메모리, 그리고 서브 에이전트 조율이다. 이어서 컨텍스트 엔지니어링부터 진화적 탐색까지 하네스 자체를 최적화하는 방법들을 짚고, 하네스가 자동 개선의 대상이 되는 시나리오까지 나아간다. 다만 웽은 하네스가 스스로를 고치기 시작하면 리워드 해킹이 따라온다는 점을 분명히 하며, 사람의 감독이 계속 필요하다고 못 박는다.

https://lilianweng.github.io/posts/2026-07-04-harness/

크래프톤, 21B 한영 이중언어 음성 모델 공개

크래프톤이 A.X K2 Raon-Speech를 공개했다. 총 21.2B 파라미터에 활성 3.5B인 MoE 구조로, SK텔레콤의 A.X K2 Light 20B-A3B를 텍스트 백본으로 삼고 자체 개발한 AuT 음성 인코더(약 317M)와 Mimi 기반 오디오 코덱(약 96M)을 붙였다. 컨텍스트는 131,072 토큰까지 지원한다.

기능 범위가 넓다. 음성 인식과 합성은 물론이고, 참조 음성을 주면 화자 특성을 살린 TTS를 만들고, 억양·감정 같은 준언어 정보까지 다루며 도구 호출도 된다. 30B 미만 모델 46개 벤치마크 비교에서 한국어 종합 1위(0.72), 영어 3위(0.75)를 기록했다. 다만 라이선스가 CC BY-NC 4.0이라 상업적 사용은 막혀 있다. 연구와 프로토타이핑 용도로 보는 것이 맞다.

https://huggingface.co/KRAFTON/A.X-K2-Raon-Speech-21B-A3B/blob/main/README_ko.md

카카오, 카나나-2 경량 모델 4종 오픈소스 공개

카카오가 카나나-2 SLM 계열 네 종을 공개했다. 3B 베이스와 인스트럭트, 그리고 1.3B 베이스와 인스트럭트다. 1.3B는 3B에서 캐스케이드 프루닝과 증류를 거쳐 압축한 모델로, 온디바이스 배포를 겨냥한다.

기술적으로 눈에 띄는 건 슬라이딩 윈도 어텐션이다. 32,768 토큰까지 컨텍스트를 지원하면서 최대 길이 기준 메모리를 풀 어텐션 대비 약 73% 줄였다. 한국어, 일반 추론, 수학, 코딩에서 고르게 성능을 낸다고 밝혔고, 라이선스는 자체 KananaOpenLicense다. 학습에 카카오 이용자 데이터를 쓰지 않았다는 점도 명시했다. 분류나 요약처럼 좁은 작업에 프런티어 모델을 쓰던 곳이라면 비용 구조를 다시 볼 만하다.

https://huggingface.co/kakaocorp/kanana-2-1.3b-base

맥에서 80B 큐원을 4.3GB 램으로

Swiftlet은 Swift와 Metal로 짠 런타임으로, MoE 전문가 가중치를 저장장치에서 스트리밍해 애플 기기에서 대형 모델을 돌린다. 어텐션·프로젝션·라우터 같은 밀집 부분만 램에 상주시키고(4비트 기준 1.3~2.5GB), 라우팅되는 전문가들은 고정 스트라이드 컨테이너로 재배치해 디스크에서 필요할 때 읽어온다. 캐시는 LFU에 최근성을 섞은 방식이다.

숫자를 보면 Qwen3-Next-80B 4비트가 저장 42GB, 피크 램 4.3GB에 M5 맥에서 초당 4.5~5토큰이다. Qwen3.6-35B는 저장 18GB, 피크 램 2.6GB에 7~11토큰이고, 아이폰 17에서도 2.5GB 램으로 초당 1토큰 정도 나온다. 레이어의 75%가 Gated DeltaNet 선형 어텐션이라 KV 캐시가 커지지 않는 구조라는 점이 이 숫자를 가능하게 했다. 램 용량이 모델 크기의 상한이라는 통념이 계속 무너지는 중이다.

https://github.com/leonickson1/Swiftlet

MI300X 한 장으로 딥시크 V4 플래시 서빙

304B 규모의 DeepSeek-V4-Flash를 AMD MI300X 단일 GPU에서 서빙하는 프로덕션 설정이 공개됐다. MI300X의 192GB HBM3와 5.3TB/s 대역폭을 활용해 양자화 없이 156.67GiB의 가중치를 통째로 올린다. Docker Compose 구성, 커널 패치, vLLM ROCm 나이틀리, Caddy 프록시까지 묶여 있고 시스템 램 235GB와 디스크 500GB를 요구한다.

성능은 단일 스트림 디코딩 초당 168.6토큰, 프리필 7.9~8.5K토큰이다. 8개 동시 스트림에서 합계 542토큰(스트림당 중앙값 90.3), 64스트림 버스트에서는 합계 830토큰을 낸다. 커스텀 GEMM 튜닝 테이블, 퓨즈드 SiLU 커널, DSpark 추측 디코딩, GPU 20GB와 CPU 96GB를 섞은 하이브리드 KV 캐시가 조합된 결과다. 엔비디아 외 선택지로 자체 추론 서버를 저울질 중이라면 비용 계산이 달라질 수 있다.

https://github.com/ryanzhou/deepseek-v4-flash-mi300x

팀 코딩 규칙을 에이전트 스킬로 박아넣기

adlc-team-skills는 팀의 코딩 표준과 거버넌스를 에이전트 스킬로 만들어 버전 관리하는 오픈소스 프레임워크다. 개발자 각자가 개인 프롬프트 요령으로 버티는 대신, 팀 헌장과 아키텍처 기준, 평가 벤치마크를 한 저장소에 모은다. 스스로를 "Twelve-Factor Agentic SDLC의 팀 레이어"라고 부른다.

스킬은 28개 이상이 네 축으로 나뉜다. 팀 지침(6개), 세션에서 배운 것을 팀 기억으로 굳히는 LevelUp/CDR(5개), 제품·아키텍처 결정 기록을 다루는 PDR/ADR(11개), 검증 우선 평가 스위트를 만드는 거버넌스·평가(6개)다. Agent Skills 표준을 따르므로 클로드 코드와 코덱스 양쪽에서 쓰이고, `npx adlc-skills-cli add`로 설치하면 슬래시 커맨드와 세션 시작 훅이 자동으로 연결된다. 에이전트를 여러 명이 함께 쓰는 팀에서 결과물 편차를 줄이는 접근이다.

https://github.com/tikalk/adlc-team-skills

AI 팀을 고용하고 배치하는 총괄 에이전트

LobeHub가 스스로를 "Chief Agent Operator"로 재정의했다. 개별 에이전트를 하나씩 다루는 대신, 에이전트 팀을 고용하고 일정을 짜고 보고를 받는 상위 레이어를 제공한다. 슬로건은 "온라인에 붙어 있지 않아도 당신이 지휘한다"다.

구성은 네 갈래다. 여러 에이전트를 한곳에 모으고 IM 게이트웨이로 접근하게 하는 오퍼레이터 모드, 필요를 한 번만 설명하면 자동 구성해주는 에이전트 빌더(1만 개 이상의 도구와 MCP 플러그인 연결), 에이전트 그룹·페이지·스케줄·프로젝트·워크스페이스로 묶은 협업 층, 그리고 사용자가 직접 열어보고 고칠 수 있는 화이트박스 개인 메모리다. 에이전트를 일회성 도구가 아니라 작업의 기본 단위로 놓겠다는 관점이 분명하다.

https://github.com/lobehub/lobehub

마치며

오늘 목록을 관통하는 흐름은 두 가지다. 하나는 대형 모델을 더 작은 하드웨어에서 더 싸게 돌리려는 압박이다. Swiftlet은 아이폰까지 내려갔고, MI300X 설정은 엔비디아 밖의 선택지를 보여주며, 카카오의 1.3B는 아예 작게 가는 길을 택했다. 다른 하나는 개별 에이전트에서 에이전트 조직으로 넘어가는 추상화 상승이다. 하네스 설계, 팀 단위 스킬, 총괄 에이전트가 모두 같은 방향을 가리킨다.

두 흐름 모두 첫 번째 글로 되돌아온다. 도구가 싸지고 층이 두꺼워질수록, 그 위에서 무엇을 판단하는지가 결과를 가른다.

나무숲은 이런 변화를 매일 아침 한 번에 정리해 전한다. 오늘 다룬 도구 중 하나라도 직접 돌려보는 것부터 시작해보길 권한다.