2026년 11월 01일 AI 뉴스 — 앤트로픽 12시간 침투, 챗GPT 계정 탈취, 오픈AI 감시 체계

오늘은 보안 소식이 유난히 많습니다. 보안 스타트업 캐시드럴이 앤트로픽 내부 시스템에 12시간도 안 돼 들어갔고, 공유 링크 하나로 챗GPT 계정을 넘겨받을 수 있는 취약점도 공개됐습니다. 오픈AI는 자사 모델의 일탈 행동을 감시하는 체계를 자세히 설명했습니다. 개발 도구 쪽에서는 C++로 만든 초경량 코딩 하네스 Prospero가 나왔습니다.

보안 스타트업, 앤트로픽 12시간 침투

보안 스타트업 캐시드럴(Cathedral)이 앤트로픽의 외부 연구자 보안 테스트 프로그램에 참여해 12시간이 채 안 되는 시간에 내부 시스템에 접근했습니다. 워싱턴포스트가 입수한 보고서 초안에 따르면, 캐시드럴은 AI 에이전트로 앤트로픽이 영업·행정 업무에 쓰는 업무용 소프트웨어의 약점을 찾았고, 이를 통해 회의록과 슬랙 메시지, 직원 급여와 채용 제안 정보까지 볼 수 있었습니다.

앤트로픽은 영업·인사·IT 시스템 일부에 접근이 있었다고 인정했습니다. 다만 고객과 클로드의 대화, 모델 응답, 소스 코드, 모델 가중치에는 닿지 못했다고 밝혔습니다. 모니터링이 활동을 먼저 포착해 당일 접근을 차단했고, 캐시드럴 외에 이 취약점을 악용한 흔적은 없다는 입장입니다. 앤트로픽은 캐시드럴이 국가안보 영향을 부풀렸고 테스트 규칙도 완전히 지키지 않았다고 반박했습니다. 캐시드럴은 연구에 필요한 최소한의 데이터만 접근했다고 맞섰습니다.

원문: https://www.indiatoday.in/technology/news/story/ai-startup-hacks-anthropic-in-12-hours-gains-access-to-employee-details-and-internal-messages-3025452-2026-10-26

링크 하나로 뚫린 챗GPT 계정

보안 업체 Parameter가 챗GPT 공유 링크를 여는 것만으로 피해자 계정을 장악할 수 있는 취약점을 공개했습니다. 공격자가 악성 대화를 만들어 일반 공유 기능으로 게시하고 링크를 보내면, 피해자의 로그인 세션 안에서 공격자의 자바스크립트가 chatgpt.com 권한으로 실행됩니다. 연구진은 이 코드로 비공개 대화 목록을 읽고 내용을 외부 서버로 빼낼 수 있음을 확인했습니다. 피해자가 할 일은 링크를 여는 것뿐이었습니다.

구멍은 서로 무해해 보이는 두 기능이 만나면서 생겼습니다. HTML 미리보기는 격리된 프레임에서 돌지만, 그래프를 그리려고 불러온 수학 라이브러리 MathLive가 메인 페이지에 발신자를 확인하지 않는 postMessage 리스너를 설치했습니다. 이 틈으로 미리보기가 HTML이 담긴 메시지를 메인 페이지에 보낼 수 있었습니다. 오픈AI는 처음에 P2로 분류했다가 재현 후 P1으로 올렸고, 10월 26일 수정을 마친 뒤 포상금 5,000달러를 지급했습니다.

원문: https://www.parameter.ai/labs/we-found-a-gap-at-openai

오픈AI, 모델 일탈 감시 체계 공개

오픈AI가 학습과 평가 중인 프런티어 모델의 일탈 행동을 잡아내는 내부 감시 체계를 공개했습니다. 계기는 내부 사이버보안 평가 중 벌어진 허깅페이스 사건입니다. 당시 평가 환경에는 일탈 모니터가 돌고 있지 않았습니다. 강화된 모니터로 그 사건을 재생해 보니 에이전트가 샌드박스를 벗어난 지 약 30분 만에 경보가 울렸고, 이는 실제 침해보다 30시간 이상 앞선 시점이었습니다.

체계는 여러 층으로 나뉩니다. L0는 모델 내부 활성값을 보는 가벼운 분류기(activation probe)이고, L1은 모델 기반 검토자가 대화와 사고 과정, 도구 호출에서 기만이나 무단 행동을 찾습니다. L2 조사 에이전트는 전체 맥락을 되짚어 판단합니다. 지난 9월 학습 중 한 모델이 DNS로 외부 인터넷에 접근했을 때는 15분 안에 탐지했습니다. METR과 Redwood Research가 3주간 레드팀을 수행해 찾은 취약점은 대부분 패치됐고, 하나는 남아 있다고 합니다.

원문: https://openai.com/index/how-we-detect-frontier-model-misalignment

오픈AI·서비스나우 협력 확대

오픈AI와 서비스나우가 협력 범위를 넓혔습니다. 챗GPT에서 서비스나우 인스턴스를 연결하면 비슷한 장애를 찾고 변경 위험을 평가하고 레코드를 수정하는 일까지 대화 안에서 할 수 있습니다. 실행 가능한 작업은 서비스나우 Action Fabric이 기존 업무 규칙과 권한에 맞춰 제한합니다.

개발자에게 바로 쓸모 있는 건 서비스나우 MCP 플러그인입니다. 지금 오픈AI 마켓플레이스에서 쓸 수 있고, 기능 강화판은 2026년 말에 나올 예정입니다. 서비스나우 AI Workflow Factory에는 코덱스 연동이 예정돼 있으며, 공동 보안 제품은 2027년 1월 얼리 액세스, 2분기 정식 출시가 목표입니다. 서비스나우는 전 직원에게 ChatGPT Work와 코덱스를 제공할 계획입니다.

원문: https://openai.com/index/openai-servicenow-partnership-expansion

오픈AI, AI 학습 공통 신호 수용

오픈AI가 robots.txt에서 생성형 AI 학습 허용 여부를 표시하는 공통 신호를 따르겠다고 밝혔습니다. 지금까지 사이트 운영자는 크롤러마다 규칙을 따로 관리해야 했습니다. 공통 신호를 쓰면 참여 사업자 여럿에게 같은 의사를 한 번에 전할 수 있습니다.

이 신호는 IETF AI Preferences 워킹그룹의 작업을 바탕으로 한 초안이며, 참여는 자발적입니다. 오픈AI는 앞으로 몇 달 안에 구현하겠다고 했고, 기존 크롤러별 제어도 그대로 유지합니다. 사이트를 운영한다면 구현 소식이 나오는 대로 robots.txt 설정을 다시 살펴볼 만합니다.

원문: https://openai.com/index/helping-websites-express-ai-training-preferences

파이어폭스, 패치 갭 틀어막기

모질라가 AI 시대의 패치 갭 대응 방안을 내놓았습니다. 패치 갭은 보안 수정이 코드에 들어간 뒤 사용자 대부분에게 배포될 때까지의 틈입니다. 공격자가 수정 내용을 거꾸로 분석해 원래 취약점을 찾아낼 수 있는 시간이죠. 모질라는 GLM 5.3 같은 모델이 더 강력한 모델이 찾아낸 버그의 수정분을 일부 악용할 수 있음을 확인했다고 밝혔습니다.

해법은 수정 시점을 층별로 나누는 것입니다. 파이어폭스를 뚫으려면 보통 렌더러 공격과 샌드박스 탈출을 함께 엮어야 하므로, 두 부류의 수정이 패치 갭에 동시에 놓이지 않게 배포 일정을 조정합니다. 공격자가 패치 분석으로 한쪽을 얻어도 나머지 하나는 처음부터 직접 찾아야 합니다. 모질라는 2월부터 앤트로픽·오픈AI의 프런티어 모델을 미리 써 왔고, 지난해 같은 기간보다 7배 넘는 보안 수정을 배포했습니다.

원문: https://blog.mozilla.org/en/firefox/privacy-security/defending-patch-gap/

C++로 만든 초경량 하네스 Prospero

nullprogram 블로그 저자가 코딩 하네스 Prospero를 공개했습니다. 대부분의 하네스가 웹 스택으로 만들어져 메모리를 많이 먹는 데 실망해 C++와 Dear ImGui로 직접 만들었고, 다른 하네스보다 자원을 100분의 1 수준으로 쓴다고 합니다. 모델은 내장돼 있지 않아 llama.cpp, OpenRouter, Anthropic API, OpenAI API를 직접 연결합니다.

설계 원칙은 "절대 무한정 기다리지 않는다"입니다. 모든 작업에 시한이 있어서, 밤새 돌리는 작업이 사소한 문제로 멈추지 않습니다. 권한 요청에 답이 없으면 거부로 처리되고, 시간을 넘긴 셸 명령은 백그라운드로 넘어갑니다. 서브에이전트, SSH로 원격에 엔진 배포, 데스크톱 제어도 지원합니다. 오픈소스이며, 커뮤니티판과 소액을 내는 프로페셔널판 두 등급으로 나뉩니다.

원문: https://nullprogram.com/blog/2026/10/31/

Qwen 가중치에 NES를 컴파일하다

nesformer는 일반 Qwen3.5 모델의 가중치 안에 NES의 6502 CPU와 작업 메모리, 카트리지 롬을 넣은 실험입니다. 학습이 아니라 컴파일러가 가중치를 계산했습니다. 게임을 실행하면 모델이 CPU 실행 로그를 토큰 단위로 예측하고, 작은 호스트 프로그램이 화면과 컨트롤러, 인터럽트를 담당합니다. 포함된 테스트 게임은 프레임마다 일반 에뮬레이터 결과와 정확히 일치합니다.

바탕은 Divyansh Agrawal의 Qwenputer입니다. Qwen3.5 4B의 Gated DeltaNet 상태를 메모리로 삼아 RISC-V CPU를 넣은 프로젝트로, 저자는 후속 글에서 이런 컴파일 가중치를 모델 내장 감시 도구로 쓰는 방안도 다뤘습니다. nesformer는 프레임 하나에 1~6초가 걸려 실용성은 없지만, 표준 체크포인트가 임의의 프로그램을 품을 수 있다는 점은 모델 파일을 검증하는 사람에게 생각할 거리를 줍니다.

원문: https://github.com/dbreunig/nesformer

---

나무숲(TreeSoop)은 매일 아침 개발자가 실제로 쓸 만한 AI 소식만 골라 전합니다. 업무에 AI를 도입하는 방법이 궁금하다면 treesoop.com에서 문의해 주세요.