AI-Native 시리즈 · 슈퍼 레포
내 v1.0에서 최고의 숫자는 NO-GO였다.
1분 요약 — 이 글에서 얻어갈 것
내 슈퍼 레포는 하루 만에 M0에서 시작해 v1.0을 찍었다: 위성 17개, 실시간 검증된 체인 5개, 검증된 도달 범위 40. 그중 가장 중요한 숫자는 따로 있었다. 바로 NO-GO 판정을 내린 보안 평가다 — 그리고 코드는 그 판정에 따른다. 믿을 수 있는 자율성이란 주장된 것이 아니라 보정된 자율성이다.
내 슈퍼 레포는 하루 만에 빈 폴더에서 v1.0이 됐다 — 마일스톤 열 개, 기계로 검증된 체인 다섯 개. 그런데 자체 보안 평가가 자율 모드를 불합격시켰다. 코드는 그 판정에 따른다. 약 6분.
시작은 이랬다
어제 나는 이런 글을 썼다. allin-anything은 내 레포 17개를 하나의 정문 뒤에 엮은 슈퍼 레포이며, 규칙은 단 하나다: 게이트 없이는 배지도 없다. 그것은 열 개짜리 마일스톤 궤적 중 네 번째였다. 이 글은 그날 나머지 시간이 내놓은 결과, 그리고 변경 이력 중 가장 무섭게 보이는 줄이 왜 내가 가장 자랑스러워하는 줄인지에 대한 이야기다.
여정을 압축하면
- 실제 잉크(M5) 헤드리스 브라우저가 penecho의 라이브 캔버스에 벽면 스트로크 일곱 개를 그렸다. penecho 자체 익스포터가 PNG를 만들어내고, 새 어댑터가 잉크를 평면도로 바꾸고, 실제 건축 게이트가 C1–C5를 통과시키며 exit 0을 냈다. 마일스톤 3의 손그림 스케치 단계는 더 이상 솔직한 공백이 아니라 검증된 파이프가 되었다.
- 화이트 배지 제로(M6) 이제 모든 새틀라이트는 커밋에 고정된 다이제스트를 갖고 있다 — 내 컴퓨터에 체크아웃조차 되어 있지 않은 레포가 하나 있다는 솔직한 메모까지 포함해서다. 그 레포의 한계선은 옐로우다.
- 다섯 개의 체인(M7) 스케치→건축 가능, 잉크→READY, 브리프→출력 가능한 STL, 재무 의도→money-os의 28개 테스트 게이트, 코퍼스→그래프 OS. 각 체인의 증거는 모두 같은 형태다. pytest로 나오는 라우터 판정, 대상 자체의 고유 게이트가 실시간으로 실행되어 나온 exit code 0, 그리고 검증되지 않은 부분을 명시하는 워크스루가 그것이다.
그다음 자율성이 등장했다 — 그리고 흥미로운 실패도 함께.
마일스톤 8은 대부분의 프로젝트가 스스로에게 거짓말을 하기 시작하는 지점이었다. 바로 시스템을 혼자서 돌아가게 두는 순간이다. 나는 인간이 개입하지 않고도 체인을 처음부터 끝까지 실행하는 러너를 만들었다 — 결정론적이고, LLM이 조종하지 않으며, 모든 실행이 기록으로 남는다. 그리고 무언가를 허락하기 전에, 나는 이 러너에 보안 평가 기준을 들이댔다. BRACE, 즉 자율 에이전트 배포를 항목별로 통제하는 평가로서, 증거 수집형 게이트로 구현되어 있다. 증거가 없으면 No다.
판정은 NO-GO. 44개 중 15개 통과. 격리된 환경도 없고, 독립적으로 철회 가능한 자격 증명도 없고, 재귀적 킬 스위치도 없다. 전부 사실이다 — 내 노트북에서 돌아가는 로컬 프로세스이니 당연하다.
여기서 중요한 대목이 나온다. 레포는 판정에 반박하는 대신 그대로 따른다. 자율성의 한계선은 체인 스펙에 명문화되어 있다. 모든 새틀라이트가 그린인 체인만 무인으로 실행될 수 있고, 러너는 실행 시점에 그 상태들을 다시 확인한다(등급이 떨어지면 자율성은 즉시 철회된다). 누락된 의존성은 절대 조작하지 않고 BLOCKED로 보고하며, 모든 체인은 휴먼 게이트를 선언해야 한다 — 검증기는 그것이 없는 체인을 거부한다. 이렇게 경계가 정해진 실행은 제대로 작동한다. 잉크→계획→게이트, exit 0, 그다음은 이렇다.
⏸ execution stops here — human owns:
🔑 approving any real-world build (READY is design-sanity, not a permit)
15살짜리도 이해할 수 있는 사고 모델
신입 운전자는 느낌이 준비됐다고 느껴서가 아니라, 자기 면허 등급이 허용하는 도로만 정확히 배정받는다. 그 면허 역시 다른 사람이 채점하는 시험에서 나온다. 내 레포의 자율 모드는 초보 운전 면허 수준이다. 로컬 도로에서 검증 심부름은 할 수 있지만, 되돌릴 수 없는 갈림길마다 지정된 어른이 함께해야 한다. 이 면허는 실제 장애물 — 격리, 회수 가능한 자격증명, 탑승자에게까지 닿는 킬 스위치 — 이 실제로 해소될 때만 다음 단계로 올라간다. 운전자가 참을성을 잃었다고 올라가는 게 아니다.
실패한 숫자를, 왜 공개했는가.
그 대안이란 데모 데이에 흔히 보는 뻔한 그림이기 때문이다. 헤드라인에는 "완전 자율", 각주에는 조용히 지켜보고 있는 사람. 순순히 따르는 NO-GO는 신뢰를 두 겹으로 쌓는다. 경계가 실제로 존재한다는 점에서 한 번, 그리고 시스템이 제 입으로 실토하는 모습을 누구나 볼 수 있다는 점에서 또 한 번. 같은 원칙이 지난번엔 내 과잉 집계를 잡아낸 적도 있다(차터 게이트가, 실제로는 초록이 두 개인데 세 개라고 주장한 걸 찾아냈다). 큰 소리로 실패하는 시스템이라야 그 초록 표시에도 의미가 생긴다.
v1.0 스코어보드, 전부 기계 검증: 위성 17개(8 🟢 · 9 🟡 · 0 ⚪) · 체인 5개, 게이트 실시간 실행 · 검증된 도달 범위 = 8 × 5 = 40, README에서 드리프트 감시 · 테스트 41개 · 셀프 오딧 100/100 · 자율성: 제한적, BRACE 보정, 휴먼 게이트 적용.
AI-Native 시리즈 더 보기
이 모든 글은 홈페이지의 Writing 섹션에 있다.
AI-Native 시리즈의 일부다. 자율성은 체인 단위로 획득되고, 평가로 보정되며, 휴먼 게이트로 제한된다. Publish 버튼도, 인쇄 버튼도, 머지 버튼도 결국 당신이 쥐고 있다.