작업 목록01 02 03 04
NOVALUX — 내 PC 코딩 에이전트
모델은 그대로, 일하는 방식만 바꿔 25%를 80%로
공개 MoE 모델(Qwen 35B)을 그래픽카드 8GB짜리 집 PC에서 돌리고, 그 위에 계획 → 실행 → 증거 확인 순서로 일하는 터미널 코딩 에이전트를 만들었다. 모델은 학습시키지 않았다 — 뇌는 그대로 두고 일하는 방식만 바꿔, 같은 모델로 버그 수정 문제를 25%에서 80%까지 풀게 했다.
공개 모델을 내 PC 한 대에서 돌리고, 일하는 방식으로 실력을 끌어올린 코딩 에이전트 — 예산 0원
- 기간
- 2026년 10월
- 역할
- 전체 — 설계 · 엔진 튜닝 · 에이전트 · 안전장치 · 채점 도구
- 분류
- AI, 소프트웨어, 자동화
- 등급
- 주요 작업 — 구조와 판단이 남아 있는 것
화면 캡처가 아직 없어, 아래에 구조와 판단으로 적었습니다.
무슨 문제였나
쓸 만한 코딩 AI는 대부분 데이터센터에서 돈다. 모델을 다시 학습시키려면 그래픽카드 메모리가 74GB쯤 필요한데, 가진 건 8GB 한 장과 예산 0원이었다.
어떻게 풀었나
«실력 = 뇌 × 시간 × 검증 × 기억»으로 보고, 뇌(모델)는 손대지 않고 나머지를 만들었다. 35B 모델을 8GB에 올리려고 전문가 층을 CPU로 나누는 값을 찾아 맞췄고, 에이전트는 읽기 전용 계획과 실행을 나누고, 고친 뒤에는 증거(테스트 · 린트)가 있어야 끝내게 했다. 실력은 느낌이 아니라 채점 장부로 잰다 — 실제 코드 복사본에 버그를 심은 문제로 «맨몸 모델»과 나란히 시험했다.
구조
- 01마스터 감시 — 전역 정지 단축키, 요청할 때만 켜고 끝나면 전부 끈다
- 02뇌 서버 — llama.cpp, 32K 문맥, 전문가 층 일부를 CPU로
- 03에이전트 — 계획(읽기 전용) → 실행 → 증거 게이트
- 04도구 8종 — 읽기 · 목록 · 찾기 · 검색 · 저장소 지도 · 쓰기 · 고치기 · 명령 실행
- 05안전 — 권한 5단계 + 바닥 규칙 + 오프라인 차단, 고치기 전 체크포인트
- 06채점 장부 — 버그 심기 문제 · 맨몸 모델 비교 · 기록 보존
어려웠던 것
- 35B 모델을 8GB 그래픽카드에 — CPU로 보낼 전문가 층 수를 바꿔 가며 재서 초당 25.4토큰 · 메모리 7.56GB에서 맞췄다
- 채점기가 한쪽에 유리하게 돼 있던 곳을 두 번 찾아 고쳤고, 고치기 전 기록은 지우지 않고 «무효»로 이름 붙여 남겼다
- 문제 하나에 읽기만 15~43번 하는 낭비 — 다음 과제로 남김
무엇을 만들었나
- 터미널에서 대화하며 코드 읽기 · 고치기 · 테스트
- 읽지 않은 파일은 고치지 못하게 막기, 고친 뒤 린트 확인
- 권한 5단계와 오프라인 차단
- 고치기 전마다 되돌릴 수 있는 체크포인트
- 비밀값은 윈도 금고(DPAPI)에 보관
- 명령 등록부 · 플러그인 구조 · 전역 정지 키
- 실력 채점 도구 (버그 심기 40문제, 맨몸 모델 비교)
쓴 기술
llama.cpp (CUDA)Qwen3.6-35B-A3B GGUFPythonuvhttpxpytestWindows DPAPIgit 체크포인트
무엇이 남았나
- 같은 모델로 버그 수정 20문제 — 에이전트 16개(80%) · 맨몸 모델 5개(25%), 맨몸이 푼 5개는 에이전트도 전부 풂
- 공개 코딩 시험 164문제 중 158개(96.3%) — 공개 문제라 학습 데이터에 섞였을 수 있어 «정상 동작 확인용»으로만 봄
- 코드 23개 파일 1,571줄, 자동 테스트 11개 통과
- 음성 · 기억 · 밤사이 자기 성장 · 압축은 설계만 있고 아직 만들지 않았습니다
알게 된 것
모델을 바꾸지 않아도 일하는 순서와 확인 절차만으로 같은 모델이 세 배 넘게 잘 풀었다. 그리고 실력은 내가 만든 채점기로 재는 만큼 채점기부터 의심해야 한다 — 두 번 고친 것도 내 쪽이 유리하게 돼 있던 곳이었다.
