Recursive Flint, 내 노트북에서 실행되는지 따져 보기

회사 코드를 외부 AI 서비스로 보내기 어려워서 내 컴퓨터 안에서 실행되는 코딩 도우미를 찾고 계셨다면 이번 발표를 살펴볼 만합니다. Recursive는 공식 블로그에 Recursive Flint를 소개하는 글을 올렸습니다. 회사 업데이트 목록에는 이 글의 날짜가 2026년 10월 21일로 표시돼 있고, 글 본문에는 날짜가 적혀 있지 않습니다.

블로그 첫 문장은 "We’re introducing Recursive Flint, a mixture-of-experts (MoE) model built for fast agentic coding on local hardware."입니다. 코딩 에이전트 작업을 개인 장비에서 빠르게 처리하도록 만든 모델이라는 뜻입니다. 모델 파일(가중치)은 Apache 2.0 라이선스로 Hugging Face에 공개됐습니다. 그런데 블로그가 말하는 "local hardware"에는 장비 조건이 붙어 있습니다. 블로그, Hugging Face 모델 카드, 공식 문서에 적힌 범위에서 정리했고, 필자는 모델을 내려받거나 실행해 보지 않았습니다.

1. 총 40B 규모에서 토큰마다 2.5B만 계산합니다

블로그는 Flint의 전체 파라미터가 400억 개이고 토큰마다 25억 개만 쓴다고 설명합니다. 모델 카드에는 총 39.8B, 토큰당 활성 파라미터 약 2.5B(출력층 포함)로 더 자세히 적혀 있습니다. 파라미터는 모델이 학습으로 얻은 숫자의 개수이고, 토큰은 모델이 글을 잘게 나눠 읽는 단위입니다.

MoE(mixture-of-experts)는 모델 안에 여러 전문가 묶음을 두고 토큰마다 일부만 골라 계산하는 구조입니다. 모델 카드에 따르면 MoE 층마다 256개 전문가 가운데 토큰마다 6개를 고르고, 항상 쓰는 공유 전문가 1개가 더 있습니다. 계산량이 작으니 같은 장비에서 응답이 빨라질 수 있습니다. 다만 내려받는 파일은 전체 규모를 따릅니다. 모델 카드에 올라온 BF16 원본 체크포인트는 내려받는 데 약 80GB가 필요합니다.

2. 원본 파일과 노트북용 경로는 따로 준비됩니다

모델 카드의 시작 안내는 "Flint runs on one B300 or H200 GPU per replica with the SGLang kit in sglang/."입니다. B300과 H200은 데이터센터용 GPU이므로, 원본 파일을 그대로 쓰는 방식은 노트북 사용자의 선택지가 되기 어렵습니다. 모델 카드는 NVIDIA와 Apple Silicon용 양자화 버전(숫자 정밀도를 낮춰 파일과 메모리 사용을 줄인 버전)을 별도로 준비한다고 적었습니다.

블로그는 Flint가 llama.cpp, Ollama, Unsloth, LM Studio, vLLM, SGLang과 함께 동작한다고 밝혔습니다. 회사가 직접 만든 실행 엔진 rec도 함께 공개했는데, 블로그 설명은 "a lightweight inference engine optimized for Flint on M4 Pro and M5 Pro/Max"입니다. 공식 문서는 지원되는 Mac에서 빠르게 시작하려면 rec를 권하고, rec가 모델을 내려받고 코딩 하네스까지 자동으로 연결한다고 설명합니다. 하네스는 모델이 코드를 읽고 고치고 명령을 실행하도록 이어 주는 작업 도구로, 문서에는 OpenCode, Pi, Cline, OpenHands가 나옵니다.

실행 경로	공식 자료에 적힌 내용	확인할 점
BF16 원본과 SGLang	B300 또는 H200 GPU 1장(복제본당), 파일 약 80GB	데이터센터 GPU 기준
rec	M4 Pro, M5 Pro, M5 Max용 엔진, 모델 내려받기와 하네스 연결 자동	통합 메모리 48GB 이상, 여유 디스크 약 30GB(공식 문서)
Ollama, LM Studio, Unsloth, llama.cpp	공식 문서의 로컬 실행 경로	내 장비에 맞는 양자화 파일
호스팅 무료 경로	OpenCode의 호스팅 Flint-40B 무료 등급(용량·요청 한도 적용), Radius 무료 체험	코드가 외부 서버로 전송됨

3. rec는 통합 메모리 48GB 이상 Mac을 요구합니다

블로그는 회사의 최적화 엔진을 쓰면 M4 Pro MacBook Pro에서 초당 125토큰 이상, 64GB NVIDIA RTX Spark에서 초당 150토큰 이상을 낸다고 밝혔습니다. 짧은 컨텍스트 기준이고 회사가 발표한 수치입니다. 측정에 쓴 MacBook Pro의 메모리 용량은 블로그에 없습니다.

공식 문서의 rec 안내 페이지는 필요한 장비를 적어 두었습니다. M4 Pro, M5 Pro, M5 Max 중 하나의 Apple Silicon Mac에 통합 메모리 48GB 이상, 모델과 실행 엔진용 여유 디스크 약 30GB가 필요하고, 조건에 맞지 않는 Mac에서는 rec가 모델을 내려받지 않는다고 합니다. NVIDIA RTX Spark용 rec 지원은 "coming soon"으로 표시돼 있습니다. 따라서 16GB 메모리 노트북이나 M4 Pro보다 낮은 칩의 Mac은 rec 경로의 대상이 아닙니다.

그 밖의 장비는 공식 문서의 장비 선택 안내를 따라 Ollama, LM Studio 같은 실행 프로그램과 그 프로그램이 읽을 수 있는 파일(GGUF 등)을 함께 골라야 합니다. 같은 문서는 내려받는 파일 크기 말고도 KV 캐시와 운영체제가 쓰는 메모리 여유가 필요하고, 메모리가 모자라면 컨텍스트를 줄이거나 더 작은 양자화를 쓰라고 안내합니다. 16GB 메모리 노트북이나 GPU가 없는 Windows 노트북에서 Flint가 실행된다고 밝힌 자료는 이번에 읽은 범위에 없고, 양자화 버전의 파일 크기도 확인하지 못했습니다.

장비별 실행 경로, rec 대상 칩과 메모리 조건, 원본 파일 약 80GB, 호스팅 무료 등급의 한도 표기는 Recursive 블로그·모델 카드·공식 문서 내용입니다. 분기 순서와 "공식 자료에 없음" 표시는 작성자가 정리했습니다.

4. 컨텍스트 길이와 회사가 밝힌 성능 수치

컨텍스트는 모델이 한 번에 읽는 입력과 출력의 길이입니다. 블로그는 "Flint supports context windows of up to 512k tokens. For the best results on coding and other tasks, we recommend staying within 256k tokens."라고 적었습니다. 모델 카드 사양표의 문서화된 컨텍스트 설정은 262,144토큰이고, 프롬프트와 생성 결과를 합친 값입니다.

성능은 회사 자체 보고만 있습니다. 모델 카드에 따르면 회사 출시 평가에서 Terminal-Bench 2.1은 54.9%, SWE-bench Verified는 74.2%였습니다. 평가는 temperature 1.0, top-p 0.95, top-k 20 설정으로 했고, 에이전트 평가는 5회 이상 시도한 pass@1 평균입니다. 모델 카드는 결과가 체크포인트 정밀도와 실행 프로그램에 따라 달라질 수 있다고 적었으므로, 노트북용 양자화 버전에서 같은 점수가 나온다고 보시면 안 됩니다.

블로그는 스스로 "it may need more guidance than the larger closed-source coding models you’re used to"라고 밝혔습니다. 복잡한 일은 작은 작업으로 나누고 지시를 분명히 쓰라는 안내도 붙어 있습니다. 한국어로 지시했을 때의 성능은 공식 자료에 없습니다.

5. 가중치 라이선스와 호스팅 약관은 따로 봐야 합니다

Apache 2.0은 상업적 이용과 수정을 허용하는 오픈소스 라이선스입니다. 블로그는 로컬에서 실행하면 데이터를 내 장비에 두고 API 요금 없이 쓸 수 있다고 설명합니다. 이 설명은 내 장비에서 직접 실행할 때에만 해당합니다.

모델 카드에는 "Hosted API terms and data practices are separate from the weight license."라는 문장이 있습니다. OpenCode의 무료 등급이나 Radius처럼 다른 회사 서버에서 실행되는 Flint를 쓰면 코드가 그 서버로 전송되고, 그 서비스의 약관과 데이터 처리 방식을 따로 확인하셔야 합니다. 모델 카드는 생성된 코드를 테스트하고 영향이 큰 변경은 적용 전에 검토하라고 적었고, 도구를 쓰는 프로그램은 권한과 실행 범위를 스스로 제한하라고 덧붙였습니다.

6. 이번 주에 해 볼 첫 작업

공식 문서는 첫 작업으로 "Start with a small repository you know. Ask Flint to explain one function, add a focused test, then fix the behavior that test exposes."를 권합니다. 단계마다 변경 내용(diff)과 테스트 결과를 확인하라는 문장도 이어집니다. 이 순서를 그대로 따르면 모델이 내 코드를 얼마나 이해하는지 작게 확인할 수 있습니다.

1. 내 컴퓨터의 칩과 메모리 용량을 적고, rec 조건(M4 Pro 이상, 통합 메모리 48GB 이상)에 해당하는지 확인하십시오. 해당하지 않으면 공식 문서의 장비 선택 안내에서 실행 프로그램과 파일을 함께 고르십시오.
2. 회사 코드 대신 외부에 공개해도 되는 작은 저장소(예시: 개인 연습용 저장소)를 하나 고르십시오.
3. 위 문서 순서대로 함수 1개 설명, 테스트 1개 추가, 그 테스트로 드러난 동작 수정을 요청하고, 단계마다 diff와 테스트 결과를 직접 확인하십시오.
4. 호스팅 무료 경로로 먼저 시험해 볼 계획이라면 회사 코드는 넣지 말고, 그 서비스의 약관부터 읽어 두십시오.