LightOnOCR-3, 스캔·영수증·차트 PDF에 쓰기 전 고를 크기와 호출 방식

스캔한 계약서, 휴대폰으로 찍은 영수증, 막대 차트가 들어간 보고서가 한 PDF에 섞여 있다고 해 보겠습니다. 이 파일을 회사 서버에서 작은 OCR 모델(이미지 속 글자를 텍스트로 바꾸는 모델)로 처리하려면 모델 크기와 호출 방식부터 정해야 합니다. LightOn은 2026년 10월 8일 Hugging Face 블로그에 LightOnOCR-3를 발표했습니다. 0.8B, 1B, 4B 크기 3종의 공개 모델로, 페이지 글자를 옮기는 기능에 더해 문서 영역별 라벨과 좌표, 이미지 설명, 차트 데이터 표를 출력할 수 있다고 소개했습니다. 라이선스는 Apache 2.0이며 연구와 상업 용도 모두 쓸 수 있다고 밝혔습니다. 이 글은 발표 글과 LightOnOCR-3-1B 모델 카드에 적힌 범위에서 정리했고, 모델을 직접 설치해 실행하지는 않았습니다.

1. 크기 3종은 구조부터 다릅니다

발표 글에 따르면 1B는 이전 세대 구조를 그대로 쓰고, 0.8B와 4B는 Qwen3.5 비전-언어 구조(이미지와 글을 함께 읽는 모델 구조)를 새로 채택했습니다. 모델 카드는 1B가 LightOnOCR-2-1B와 구조가 같아서 기존 LightOnOCR-2를 쓰던 곳은 바꿀 것 없이 교체할 수 있다고 설명합니다. 0.8B와 4B의 Qwen3.5 구조는 기존 도구와 연결하기 쉽고 속도가 크게 빨라진다고 적었습니다.

모델	구조	모델 카드의 설명
LightOnOCR-3-0.8B	Qwen3.5 비전-언어 구조	빠르고 효율적인 모델
LightOnOCR-3-1B	LightOnOCR-2-1B와 같은 구조	기존 배포를 그대로 교체하는 용도
LightOnOCR-3-4B	Qwen3.5 비전-언어 구조	가장 성능이 좋은 OCR 모델, 대부분의 작업에 권장

처리 속도는 LightOn이 H100 GPU 1장과 vLLM 0.30.0에서 512쪽을 처리해 측정했습니다. 이 조건에서 한 쪽을 처리하는 지연 시간은 1B가 2.7초로 가장 짧았습니다. 사내 PC나 CPU만 있는 환경에서의 속도는 공식 자료에 없습니다. 작성자 판단으로는 이미 LightOnOCR-2-1B를 쓰는 곳이면 1B부터 바꿔 보고, 새로 시작하는 곳이면 모델 카드가 권장하는 4B와 속도를 앞세운 0.8B를 같은 문서로 비교하는 순서가 무리가 적습니다.

2. 프롬프트 한 줄로 출력 형식이 바뀝니다

LightOnOCR-3는 이미지와 함께 보내는 글(프롬프트)에 따라 출력이 달라집니다. 프롬프트를 비워 두면 이전 버전처럼 페이지의 글자를 마크다운으로 옮깁니다. grounding 한 단어만 보내면 블록마다 종류 라벨과 위치 상자가 앞에 붙습니다. 좌표는 페이지 크기와 관계없이 0에서 1000 사이로 정규화한 값입니다. 사진이나 그림 블록에는 짧은 설명이, 차트 블록에는 그림에서 읽어 낸 데이터 점을 담은 HTML 표가 들어갑니다. 모델 카드가 정의한 라벨은 본문(text), 제목(title), 머리글(header), 각주(footnote), 수식(formula), 표(table), 이미지(image), 차트(chart) 등 16종이며, 앞 블록에서 이어지는 블록에는 + 표시가 붙습니다.

모델 카드는 "Other instructions are out of distribution"이라고 적었습니다. 빈 프롬프트나 grounding 외의 지시는 학습 범위 밖이라는 뜻입니다. 교육 예시로 "영수증에서 합계 금액만 뽑아 줘" 같은 요청을 이 모델에 그대로 보내는 방식은 권장 사용법에 없습니다. 작성자 판단으로는 금액만 필요해도 먼저 전사나 grounding 결과를 받고, 그 결과에서 금액을 골라내는 단계를 별도 프로그램이나 다른 모델로 설계해야 합니다.

렌더 권장값, 출력 형식, 토큰 수치(4B 평균 1,158토큰과 1,433토큰)는 LightOn 모델 카드에 적힌 내용입니다. 분기 배치와 "합계만 뽑아 줘" 요청은 작성자가 만든 교육 예시입니다.

3. grounding을 켜면 출력 토큰이 약 25% 늘어납니다

모델 카드에 따르면 grounding은 일반 전사보다 출력 토큰을 약 25% 더 만듭니다. 4B 기준 페이지당 평균 1,433토큰 대 1,158토큰입니다. 이 평균을 낸 문서 묶음은 모델 카드에 적혀 있지 않습니다. 발표 글은 라벨과 좌표를 HTML이나 JSON으로 감싸지 않고 짧은 표시로 붙여 늘어나는 양을 줄였다고 설명합니다. 같은 olmOCR-bench 512쪽에서 0.8B와 4B의 grounding 출력이 Chandra-OCR-2, Infinity-Parser2-Pro보다 평균 9%에서 14% 적었다는 비교도 LightOn 자체 측정입니다.

출력이 길어지는 만큼 쓰임새를 나눠 두면 좋습니다. 검색에 넣을 텍스트만 필요한 문서는 빈 프롬프트로 처리하고, 답변 근거를 원문 페이지 위치로 보여 줘야 하거나 차트 숫자를 표로 받아야 하는 문서에만 grounding을 쓰면 늘어나는 토큰을 그 문서로 한정할 수 있습니다. 차트 표는 확인을 한 번 더 거쳐야 합니다. 발표 글에 따르면 학습 데이터의 차트 표는 그림에 인쇄된 값은 그대로 옮기고, 인쇄되지 않은 값은 축 눈금에 맞춰 추정해 만들었습니다. 그래서 그림에 값이 적혀 있지 않은 막대나 점의 숫자는 추정값일 수 있다고 보고 원본 데이터와 대조한 다음 쓰는 편이 안전합니다.

4. PDF는 200 DPI, 긴 변 1540px 이미지로 바꿔 넣습니다

모델 카드는 PDF를 200 DPI로 렌더해 이미지로 바꾸고, 긴 변을 1540px에 맞추며, 가로세로 비율을 유지하라고 권합니다. 모델 카드의 vLLM 예제도 PDF 첫 쪽을 200 DPI 이미지로 바꾼 뒤 보냅니다.

해상도를 바꾸면 점수와 처리량이 함께 달라집니다. 발표 글에 따르면 0.8B와 4B는 400 DPI(쪽당 최대 500만 화소, 이미지 토큰 약 4,800개)에서 olmOCR-Bench 최고 점수를 냈습니다. 긴 변 1540px로 렌더하면 이미지 토큰이 3분의 2 가까이 줄고, 최대 처리량은 0.8B가 44%(초당 4.78쪽), 4B가 66%(초당 3.36쪽) 늘었습니다. 모두 H100 1장에서 LightOn이 측정한 값입니다. 작은 글씨가 많은 영수증이나 오래된 스캔본을 주로 다룬다면 권장값과 더 높은 해상도를 같은 페이지로 비교해 볼 만합니다.

5. 벤치마크 점수와 한국어 문서는 따로 확인합니다

LightOn이 발표한 olmOCR-Bench 종합 점수는 4B 86.3, 0.8B 85.5, 1B 84.5입니다. 비교한 모델 가운데 가장 높은 Infinity Parser Pro(파라미터 351억 개)는 87.6이었습니다. 프랑스어 문서 벤치마크 fr-bench-pdf2md에서는 4B가 74.1로 가장 높았습니다. 모두 회사 자체 보고입니다. 발표 글은 점수를 매기기 전에 출력 형식을 맞추는 정규화 함수를 적용했고, 이 정규화로 상위 모델들의 종합 점수가 크게 달라진다고 직접 적었습니다. 종합 점수만으로는 모든 문서 유형을 설명하지 못한다는 설명도 같은 글에 있습니다.

모델 카드는 표, 영수증, 서식, 차트, 다단 편집, 손글씨, 수식을 다룬다고 적었습니다. 한국어 문서 성능은 발표 글과 모델 카드에서 확인하지 못했습니다. 발표 글은 합성 학습 페이지에 20개가 넘는 언어를 넣었다고 밝혔지만, 언어 목록과 한국어 포함 여부는 적지 않았습니다. 한국어 공문서나 영수증에 쓸지는 직접 시험한 결과로 판단해야 합니다.

6. 이번 주에 해 볼 일: 문서 10쪽으로 호출 방식 정하기

처리하려는 PDF에서 스캔본, 영수증, 차트가 든 페이지를 고루 섞어 10쪽을 고르십시오. 페이지마다 텍스트만 있으면 되는지, 위치 좌표나 차트 표가 필요한지 적어 두면 빈 프롬프트와 grounding 가운데 무엇을 쓸지 정할 수 있습니다. 시험할 때는 모델 카드 권장대로 200 DPI, 긴 변 1540px로 렌더하고, 출력된 글자와 숫자를 원본과 한 줄씩 대조해 틀린 곳을 표에 기록하십시오. 한국어 페이지의 오류와 차트 숫자의 오차를 따로 적어 두면 0.8B, 1B, 4B 가운데 어느 크기를 쓸지 판단할 자료로 쓸 수 있습니다.