Agents-A1-4B — 4B 에이전트 모델, 우리도 쓸까
접수함 질문은 두 개였다. Agents-A1-4B 는 뭐하는 물건인가, 그리고 우리도 쓸까. 답부터 적으면 — 35B 에이전트 모델을 4B 로 증류한 검색·도구호출 특화 오픈 모델이고, 지금 파이프라인을 갈아탈 물건은 아니지만 로컬 실험용으로 얹어 볼 가치는 있다.
접수 요청이 "뭐하는거고 우리도 쓸까?" 한 줄이었습니다. 질문이 짧으면 조사가 길어지는 법이라, 벤치마크 표를 끝까지 읽고 왔습니다. 숫자가 좋길래 어디까지 믿어도 되는지도 같이 봤습니다.
판정 요약
| 질문 | 답 | 근거 |
|---|---|---|
| 뭐하는 물건인가 | 검색·에이전트 특화 소형 모델 | InternScience Agents-A1 시리즈의 4B dense 판. 장기 검색·도구호출·지시 이행에 집중 학습됐다 |
| 우리 장비에서 도나 | 예 | Apache-2.0, GGUF 양자화 공개. Q8 이 약 5GB 라 4080 SUPER 는 물론 CPU 로도 돈다 |
| 벤치마크는 진짜인가 | 조건부 | 검색 도구가 붙는 에이전트 하네스에서의 자기보고 점수다. 단독 채팅 품질과는 별개 |
| 지금 파이프라인을 대체하나 | 아니오 | 한국어 산문·판단 품질이 필요한 자리(리브 봇·페이지 작성)는 4B 의 영역이 아니다 |
| 써볼 자리가 있나 | 예 | 로컬 도구호출·검색 에이전트 실험, 외부로 못 내보내는 데이터의 반복 배치 처리 |
1. 뭐하는 물건인가
InternScience(상하이 AI 연구소 계열)가 만드는 에이전트 전용 모델 시리즈 Agents-A1 의 막내다. 플래그십은 2026년 6월 26일 공개된 35B MoE(활성 3B) 모델이고, 이 4B dense 판은 7월 14일에 나왔다. 슬로건이 "Scaling the Horizon, Not the Parameters" — 파라미터 대신 궤적 길이를 키운다는 뜻으로, 평균 45K 토큰짜리 장기 에이전트 궤적으로 학습해 검색·엔지니어링·과학 연구·지시 이행·도구호출 여섯 도메인을 한 모델에 넣었다.
- 학습 방식: 3단계 — 전 도메인 SFT → 도메인별 교사 모델 학습 → 다중 교사 on-policy 증류. 4B 는 사실상 35B 플래그십과 도메인 교사들의 증류판이다.
- 스펙: dense 약 4B(BF16 기준 5B 표기), 컨텍스트 262K, 함수 호출 네이티브 지원. 서빙 파서는 Qwen3 계열을 쓴다.
- 배포: Apache-2.0. vLLM·SGLang 은 물론 GGUF 양자화(Q8_0·Q4_K_M)가 공식으로 나와 있어 ollama·llama.cpp·LM Studio 에서 바로 돈다. "로컬 AI 어시스턴트를 쉽게" 가 4B 판의 출시 명분이다.
2. 벤치마크 — 동급에서는 압도적
공개된 표에서 검색·에이전트 계열 벤치마크만 뽑으면 이렇다. 같은 체급인 Qwen3.5-4B 와의 격차가 이 모델의 정체성이고, 몇 항목은 35B 플래그십에 거의 붙어 있다.
반대쪽도 봐야 공정하다. 코딩·범용 계열(LiveCodeBench-V6 59.6, SciCode 29.6, MLE-Lite 22.7)은 상위 범용 모델에 한참 못 미친다. 검색하고 도구를 부르는 일에 몰빵한 모델이지, 작은 만능 모델이 아니다.
3. 숫자를 어떻게 읽어야 하나
GAIA 95.1 은 액면 그대로면 프론티어급 주장이다. 4B 가 그 숫자를 찍었다는 말은 세 겹의 조건을 달고 읽어야 한다. 첫째, 전부 벤더 자기보고이고 제3자 재현은 아직 찾지 못했다(4B 출시가 겨우 엿새 전이다). 둘째, 이 점수들은 모델 단독이 아니라 검색·브라우징 도구가 붙는 에이전트 하네스에서 나온다 — ollama 로 띄워 놓고 맨몸으로 질문하면 벤치마크의 그 모델이 아니다. 셋째, 증류 학습의 특성상 벤치마크가 겨냥하는 태스크 분포에는 강하고 그 바깥(이를테면 한국어 산문)은 보장이 없다. "동급 대비 검색·도구호출이 이례적으로 강하다" 까지가 안전하게 믿을 수 있는 범위다.
4. 우리도 쓸까
자리를 나눠 보면 답이 갈린다.
- 지금 돌아가는 자리(대체 아니오) — 리브 Slack 봇, 페이지 작성, AI요약 잡처럼 한국어 품질과 판단력이 필요한 일은 그대로 Claude 가 맡는 게 맞다. 4B 증류 모델에게 시킬 일이 아니다.
- 새로 열리는 자리(실험 예) — 로컬에서 공짜로 도는 도구호출·검색 에이전트라는 게 이 모델의 제안이다. 4080 SUPER 머신에 Q8(약 5GB)을 얹으면 VRAM 여유가 크고, API 비용 없이 반복 돌리는 배치·외부로 못 내보내는 데이터 처리·에이전트 프레임워크 실험 같은 자리에 맞는다. 262K 컨텍스트도 이 급에선 드물다.
시작은 한 줄이다.
# 4080 SUPER 머신 (또는 아무 데나 — CPU 로도 돈다, 느릴 뿐)
ollama run hf.co/InternScience/Agents-A1-4B-Q8_0-GGUF
# 검색 도구까지 붙여 제대로 쓰려면 vLLM + tool call 파서
vllm serve InternScience/Agents-A1-4B \
--enable-auto-tool-choice --tool-call-parser qwen3_coder권장 샘플링은 temperature 0.85 · top_p 0.95 · top_k 20. 벤치마크의 그 성능을 보려면 검색 도구가 붙는 에이전트 루프(공식 평가 프레임워크가 GitHub 에 있다)까지 재현해야 한다는 점만 기억하면 된다.
5. 결론
정체는 분명하다 — 35B 에이전트 모델의 노하우를 4B 에 눌러 담은 검색·도구호출 특화 증류 모델이고, 동급에서는 실제로 독보적인 것으로 보인다. 도입은 이렇게 정리한다. 지금 파이프라인은 건드리지 않는다. 대신 4080 머신에 ollama 로 얹어 두고, 로컬 에이전트 실험이나 프라이버시 민감한 배치 작업이 생기면 첫 후보로 꺼낸다. 무료고, Apache-2.0 이고, 5GB 다 — 실험 비용이 사실상 0 이라 보류할 이유가 없다.
"우리도 쓸까" 류 질문의 답은 대개 예/아니오가 아니라 "어느 자리에" 로 갈립니다. 이번에도 그랬습니다. 다운로드는 5GB 니까, 실제로 써 보는 날이 오면 그 후기는 별도 페이지로 접수해 주시면 됩니다.
출처
- InternScience/Agents-A1-4B — ModelScope (접수된 원 링크)
- InternScience/Agents-A1-4B — Hugging Face (모델 카드·벤치마크 표·배포 설정)
- InternScience/Agents-A1 — GitHub (학습 방법론·평가 프레임워크·출시 이력)
- Agents-A1-4B-Q8_0-GGUF — Hugging Face (ollama·llama.cpp 용 양자화)
- Agents-A1 프로젝트 페이지 (시리즈 개요·벤치마크)