본문 바로가기

개발이야기

Ornith-1.0, 코딩 AI가 RL 스캐폴드(scaffold)를 스스로 쓰는 이유

반응형

핵심 요약

DeepReinforce가 MIT 라이선스 오픈소스 코딩 모델 패밀리 Ornith-1.0(9B·31B·35B MoE·397B MoE)을 25일 공개했다. 핵심은 강화학습(RL) 중 모델이 사람이 짜 둔 고정 하네스 대신, 스스로 훈련 스캐폴드(scaffold)(작업 틀)를 생성한다는 점이다. 397B 플래그십은 SWE-Bench Verified 82.4, Terminal-Bench 2.1 77.5를 보고했고, Claude Opus 4.7을 일부 벤치마크에서 상회한다고 주장한다(DeepReinforce 블로그, 2026.06.25). 에이전트 코딩 경쟁이 '프롬프트·툴 래퍼'에서 '학습 구조 혁신'으로 옮겨가는 신호로 읽을 수 있다.

무슨 일이 있었나

Ornith-1.0은 Gemma 4·Qwen 3.5 기반으로 Hugging Face에 공개됐다. 9B는 엣지·단일 GPU, 397B MoE는 최대 성능용이다.

일반적인 코딩 에이전트는 고정된 RL/에이전트 하네스(파일 읽기, 테스트 실행, 패치 제출 순서) 위에서 모델만 학습한다. Ornith-1.0은 RL 과정에서 모델이 스캐폴드(scaffold)(오케스트레이션 로직)와 솔루션을 동시에 co-evolve한다고 설명한다. 즉 '어떤 순서로 리포를 탐색할지'까지 학습 대상에 넣은 셈이다.

벤치마크(제작사 발표 기준):

  • Ornith-1.0-397B: Terminal-Bench 2.1 77.5, SWE-Bench Verified 82.4
  • Claude Opus 4.7: TB 2.1 70.3, SWE 80.8 (비교표 인용)
  • 9B 모델도 TB 2.1 43.1, SWE 69.4로 더 큰 dense 모델과 겹치거나 넘는다고 보고

보상 해킹 방지를 위해 고정 trust boundary + deterministic monitor + frozen LLM judge 3층 구조를 둔다.

개발자에게 의미 있는 점

하네스가 곧 경쟁력. Cursor·Claude Code·Devin류 제품은 모델 + IDE 통합 + 툴 MCP가 패키지다. Ornith는 '모델 내부에서 하네스까지 학습'이라, 같은 API 모델이라도 에이전트 래퍼 없이 터미널 네이티브 작업에 강할 수 있다는 가설을 준다.

MIT 라이선스. 상업적 마찰이 적은 편이라, 사내 코딩 봇 PoC·온프레미스 실험에 관심이 갈 수 있다. 다만 397B MoE는 추론 비용·인프라가 현실적 제약이다. 실무에서는 9B·35B MoE부터 검증하는 흐름이 자연스럽다.

벤치마크 해석 주의. SWE-Bench Verified는 널리 쓰이지만, 실제 사내 레거시·비공개 리포와 괴리가 있다. Terminal-Bench 2.1은 터미널 중심 작업에 가깝다. 'Opus 4.8·GLM-5.2 등 더 큰 모델은 여전히 앞선다'는 한계도 공개 비교표에 포함돼 있다(MarkTechPost, 2026.06.25).

고유 정리: 고정 하네스 vs 셀프 스캐폴드(scaffold)ing

| | 고정 하네스 (일반 에이전트) | Ornith 셀프 스캐폴드(scaffold)ing |

|--|---------------------------|-------------------------|

| 튜닝 대상 | 주로 LLM 가중치 | LLM + 작업 순서/틀 |

| 장점 | 디버깅·감사 용이 | 작업 유형별 최적 경로 학습 |

| 단점 | 하네스 설계 병목 | 스캐폴드(scaffold) 품질 검증 어려움 |

| 운영 | 팀마다 래퍼 중복 | 모델 하나로 경로 내재화 |

자사 에이전트를 만들 때 '하네스를 코드로 고칠지, 모델에 맡길지' 트레이드오프를 이 표로 빠르게 논의할 수 있다.

체크포인트와 리스크

  • 체크포인트: Hugging Face 가중치·추론 예제, 실제 리포에서의 멀티파일 리팩터 성공률
  • 체크포인트: 3층 보안 구조가 실제 reward hacking을 얼마나 막는지 독립 재현
  • 리스크: 벤치마크 과적합·데이터 오염 논쟁(제작사 자체 비교표)
  • 리스크: MoE 397B 운영 비용으로 '오픈'이 이름만 오픈일 수 있음

마무리

Ornith-1.0은 숫자 경쟁을 넘어 에이전트 코딩의 학습 대상을 하네스까지 확장했다는 점에서 주목할 만하다. 당장 프로덕션에 넣기보다, 사내 코딩 봇의 고정 파이프라인과 비교 실험할 가치가 있다. 오픈소스·MIT 조합은 Claude/GPT API 의존도를 낮추려는 팀에 새 옵션이 될 수 있지만, 벤치마크와 실무 간격은 직접 검증해야 한다.

참고 자료