본문 바로가기

개발이야기

NVIDIA NeMo Agent Toolkit, 프레임워크 갈라치기 없이 에이전트 붙이기

반응형

핵심 요약

NVIDIA는 2026년 6월 Agent Toolkit(NeMo Agent Toolkit, NAT)을 모델·도구·스킬·보안 런타임을 아우르는 오픈 모듈형 기반으로 정리했다(〈NVIDIA Blog〉 2026.06.23). LangChain·LlamaIndex·CrewAI·Semantic Kernel·Google ADK 등 기존 프레임워크를 갈아엎지 않고 옆에 붙여 MCP·A2A·평가·UI를 통합하는 접근이 핵심이다. v1.7.0(2026.05.21) 기준 pip install nvidia-nat 후 YAML 워크플로와 nat run CLI로 에이전트를 실행·프로파일링할 수 있다(〈GitHub NVIDIA/NeMo-Agent-Toolkit〉).

무슨 일이 있었나

NVIDIA Blog(6월 23일)는 Agent Toolkit을 세 층으로 설명했다.

  • 모델: Nemotron 오픈 모델로 추론·평가·배포 유연성.
  • 도구·스킬: NemoClaw 블루프린트, BioNeMo Agent Toolkit 등 도메인별 액션 연결.
  • 런타임: OpenShell로 에이전트가 실제 업무 시스템 안에서 안전하게 동작.

공식 문서(1.7)에 따르면 NAT는 프레임워크 비종속이며, LangSmith 문서 검색 같은 simple_web_query 예제부터 react agent·control flow 컴포넌트까지 YAML로 정의한다. MCP 클라이언트·서버, A2A 클라이언트·서버를 모두 지원해 "우리 회사 MCP 서버 + 원격 A2A 에이전트" 조합이 가능하다.

GitHub 저장소(NVIDIA/NeMo-Agent-Toolkit)는 Apache-2.0, Python 3.13, nat eval로 성능 프로파일링, NeMo Agent Toolkit UI로 채팅·디버그를 제공한다. 최근 push 2026.06.05, 릴리스 v1.7.0.

시장의 해석 — 개발자에게 왜 중요한가

2026년 에이전트 스택의 문제는 도구가 너무 많아졌는데 표준 연결고리는 부족하다는 것이다. Cursor·Copilot·Claude Code·Codex가 각자 MCP·플러그인·클라우드 에이전트를 내는 가운데, NAT는 "하네스(harness)는 골라 쓰되, 데이터·도구·평가·런타임은 한 레이어에서"라는 포지션이다.

실무 적용 시나리오:

1. YAML workflow.yml: functions(도구), llms, embedders, workflow(react_agent 등) 네 섹션으로 에이전트 정의.

2. nat run --config_file workflow.yml: 로컬·CI에서 동일 워크플로 재현.

3. MCP: 사내 Confluence·Jira·DB를 MCP 서버로 노출 → NAT가 클라이언트로 연결.

4. A2A: 다른 팀·벤더 에이전트에 작업 위임.

5. OpenShell + Nemotron: 온프레·VPC 안에서 정책·샌드박스 적용.

고유 인사이트: NAT의 차별점은 "새 프레임워크"가 아니라 Pydantic 기반 설정 그래프다. ComponentRef로 LLM·embedder·memory를 이름 참조하게 해, YAML만 바꿔 A/B 테스트·비용 비교가 쉽다. Copilot AIC 시대에는 nat eval로 턴 수·토큰·성공률을 워크플로 단위로 재고, YAML에서 cheap model route를 바꾸는 식의 비용 튜닝 루프에 쓸 수 있다. 즉 NAT는 프로덕션 배포 전 "에이전트 CI 벤치" 역할을 한다.

체크포인트와 리스크

  • 체크포인트:
  • Python 3.13·CUDA 환경과 사내 보안 정책 호환
  • MCP/A2A 외부 엔드포인트 방화벽·시크릿 관리(Agents secrets 패턴)
  • Nemotron vs 상용 API 혼용 시 라이선스·데이터 거버넌스
  • nat eval 지표를 Copilot/Cursor 비용과 어떻게 매핑할지
  • 리스크 요인:
  • YAML만 늘어나는 "설정 지옥" — CODEOWNERS·ruleset으로 workflow.yml 보호 필요
  • OpenShell·온프레 GPU 없는 팀은 클라우드 API 비용으로 우회
  • 프레임워크 2개(NAT + LangChain 등) 동시 운영 학습 곡선
  • 빠른 릴리스(develop 브랜치)와 프로덕션 pin 버전 관리

마무리

NVIDIA Agent Toolkit은 "에이전트 프레임워크 전쟁"에서 한 팀을 고르게 만드는 도구가 아니라, 이미 쓰는 스택 주변에 연결·평가·보안 레이어를 얹는 키트에 가깝다. 6월 23일 블로그와 v1.7 문서를 기준으로, 신규 프로젝트는 LangChain 예제를 NAT YAML로 감싸 MCP·A2A·eval을 한 번에 켜 보는 POC가 현실적인 출발점이다. 프로덕션 전에는 nat eval로 토큰·턴·성공률을 수치화해 Copilot/Codex와 역할을 나누는 것이 비용·품질 균형에 유리하다.

참고 자료