니모 가드레일 무료

-
개발사 엔비디아
공식 웹사이트 https://github.com/NVIDIA/NeMo-Guardrails

Nemo Guardrails는 NVIDIA의 오픈 소스 프로그래밍 가능 가드레일 툴킷입니다. 입력/출력/검색/실행/대화 등 5가지 유형의 가드레일 메커니즘을 제공합니다. Colang 구성 언어 OpenAI 호환 API 서비스 LangChain 통합 및 Docker 배포를 지원합니다. 보안 규정 준수가 필요한 LLM 애플리케이션 시나리오에 적합합니다.

니모 가드레일 제품 인터페이스

NemoGuardrails

핵심 매개변수 및 통계

Nemo Guardrails는 LLM 애플리케이션을 위한 프로그래밍 가능한 보안 가드레일 툴킷입니다. 오픈 소스이며 NVIDIA에서 관리합니다. 공식적으로는 "LLM 기반 대화 애플리케이션을 위한 프로그래밍 가능한 가드레일을 쉽게 추가하는 것"으로 포지셔닝됩니다. 채팅 인터페이스나 모델 추론을 직접 제공하지는 않지만 애플리케이션과 LLM 사이의 미들웨어 계층으로 내장되어 5가지 유형의 가드레일 메커니즘을 통해 입력, 출력, 대화 프로세스, 검색 결과 및 실행 작업을 필터링하고 제한합니다.

프로젝트 공공정보
공식 포지셔닝 LLM 대화 상자 애플리케이션을 위한 프로그래밍 가능한 Guardrail 툴킷
난간 유형 입력, 출력, 대화, 검색, 실행
구성 언어 콜랑 1.0 / 2.0
배포 양식 Python 라이브러리 CLI, 서버(Docker)
오픈 소스 라이센스 아파치 2.0
GitHub 스타 ~6,700
GitHub 포크 769
기여자 126
최신 버전 v0.23.0 (2026-07-02)
파이썬 버전 3.10 / 3.11 / 3.12 / 3.13
지원되는 플랫폼 웹(서버 API), 데스크탑(CLI)

배포 형태: Nemo Guardrails는 Python 라이브러리 통합, 독립 서버 컨테이너 및 CLI의 세 가지 사용 방법을 제공합니다. Python 라이브러리는 기존 코드를 삽입하는 데 적합하고, Server 모드는 마이크로서비스 아키텍처 격리에 적합하며, CLI 모드는 개발 기간 동안 신속한 검증에 적합합니다.

가드레일 시스템: 5가지 유형의 가드레일은 LLM 애플리케이션의 다양한 섹션인 입력 계층(사용자 요청 필터링), 출력 계층(모델 응답 검토), 대화 계층(대화 프로세스 제어), 검색 계층(RAG 블록 수준 필터링), 실행 계층(도구 호출 확인)에 해당하며 요청에서 응답까지 전체 링크 보안 적용 범위를 형성합니다.

커뮤니티 활동: 6,700개 이상의 스타, 769개의 포크, 126명의 기여자. 이는 프로젝트가 안정적인 오픈 소스 생태계를 형성했음을 반영하며 커뮤니티 기여 통합에는 PolicyAI, CrowdStrike, Cisco, Trend Micro 및 Pangea와 같은 타사 보안 서비스가 포함됩니다.

사용자 및 시장 인지도

Nemo Guardrails의 시장 가치는 NVIDIA의 브랜드 보증과 오픈 소스 커뮤니티의 이중 추진력에 반영되어 빠르게 성장하는 LLM 보안 규정 준수 영역에 자리잡고 있습니다.

학술적 인정: 이 프로젝트는 EMNLP 2023 시스템 프레젠테이션 논문(Rebedea et al., 2023)을 보유하고 있으며 학계에서 공개 인용 기록을 보유하고 있어 건축 설계가 동료 검토를 거쳤음을 나타냅니다.

커뮤니티 채택: GitHub 데이터에 따르면 6,700명 이상의 스타와 126명의 기여자가 집중적인 개발 활동을 하고 있습니다. 최신 커밋에 따르면 16시간 전의 코드 업데이트가 여전히 있었던 것으로 나타났습니다. 이슈 및 풀 요청은 두 자리 수(111 이슈 / 64 PR)를 유지하고 있으며 커뮤니티 이슈 피드백 및 수리가 활발합니다.

엔터프라이즈 생태계 통합: Nemo Guardrails는 ActiveFence, PolicyAI, CrowdStrike AIDR, Cisco AI Defense, Trend Micro Vision One, Pangea AI Guard, GuardrailsAI, Clavata 등을 포함한 여러 보안 공급업체와 통합되어 콘텐츠 감사, 위협 탐지 및 PII 둔감화와 같은 엔터프라이즈 수준의 보안 시나리오를 포괄합니다.

전제 조건: Nemo Guardrails의 가치는 사용자가 LLM 애플리케이션을 이미 보유하고 있거나 구축 중인지 여부에 따라 달라집니다. 팀이 아직 LLM 기능에 연결되지 않은 경우 가드레일 툴킷은 독립적으로 수익을 창출할 수 없습니다. "LLM 추론 링크가 존재하고 보안 거버넌스 계층을 보완해야 하는" 팀에 더 적합합니다.

비용 이점

  • C사이드/개인 : 핵심 기능 체험을 위해 주로 무료 버전을 제공하며, 빈도가 높은 경우에는 유료 패키지 가입이 필요합니다.
  • API/개발자: 호출량에 따라 비용이 청구되며 자체 시스템에 유연하게 통합할 수 있는 개발팀에 적합합니다.
  • 기업/민영화: 맞춤형 견적 및 배포 계획은 사업주에게 문의하세요. 구체적인 가격은 공식 실시간 가격 페이지에 따릅니다.

주요 기능

Nemo Guardrails의 핵심 기능은 "5가지 유형의 프로그래밍 가능한 가드레일 + Colang 구성 언어 + 타사 보안 통합"을 중심으로 이루어집니다.

  • 입력 레일: 사용자 요청이 LLM에 도달하기 전에 감사를 수행합니다. LLM은 입력을 거부하고(탈옥 프롬프트가 감지된 경우) 민감한 데이터의 민감도를 낮추고(PII 대체) 입력 콘텐츠를 다시 쓸 수 있습니다. 일반 매칭, 분류자 모델 API 타사 서비스 등 다양한 탐지 방법을 지원합니다.
  • 출력 레일: LLM에서 생성된 응답의 사후 검토를 통해 출력 거부(예: 유해한 콘텐츠 감지), 응답 재작성(예: 민감한 데이터 제거) 및 사실 확인이 가능합니다. 0.23.0에는 지나치게 긴/중복/낮은 엔트로피/패딩 콘텐츠를 가로챌 수 있는 컨텍스트 확장 감지 기능이 추가되었습니다.
  • Dialog Rails(Dialog Guardrail): Colang 언어를 통해 대화 흐름 제약 조건을 정의하고, 미리 설정된 경로 내에서 응답하도록 LLM을 제어하며, 주제에서 벗어나거나 승인되지 않은 주제를 입력하는 것을 방지합니다. 다단계 대화의 상태 관리를 지원합니다.
  • 검색 레일: RAG 시나리오에서 검색된 문서 청크는 청크별로 검토되므로 LLM으로 전송되기 전에 특정 청크를 거부하거나 다시 작성할 수 있으므로 민감한 정보가 빌드 컨텍스트에 포함되는 것을 방지할 수 있습니다.
  • 실행 레일: LLM이 호출한 외부 작업이 안전 경계 내에서 실행되는지 확인하기 위해 도구/기능의 호출 매개변수와 반환 값을 확인합니다.
  • Colang 구성 언어: 가드레일 규칙, 대화 흐름 및 사용자 의도를 정의하기 위해 Python과 유사한 구문을 사용하는 도메인별 언어입니다. Colang 1.0(기본값)과 Colang 2.0이 모두 지원됩니다.
  • Guardrails Server: OpenAI 호환 HTTP API 서비스는 /v1/chat/completions, /v1/models, /v1/checks 및 기타 엔드포인트를 지원하며 기존 애플리케이션에 대한 직접 대체 레이어로 사용할 수 있습니다.
  • 내장 가드레일 라이브러리: 탈옥 감지, 콘텐츠 보안, 주제 보안, 사실 확인, 환각 감지, PII 둔감화 등 사전 설정된 가드레일을 직접 활성화할 수 있습니다.

모델 및 버전의 진화

지속적인 반복 업데이트인 최신 버전에는 성능 최적화와 새로운 기능이 도입되었습니다. 과거 버전 정보는 공식 출시 페이지에서 확인할 수 있습니다. 아직 완전한 공개 버전 발전 타임라인이 없습니다. 기능 업데이트의 리듬을 이해하려면 공식 발표에 주의를 기울이는 것이 좋습니다.

기술적인 장점

Nemo Guardrails의 기술적 차별화는 "계층형 가드레일 + 프로그래밍 가능한 프로세스 제어 + 타사 생태학적 통합"의 아키텍처 설계에서 비롯됩니다.

5층 가드레일 풀 링크 커버리지: 입력 → 대화 → 검색 → 실행 → 출력 5층 가드레일은 직렬로 연결되며, 각 계층은 독립적으로 차단/수정/해제 전략을 구성할 수 있습니다. 이 계층형 설계는 단일 탐지 지점의 사각지대를 방지합니다. 예를 들어 출력 가드레일만으로는 사용자 입력의 탈옥 시도를 막을 수 없지만 입력 + 대화 + 출력의 3계층 조합은 보다 완벽한 방어 표면을 형성할 수 있습니다.

Colang 프로그래밍 가능 대화 제어: 고정된 조정 범주만 제공하는 다른 가드레일 솔루션과 달리 Colang을 사용하면 개발자는 Python과 유사한 DSL을 사용하여 사용자 지정 대화 흐름, 사용자 의도 및 봇 동작을 정의할 수 있습니다. 이로 인해 가드레일은 더 이상 "좋은/나쁜" 이진 분류가 아니라 복잡한 다단계 상호 작용 제약 조건(예: 먼저 인증해야 하고 나중에 질문해야 함)을 설계할 수 있습니다.

IRails 병렬 엔진: v0.21.0에서 도입된 IORails 엔진은 입력 가드레일과 LLM 추론(예: 추측 생성)의 병렬 실행을 지원합니다. 비스트리밍 모드에서는 입력 가드레일의 지연이 LLM 응답 시간 내에 숨겨져 엔드투엔드에서 인식되는 지연이 줄어듭니다. v0.22.0은 병렬화 기능을 스트리밍 출력 가드레일로 확장합니다.

선택적 종속성 아키텍처: LangChain은 v0.22.0부터 내장 httpx 기반 OpenAI 호환 클라이언트를 사용하여 핵심 종속성에서 선택적 종속성으로 다운그레이드됩니다. 이러한 변경으로 인해 종속성 충돌 위험이 줄어들고 LangChain이 필요하지 않은 시나리오에서 보다 가벼운 배포 패키지를 얻을 수 있습니다. v0.23.0은 바퀴 크기를 약 10배 더 줄였습니다.

추론 모델 호환성: v0.20.0+는 OpenAI 추론 모델(예: o-시리즈)을 지원하고 온도, stop, max_tokens 등과 같은 매개변수의 호환성 차이를 자동으로 처리하므로 가드레일 레이어가 기본 모델 유형의 변경에 영향을 받지 않습니다.

사용방법

Nemo Guardrails는 다양한 성숙도 수준의 팀에 적합한 세 가지 사용 경로를 제공합니다.

사용 방법 시나리오에 적합 특징
Python 라이브러리(pip) 기존 LLM 애플리케이션 코드에 가드레일을 포함해야 함 최소한의 변경, LLMRails.generate()를 통해 원래 LLM 호출 교체
Guardrails 서버(CLI/Docker) 마이크로서비스 아키텍처, 가드레일을 독립적으로 배포할 수 있기를 바랍니다 OpenAI 호환 API는 프록시 레이어로 투명하게 액세스 가능
도커 컨테이너 생산 경계 격리, 자원 관리 및 제어 Dockerfile을 완성하고 구성 파일과 사용자 정의 작업을 바인딩할 수 있습니다

Python 라이브러리 빠른 액세스 예:

``파이썬 nemoguardrails에서 LLMRails, RailsConfig 가져오기

가드레일 구성 로드

config = RailsConfig.from_path("PATH/TO/CONFIG") 레일 = LLMRails(config)

가드레일 레이어를 통해 LLM을 호출합니다.

완료 = Rails.generate( message=[{"role": "user", "content": "Hello world!"}] )


**서버 시작 예**:

``배쉬
# 가드레일 서버 시작
nemoguardrails 서버 --config PATH/TO/CONFIGS --port 8000

# OpenAI 호환 API 사용
컬 -X POST http://localhost:8000/v1/chat/completions \
  -H "콘텐츠 유형: 애플리케이션/json" \
  -d '{
    "config_id": "샘플",
    "messages": [{"role": "user", "content": "안녕하세요!"}]
  }'

일반적인 가드레일 구성 파일 구조(config.yml):

``yaml 모델:

  • 유형: 메인

    엔진:openai 모델: gpt-4

레일: 입력: 흐름:

  • 탈옥 확인
  • 입력 시 민감한 데이터를 마스크합니다. 출력: 흐름:
  • 사실 자체 확인
  • 자기 점검 환각

구현은 일반적으로 "첫 번째 부분 및 그 다음 포괄적"에 따라 수행됩니다. 먼저 1-2개의 저위험 LLM 기능 지점(예: 요약 생성, 콘텐츠 분류)에서 입력 + 출력 가드레일을 활성화하고, 오탐률 및 지연 영향을 확인한 다음 점차적으로 대화 프로세스 및 고위험 시나리오(예: 사용자 신원 인증, 결제 관련 상호 작용)로 확장합니다. 처음 액세스할 때 가드레일의 오탐률에 특별한 주의를 기울여야 합니다. 과도한 차단은 사용자 경험에 큰 영향을 미칩니다.

제품 가격

Nemo Guardrails 자체는 소프트웨어 구매 비용 없이 Apache 2.0 라이센스에 따라 라이센스가 부여된 오픈 소스 프로젝트입니다. 비용은 주로 추론 계층과 운영 및 유지 관리 계층에 반영됩니다.

  • C 측/개인 개발자: pip install nemoguardrails를 사용하면 모든 핵심 기능과 내장된 가드레일 라이브러리를 무료로 사용할 수 있습니다. 추가 LLM 추론 비용(가드레일로 호출되는 모델)은 개발자가 부담합니다.
  • 개발자/자체 호스팅: 라이센스 비용, 인프라 비용(GPU/CPU 서버, 스토리지, 네트워크), 운영 및 유지 관리 인력, 맞춤형 가드레일 규칙 개발 비용이 없습니다. 가드레일 구성 튜닝 및 오경보율 수렴을 위해 최소 2~4주 정도 준비하는 것이 좋습니다.
  • 엔터프라이즈 프로덕션 배포: 가드레일 추론을 위해 NVIDIA Build 엔드포인트를 사용하는 경우 공식 실시간 가격 페이지를 참조해야 합니다. 완전히 자체 호스팅되면 외부 추론 비용이 없습니다. 기업은 NVIDIA 비즈니스 팀의 확인이 필요한 SSO 통합 및 감사 로그 SLA와 같은 조건을 추가로 고려해야 합니다.

애플리케이션 시나리오

Nemo Guardrails에 적용 가능한 시나리오는 LLM 애플리케이션이 이미 존재하거나 구축되고 있고 보안 규정 준수 거버넌스가 필요한 영역에 집중되어 있습니다.

  • 고객 지원 및 대화 봇: 고객 서비스 AI에 입력 가드레일(악성/탈옥 요청 필터링) 및 출력 가드레일(응답이 회사 정책을 준수하고 민감한 정보가 포함되지 않도록 보장)을 배포하여 수동 검토 및 차단 비용을 줄입니다. 검증 초점: 가드레일 오경보 비율이 첫 번째 벨 지속 시간에 미치는 영향.
  • RAG 지식 베이스 Q&A: 검색 가드레일을 활성화하여 확인된 문서 블록에 대해 블록별 보안 감사를 수행하여 직원이 내부 지식 베이스 쿼리 중에 실수로 기밀 정보를 노출하는 것을 방지합니다. 검증 초점: 블록 수준 가드레일이 검색 회수율에 미치는 영향.
  • 재무 규정 준수 및 법률 검토: 계약 검토, 규정 준수 Q&A 등 위험도가 높은 시나리오에서는 풀 링크 가드레일(입력 + 대화 + 출력)이 활성화되고 다단계 필터링을 위해 타사 보안 API(예: ActiveFence 및 PolicyAI)가 사용됩니다. 검증 초점: 다층 가드레일을 직렬로 연결한 후 종단 간 지연.

해당자

  • LLM 애플리케이션 개발자: 자체 구축된 AI 애플리케이션에 보안 계층을 추가해야 하는 팀은 Python 라이브러리 또는 서버를 통해 빠르게 통합할 수 있습니다. 콜랑 학습 비용은 약 1~3일 정도 소요됩니다.
  • AI 보안 및 규정 준수 엔지니어: AI 애플리케이션 보안 정책을 수립하고 구현하는 역할입니다. Colang을 사용하면 보안 정책을 실행 가능한 가드레일 규칙으로 인코딩하여 SOP의 수동 검토를 대체할 수 있습니다.
  • 플랫폼 설계자/SRE: LLM 보안 계층의 거버넌스를 통합해야 하는 팀은 Guardrails Server를 사용하여 Guardrails와 비즈니스 논리의 아키텍처 분리를 달성할 수 있습니다.

대중에게 적합하지 않음: LLM 기능을 사용하지 않는 팀(가드레일은 의미가 없음) "즉시 구성이 필요 없는" 보안 솔루션(개발 및 구성에 일정 금액의 투자 필요)이 필요한 개인 사용자 엔드투엔드 대기 시간에 매우 민감한 시나리오(각 가드레일 추론은 모델 및 배포 방법에 따라 200~1000ms를 추가함)

요약 및 전망

Nemo Guardrails는 프로그래밍 가능한 가드레일 5가지 유형 + Colang 구성 언어 + 오픈 소스 라이센스의 조합을 통해 LLM 애플리케이션 보안 관리를 위한 사용자 정의 가능하고 감사 가능하며 확장 가능한 미들웨어 솔루션을 제공합니다. "원 버튼 온" 안전 스위치가 아니라 구성 및 튜닝에 대한 투자가 필요한 가드레일 프레임워크입니다. v0.14.1에서 v0.23.0(월요일 릴리스 약 4~6회)까지의 집중적인 반복은 이 분야, 특히 IORails 병렬 엔진 및 LangChain 디커플링에 대한 NVIDIA의 지속적인 투자를 보여 주며, 이는 실제 배포에서 대기 시간 및 종속성 위험을 줄입니다.

현재 제한 사항 및 불확실성: 가드레일의 위양성률(false positive) 및 위음성률(false negative)에 대한 공개 벤치마크 데이터가 없으며 팀은 대상 시나리오에서 자체적으로 스트레스 테스트를 수행해야 합니다. 내장된 가드레일 라이브러리의 적용 가능성은 실제 비즈니스 시나리오와 연계하여 평가해야 하며, 공식 문서에는 "내장된 가드레일이 모든 생산 시나리오에 적용되지 않을 수 있다"고 명시되어 있습니다. NVIDIA Build 엔드포인트의 생산 승인 조건 및 가격은 아직 공개적이고 안정적으로 표시되지 않았습니다. Colang 2.0은 아직 기능 개선 단계이므로 제작 시에는 Colang 1.0을 사용하는 것이 좋습니다.

조달 및 채택 제안: 새로운 팀은 먼저 'pip install nemoguardrails' + 공식 샘플 구성을 통해 1~2주 이내에 PoC를 완료하는 것이 좋습니다. 이때 가드레일 추론 지연, 거짓 긍정 비율 및 Colang 구성이 비즈니스 규칙의 복잡성을 충족하는지 평가하는 데 중점을 둡니다. 기업은 구매하기 전에 NVIDIA 상용 팀에 프로덕션 환경에서의 NVIDIA Build 라이선스 조건, 프라이빗 배포의 아키텍처 지원 경계, 대상 LLM 공급자의 LangChain 통합 호환성 등을 확인해야 합니다.

관련 도구: GitHub 코파일럿, 커서

Nemo Guardrails의 버전 진화

GitHub 릴리스의 공개 정보에 따르면 Nemo Guardrails의 버전 반복 리듬은 월요일 약 4~6회이며, 0.14.1에서 0.23.0까지의 주요 진화 라인은 세 단계로 요약할 수 있습니다.

기본역량강화기간 (v0.14.1 - v0.17.0)

  • v0.14.1(2025-07-09): 탈옥 감지 구성이 LLMRails 생성자를 단순화했습니다.
  • v0.15.0(2025-08-08): 병렬 가드레일 실행, 스트리밍 출력 가드레일 OpenTelemetry 추적 인프라.
  • v0.16.0(2025-09-05): OpenTelemetry 의미 체계 추적 GuardrailsAI가 Pangea 커뮤니티와 통합되었습니다.
  • v0.17.0 (2025-10-10): 도구 호출은 RunnableRails 재작성, 도구 입력/출력 가드레일을 통과합니다.

엔진 재구성 및 생태적 확장 기간 (v0.18.0 - v0.20.0)

  • v0.18.0(2025-11-07): BotThinking 추론 추적 가드레일, 다중 임베디드 제공업체 Cisco AI Defense 통합 LFU 캐시.
  • v0.19.0 (2025-12-04): LangChain v1.x와 호환됩니다.
  • v0.20.0 (2026-01-22): 추론 콘텐츠 보안 모델 GLiNER PII 탐지, 다국어 거부 메시지.

IORails 및 최적화 기간(v0.21.0 - v0.23.0)

  • v0.21.0 (2026-03-12): IORails 최적화 엔진(병렬 비스트리밍 가드레일), OpenAI 호환 서버, LangChain Agent 미들웨어.
  • v0.22.0(2026-05-23): IORails 스트리밍 출력 가드레일 OTEL 추적 LangChain이 선택적인 추론 모델 지원으로 분리되었습니다.
  • v0.23.0(2026-07-02): Hugging Face 분류자 가드레일, 컨텍스트 블로트 감지, Polygraf PII 감지, NumPy 검색 대체 Annoy, 휠 패키지가 10배 감소했습니다.

버전 정보

  • 니모 가드레일 0.23.0 ：Hugging Face 분류자 가드레일, 컨텍스트 확장 감지, Polygraf PII 감지 및 둔감화를 추가했습니다. NumPy 정밀 검색이 Annoy를 대체합니다. 도구 호출은 스트리밍 및 비스트리밍 요청을 지원합니다. 휠 패키지 크기가 약 10배 감소합니다.
  • 니모 가드레일 0.22.0 ：IORails는 스트리밍 출력 가드레일과 OpenTelemetry 추적을 지원합니다. LangChain은 선택적 종속성으로 분리됩니다. 추론 모델 지원; Azure는 최고 수준의 기본 프레임워크로 미리 설정되어 있습니다. 공식 실시간 페이지가 우선합니다.
  • 니모 가드레일 0.21.0 ：병렬 실행을 지원하는 IORails의 최적화된 입력/출력 가드레일 엔진을 소개합니다. OpenAI 호환 가드레일 서버; LangChain 에이전트 미들웨어 통합; PolicyAI, CrowdStrike AIDR 커뮤니티 통합. 공식 실시간 페이지가 우선합니다.
  • 니모 가드레일 0.20.0 ：추론 콘텐츠 보안 모델 지원 GLiNER 오픈 소스 PII 탐지; 다국어 거부 메시지; 스트리밍 구성이 단순화되었습니다. 공식 실시간 페이지가 우선합니다.
  • 니모 가드레일 0.19.0 ：LangChain v1.x 호환 지원. 공식 실시간 페이지가 우선합니다.
  • 니모 가드레일 0.18.0 ：BotThinking 추론 추적 가드레일; Azure OpenAI/Cohere/Google 포함 공급자; Cisco AI Defense 통합; LFU 인메모리 캐시. 공식 실시간 페이지가 우선합니다.
  • 니모 가드레일 0.17.0 ：도구 호출 통과 지원; RunnableRails 재작성; 도구 입력/출력 가드레일; 트렌드마이크로 커뮤니티 통합. 공식 실시간 페이지가 우선합니다.

사용자 후기

  • 후기를 불러오는 중...