엔비디아 네모 가드레일 (NVIDIA NeMo Guardrails)은 현지시각 2023년 4월 25일 엔비디아에서 발표한 LLM 기반 시스템(e.g. chatGPT)의 탈선을 막아 줄 가드레일 역할 오픈소스 소프트웨어다. 크게 기능은 세 가지다. 토피컬 가드레일(Topical guardrails) : 앱이 원치 않는 영역으로 이탈하는 것을 방지 세이프티 가드레일(Safety guardrails) : 원치 않는 언어를 필터링해 앱이 정확하고 적절한 정보로 응답하도록 보장 시큐리티 가드레일(Security guardrails) : 앱이 안전한 것으로 알려진 외부 서드파티 애플리케이션 특히, 다른 대규모 언어 모델에 사실 확인을 요청하는 기능이 있어 AI 환각을 차단할 수 있을 거라고 기대된다. AI 환각은 ..