DAATKINGAI 컴퓨팅 기술 분야의 선두주자인 엔비디아가 생성형 AI 애플리케이션의 인상적인 고품질 텍스트 응답 생성을 지원하는 오픈 소스 소프트웨어 엔비디아 네모 가드레일(NVIDIA NeMo Guardrails)을 출시했다고 25일 밝혔다.
네모 가드레일은 대규모 언어 모델(LLM)로 구동되는 스마트 애플리케이션의 정확성, 적절성, 관련성, 안전성 등의 확인을 돕는다. 또한 네모 가드레일에는 기업이 텍스트 생성 AI 앱에 안전성을 추가하는 데 필요한 모든 코드, 예제, 문서가 포함된다.
이번 네모 가드레일 출시 배경에는 AI 앱의 강력한 엔진인 LLM이 업계 전반에서 채택되고 있는 상황이 반영됐다. LLM은 현재 고객의 질문에 응답, 긴 문서 요약, 소프트웨어 작성, 신약 설계 가속화까지 폭넓게 활용되고 있다. 네모 가드레일은 이러한 다양하고도 새로운 종류의 AI 기반 애플리케이션을 개발할 때 사용자가 안전하게 보호할 수 있도록 설계됐다.
강력한 모델, 견고한 레일
생성형 AI의 안전은 업계 전반의 주요 관심사다. 엔비디아의 네모 가드레일은 오픈AI(OpenAI)의 챗GPT(ChatGPT)와 같은 모든 LLM과 함께 작동하도록 설계됐다. 네모 가드레일을 통해 개발자는 LLM 기반 앱을 안전하게 개발하고 컨트롤 해 기업의 통제 안에 머물도록 만든다.
개발자는 네모 가드레일을 통해 세 가지 종류의 경계를 설정할 수 있다.
▲ 토피컬 가드레일(Topical guardrails) : 토피컬 가드레일은 앱이 챗봇이 대화가 원치 않는 주제 영역으로 이탈하는 것을 방지한다. 예를 들어, 고객 서비스 도우미가 앱의 고객 서비스와 관련 없는 날씨에 대한 주제와 상관없는 질문에 답변하지 못하도록 방지할 수 있다.
▲ 세이프티 가드레일(Safety guardrails) : 세이프티 가드레일은 앱이 정확하고 적절한 정보로 응답하도록 보장한다. 원치 않는 부적절한 정보나 언어를 필터링하고, 인간이 AI 시스템을 해킹해 잘못된 정보를 제공하지 못하도록 방지하고, 사실적이고 신뢰할 수 있는 출처만 제공하도록 강제할 수 있다.
▲ 시큐리티 가드레일(Security guardrails) : 시큐리티 가드레일은 앱이 외부의 서드파티 앱에 접근할 때, 외부의 보안위협을 초래할 수 있는 바이러스에 걸린 악성 코드가 실행되거나 호출하지 못하도록 방지한다. 강력한 보안 모델을 제공해 안전한 것으로 알려진 외부 서드파티 애플리케이션에만 연결하도록 제한하며, LLM 기반 공격이 발견될 때 이를 완화하는 데 도움이 된다.
네모 가드레일은 완전히 프로그래밍 할 수 있어서, 가드레일과 가드레일이 동작되는 일련의 작업을 적용하는 것은 개발자가 지정하기 쉽고 시간이 지남에 따라 개선된다.
매우 중요한 경우에서 코드 몇 줄만으로 새로운 규칙을 추가할 수 있다. 이러한 네모 가드레일을 사용한다면 머신 러닝 전문가나 데이터 과학자가 아니더라도 거의 모든 소프트웨어 개발자는 몇 줄의 코드만으로 새로운 규칙을 빠르게 생성할 수 있다.
이러한 접근 방식은 인간의 의도로부터 학습되는 강화학습(RLHF)과 같은 기술에 매우 보완적이며, 개발자들이 의도한대로 더욱 신뢰적이고, 결정적으로 인공지능 앱을 강화하도록 만든다.
네모 가드레일의 적용 프로세스는 다음과 같다.
- 사용자 입력을 표준 양식으로 변환.
- Colang을 사용하여 표준 양식에 따라 가드레일을 일치시키거나 생성.
- 봇이 작업을 실행할 다음 단계를 계획하고 지시.
- 표준 양식 또는 생성된 컨텍스트에서 최종 출력을 생성.
익숙한 도구 사용
네모 가드레일은 오픈 소스로 ChatGPT를 비롯해 엔터프라이즈 앱 개발자가 사용하는 모든 도구에서 작동한다.
예를 들어, 네모 가드레일은 개발자들이 타사 애플리케이션을 LLM에 연결하기 위해 빠르게 채택하고 있는 오픈 소스 툴킷인 랭체인(LangChain)에서 실행할 수 있다.
랭체인(LangChain) 툴킷을 개발한 스타트업인 랭체인의 창립자 해리슨 체이스Harrison Chase는 “사용자는 랭체인 워크플로우에 네모 가드레일을 쉽게 추가해 AI 기반 앱에 안전한 경계를 빠르게 설정할 수 있다”라고 말했다.
또한 네모 가드레일은 재피어(Zapier)와 같은 광범위한 LLM 지원 애플리케이션과 함께 작동할 수 있도록 설계됐다. 재피어는 2백만 개 이상의 기업이 사용하는 자동화 플랫폼으로, 사용자가 업무에 AI를 통합하는 방법을 직접 확인했다.
재피어의 AI 제품 수석 매니저인 리드 로빈슨Reid Robinson은 “안전, 보안, 신뢰는 책임감 있는 AI 개발의 초석이며, 이러한 가드레일을 AI 시스템에 내장하기 위한 엔비디아의 선제적인 접근 방식에 기대가 크다. AI가 확실하고 신뢰할 수 있는 미래의 일부가 됐을 때 누리게 될 이점들을 고대하고 있다”고 말했다.
엔비디아에서 오픈 소스로 출시
엔비디아는 엔비디아 네모 프레임워크에 네모 가드레일을 통합하며, 엔비디아 네모 프레임워크는 사용자가 회사의 독점 데이터를 사용해 언어 모델을 훈련하고 튜닝하는 데 필요한 모든 것을 포함한다.
네모 프레임워크의 대부분은 이미 깃허브(GitHub)에서 오픈 소스 코드(▶)로 제공된다. 기업의 경우, 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어 플랫폼의 일부인 완전한 지원 패키지로 제공받을 수도 있다.
네모는 서비스로도 제공되며, 자체 데이터 세트와 도메인 지식을 기반으로 맞춤형 생성 AI 모델을 만들고 실행하려는 기업을 위한 클라우드 서비스 제품군인 엔비디아 AI 파운데이션의 일부이다.
KT는 네모를 사용해 고객과 800만 건의 대화를 나눈 지능형 비서를 구축했다. 또한 스웨덴의 한 연구팀은 병원, 정부 기관, 기업에서 텍스트 기능을 자동화할 수 있는 LLM을 개발하기 위해 네모를 사용했다.
생성형 AI를 위한 우수한 가드레일을 구축하는 것은 AI가 발전함에 따라 많은 지속적인 연구가 필요한 어려운 문제다.
엔비디아는 개발자 커뮤니티의 막대한 에너지와 작업 AI 안전에 기여하기 위해 수년간의 연구 결과물인 네모 가드레일을 오픈 소스로 공개했다. 가드레일에 대한 엔비디아의 노력은 기업들이 스마트 서비스를 안전하게, 개인 정보 보호 및 보안 요구 사항에 맞게 유지해 혁신의 엔진이 원활하게 돌아갈 수 있도록 지원할 것이다.
다음(▶)에서 네모 가드레일에 대한 자세한 내용과 시작 방법을 알아볼 수 있다.
◈ 다트크리에이티브 | 한재현 기자 wowhjh@gmail.com
Add comment