뉴렐릭이 오픈AI GPT 시리즈 API를 활용해 애플리케이션을 모니터링할 수 있는 최초의 머신러닝운영(MLOps) 기능을 출시했다고 23일 밝혔다.
이를 통해 단 두줄의 코드만으로, 엔지니어들은 오픈AI 컴플리션 쿼리(completion queries)를 모니터링하며 동시에 뉴렐릭 플랫폼에서 한 번에 실시간으로 성능 및 비용 메트릭을 추적할 수 있다는 것이다.
새롭게 통합된 해당 기능을 활용해 뉴렐릭은 오픈AI의 로(raw)데이터를 인제스트 하고 기업들은 오픈AI의 챗GPT와 같은 떠오르는 AI 기술을 적극 활용해 비즈니스 혁신 및 목표 달성을 가속화하고 비용도 더욱 효율적으로 관리할 수 있다. 뿐만 아니라 뉴렐릭이 지원하는 데이터 카탈로그가 확장되고 접근성도 더 많은 개발자를 대상으로 확대되었다.
엔지니어들은 뉴렐릭 인스턴트 옵저버빌리티(New Relic Instant Observability)를 통해 오픈AI 퀵스타트를 빠르게 배포할 수 있고 뉴렐릭 계정 생성만으로도 무료로 해당 기능을 이용할 수 있다.
마나브 쿠라나(Manav Khurana) 뉴렐릭 최고성장책임자 겸 옵저버빌리티 총괄은 “금번 새롭게 소개된 통합 기능은 GPT 기능을 활용해 생성형 AI로 모던 애플리케이션을 제작하고자 하는 기업에게 큰 희소식이라 할 수 있다. 옵저버빌리티는 기업들이 GPT로부터 가치를 추출해낼 수 있도록 도와주는 게임체인저이다. 뉴렐릭은 모든 엔지니어들이 추가적인 비용 없이 간편한 설정으로 GPT API를 통해 더 쉽게 성능과 비용을 모니터할 수 있도록 돕고 있다. 이는 바로 모든 엔지니어들이 옵저버빌리티의 힘을 활용할 수 있도록 하겠다는 뉴렐릭의 사명과도 맞닿아 있다”고 말했다.
뉴렐릭 인스턴트 옵저버빌리티와 업계 최초로 선보이는 GPT 모니터링 솔루션은 전반적인 뉴렐릭 플랫폼 사용자들을 대상으로 추가비용 없이 무료로 제공된다. 오픈AI의 다빈치(Davinci) 모델 사용 시 비용이 급격히 증가해 대규모로 운영하기 어려운 경우가 많다. 뉴렐릭을 이용하는 경우 엔지니어링 부서가 GPT사용 현황에 따른 비용을 실시간으로 추적할 수 있도록 했다.
이형근 뉴렐릭코리아 대표는 “국내에서도 많은 산업 부문에서 챗GPT의 활용 방안에 대한 대중과 기업들의 관심이 뜨거운 가운데, 뉴렐릭이 업계 선도적인 GPT기반 옵저버빌리티 서비스를 먼저 선보이게 되어 매우 뿌듯하다. 해당 서비스는 많은 엔지니어들의 업무 효율을 대폭 높여주어 궁극적으로 국내 기업들의 생산성 증대에도 크게 기여할 것으로 기대하고 있다”고 말했다.
피엔에프뉴스 pnfnews@pnfnews.com
