리퀴드 AI, 50ms 이하 응답 시간 목표로 실시간 추론 엔진 RIPL 출시
리퀴드 AI, 실시간 추론 엔진 ‘RIPL’ 출시...AI 응답 지연 50ms 미만 겨냥
- 매체
- AI타임스
- 게시
- 중요도
- 3/5
- 화제 지수
- —
한국어 요약
리퀴드 AI가 실시간 업무(검색, 결제 등) 적용을 위해 응답 지연을 획기적으로 단축한 추론 엔진 RIPL을 출시했다. 기존 LLM의 지연 문제를 해결하고자 기업 고객을 위한 상용 제품으로 제공된다.
원문 발췌 · English
리퀴드 AI가 AI를 검색과 결제 등 실시간 업무에 적용할 수 있도록 추론 속도를 높인 엔진을 공개했다. 기존 대형언어모델(LLM)의 응답 지연 때문에 고전적인 머신러닝 기법을 주로 사용했던 업무에 해당 엔진을 도입하는 것이 목표다.리퀴드 AI는 22일(현지시간) 실시간 추론 엔진 ‘RIPL(Real-time Inference Pipeline)’을 출시했다고 밝혔다.RIPL은 오픈소스가 아닌 기업 고객을 위한 전용 상용 제품으로 제공되며, 구체적인 도입 가격은 리퀴드 AI 영업팀을 통해 문의해야 한다.리퀴드 AI는 자체 파운데이션