VARCO LLM, AI의 창의적 활용
Ncsoft
NC소프트는 자체 개발한 LLM을 다양하게 활용하고 있습니다.
자체 개발한 VARCO LLM은, 학습 데이터 선별해 고품질의 데이터로 학습하여 크기 대비 고성능을 제공한다고 합니다.
여기에 감정 표현이 가능한 NC TTS 기술과 OCR 기술 등을 접목하여 다양한 서비스를 제공한다네요.
사내 게임 작가들이 사용하는 VARCO text는 NC의 IP를 학습해, 게임의 세계관이나 스토리 작성을 보조한다고 합니다.
그 밖에도 드림에이스, 웅진씽크빅 및 튜터러스랩스, 항공기상청, 트위니 등의 기업 및 공공기관과 협력하여, 차량 플랫폼, 교육, 로봇 등 다양한 분야에 VARCO LLM을 접목하고 있다네요.
결과를 보려면 얼마간의 시간이 더 걸리겠지만, NC소프트의 AI가 어느정도인지 궁금해지는 아티클이었습니다.
더 많은 콘텐츠를 보고 싶다면?
이미 회원이신가요?
2023년 10월 19일 오후 3:04
Gemini 2.5 모델의 프롬프트 캐싱도 이제 자동 캐싱을 지원하는군요. 가장 기다렸던 기능!
요약하면 Flash 는 1024 토큰 이상일 때, Pro 는 2048 토큰 이상일 때 발동!되며, 캐싱된 토큰의 비용은 75% 할인.
자세한 토큰 갯수 단계나 캐시 만료 시간이 기재되어 있진 않은데, 써 보면서 파악을 해 봐야겠습니다. 챗봇류에서는 선택적으로 사용하면 될 것 같고, 배치성 잡에는 여전히 명시적 캐싱이 낫긴하겠네요.
이번에 우아한형제들 기술 블로그에 "타입 안전한 API 모킹으로 프론트엔드 생산성 높이기"라는 새 글을 발행하게 되었습니다.
... 더 보기