환영합니다, Datumo!
- 설립자: David Kim, Michael hwang, Hawk Shin, Yuntaek Lee, Haseung jeon, Muni Jeon
- 분야: 생성형 AI
- 위치: 대한민국 서울
기회
생성형 AI는 파운데이션 모델을 기반으로 매일 새로운 서비스가 출시되면서 엄청난 속도로 발전하고 있습니다. 하지만 LLM을 활용하여 자체 서비스를 구축하는 모든 회사에는 한 가지 중요한 과제가 남아 있습니다. 바로 AI 생성 결과물의 신뢰성과 안전성을 보장하는 것입니다.
LLM은 매우 정교한 결과를 생성할 수 있지만, 다음과 같은 잘 알려진 위험도 수반합니다.
- 환각 및 사실적 부정확성
- 편향되거나 윤리적으로 문제가 있는 응답
- 의도치 않은 법적, 평판적 또는 사회적 결과
체계적이고 자동화된 평가 프로세스 없이는 이러한 위험이 사용자 신뢰를 약화시키고 브랜드 신뢰도를 손상시키며 채택을 늦출 수 있습니다.여기에 Datumo(한국 법인명 ‘셀렉트스타’)가 등장합니다.
솔루션
Datumo Eval 플랫폼은 생성형 AI 서비스에 대한 자동화된 End-to-end 신뢰성 평가를 제공합니다. Datumo Eval은 배포 전 위험을 조기에 감지하고 완화할 수 있도록 하여, 빠르게 변화하는 AI 세계에 구조화된 품질 및 안전 보장의 엄격함을 가져옵니다.
주요 기능은 다음과 같습니다:
- 맞춤형 평가 기준: Datumo Eval은 사용자의 특정 요구 사항과 선호도에 맞춰 최적화된 평가 지표와 질문을 자동으로 생성합니다.
- 대규모 질문 생성: Datumo Eval은 다양한 사용자 발화 패턴을 포괄적으로 다루기 위해 100만 개 이상의 AI 평가를 위한 질문들을 생성할 수 있습니다.
자동화된 AI 응답 평가 및 분석: Datumo Eval은 객관적인 벤치마크, 사람의 검토, 모델 기반 비교를 혼합하여 LLM 성능을 측정합니다. MMLU 또는 GSM8K와 같은 데이터셋에 대한 정량적 점수, 유창성, 일관성, 유용성에 대한 정성적 평가, 그리고 더 나은 응답을 결정하기 위한 “LLM-as-a-judge” 평가를 결합합니다.
레드팀 기능: Datumo Eval에는 안전하지 않거나 유해한 결과물을 적극적으로 탐색하여 취약점을 사전에 감지하는 AI기반 Red Team기능이 있습니다.우리가 Datumo에 투자하는 이유
Datumo는 배포 전에 생성형 AI 기반 서비스의 품질과 안전성을 검증하고 향상시키는 AI 신뢰성 평가 분야의 선두 기업이 되기 위해 노력하고 있습니다.
Datumo는 2018년 설립 이후, 생성형 AI가 널리 보급되기 훨씬 전부터 AI와 데이터에 사업의 초점을 맞췄습니다. 김세엽 대표와 그의 팀은 한국 시장에서 상당한 관심을 받았습니다. Datumo는 삼성, SK그룹, 신한은행, 하나그룹 등 한국의 대기업들 사이에서 빠르게 시장 점유율을 확보했으며, AI 기술이 성숙함에 따라 진화하는 기업 요구를 충족시키기 위해 비즈니스 모델을 다각화했습니다. 고객 및 이해관계자와의 대화에서 Datumo는 지속적으로 AI 노력에 있어 핵심적인 도구로 인식되고 있음을 보여줍니다.
AI 안전 문제가 광범위한 채택에 가장 큰 장애물인 시대에, Datumo는 조직이 어떤 영역에서든 AI 기반 서비스를 대규모로 자신 있게 배포할 수 있도록 하는 생성형 AI 평가 솔루션을 제공합니다.
향후 계획
AI 데이터 인프라 및 LLM 평가 분야는 전 세계적으로 상당한 주목을 받고 있으며, Datumo는 그 선두에 서 있습니다. 신뢰할 수 있는 AI 배포에 대한 수요가 계속 증가함에 따라, 특히 한국, 일본, 미국 전역에서 Eval의 국제적 확장에 대한 강력한 잠재력을 보고 있습니다.
KB인베스트먼트, 신한벤처투자, 키움인베스트먼트, SBI인베스트먼트, 삼성증권, 무림캐피탈, 인포뱅크파트너스, ACVC파트너스와 함께 Datumo의 1,550만 달러 시리즈 B 투자에 참여하게 된 것을 자랑스럽게 생각하며, 대규모 AI 신뢰 및 안전의 미래를 정의하는 여정을 지원하게 되어 기쁩니다.
Salesforce Ventures에 오신 것을 환영합니다, Datumo!