BlockBeats 뉴스, 6월 16일 - AI 스타트업 Probably가 900만 달러 규모의 시드 라운드 투자를 유치했으며, a16z가 주도했습니다. 이 회사는 대규모 언어 모델(LLM)에서 '환각'과 사실적 오류를 줄이기 위한 보다 엄격한 방법을 구축하려고 시도하고 있습니다.
이 회사의 첫 번째 제품은 복잡한 데이터 세트에서 신속하게 분석 결과를 생성할 수 있는 데이터 과학 도구입니다. 각 출력에는 투명성과 검증 가능성을 높이기 위해 출처와 전체 감사 경로가 첨부됩니다. 이러한 설계는 점점 더 많은 AI 제품의 표준 방향이 되고 있습니다.
오류가 결과에 침투하는 것을 방지하기 위해 Probably는 복잡한 '가드레일 시스템'을 구축했으며, 창립자 Peter Elias는 이를 '데이터 과학 메카'라고 표현했습니다. 이 시스템은 결정론적 검증기를 사용하여 대규모 모델의 초기 출력을 검증하며, 결과가 데이터와 일치하지 않으면 직접 거부되고 재생성됩니다. 동시에 이 검증 메커니즘은 모델을 역방향으로 훈련시켜 후속 오류 발생을 줄입니다.
아래 원문 링크를 클릭하여 동찰 Beating · Feishu AI 뉴스 채널에 가입하세요. 7×24시간 중단 없이 글로벌 AI 핫이슈와 뉴스를 모니터링합니다.
