최신 기술 콘텐츠

AI 품질, 어떻게 검증할까? (Introduction to SuperVision ) 지난 5편에서는 로컬 RAG(검색 증강 생성)와 멀티 컨텍스트 스위칭을 통해 온디바이스 챗봇에 우리 회사만의 지식을 주입하는 과정을 살펴보았습니다. 하지만 챗봇이 지식을 얻었다고 해서 모든 문제가 해결되는 것은 아닙니다. "이 챗봇이 엉뚱한 대답을 꾸며내지 않고, '진짜 문서에 있는 내용만'  진실하게 말하고 있는지 어떻게 확신할 수 있을까요?" 이번 6편에서는 생성형 AI의 고질적인 문제인 '환각(Hallucination)' 현상과, 챗봇의 품질을 객관적으로 평가하기 위해 TecAce가 도입한 자동화 검증 도구 'AI SuperVision(에이아이 수퍼비전)' 에 대해 소개합니다. 1. 기존 테스트의 한계와 환각(Hallucination)의 위협 전통적인 소프트웨어 개발에서는 예상되는 결과값과 실제 결과값을 비교하는 단위 테스트(Unit Test)를 통해