이 게시물은 생성형 AI를 제품에 적용할 때의 설계와 운영 경험을 공유합니다.

핵심 요약

• 생성형 AI의 비결정적 동작과 동일 입력의 다른 출력 문제
• 기존 QA로는 품질 정의 불가, '에러 없음'보다 '의미 있는 결과'가 중요한 품질 기준
• 재현되지 않는 오류의 버그 판별 어려움과 확률적 시스템을 위한 새로운 판단 기준 필요
• 일관성 전제가 불가능해 불확실성을 전제로 시스템 설계 방향으로 전환
• 패널들이 실제 도입 과정에서 어떤 판단을 했고 무엇을 포기했는지 솔직하게 공유