BabeChat의 서비스 상태는 아래 두 가지 지표로 나누어 안내해 드립니다.
이를 통해 AI 모델의 응답 상태와 플랫폼 자체의 안정성을 투명하게 확인하실 수 있습니다.
AI 모델의 '가동률'은 AI가 사용자의 메시지에 대해 ’어떤 형태로든 응답을 생성’ 하는 데 성공한 비율을 의미합니다.
<aside> 💡
이는 LLM 제공사(AI 개발사)로부터 응답이 정상적으로 도착하는지 확인하는 기술적인 신호입니다.
</aside>
Q. ‘가동률’ 이 하락하는 경우는?
① 기술 장애 발생 시
LLM 제공사의 기술적인 문제로 인해 AI가 아무런 응답도 생성하지 못하는 경우입니다.
② 메시지 검열 발생 시
사용자의 메시지가 부적절하다고 판단되어 AI의 응답 생성이 거부되는 경우입니다. 이 경우, 화면에 "캐릭터가 부적절한 답변을 생성했어요" 라는 안내가 표시됩니다.
Q. 답변 품질과 ‘가동률’ 사이의 관계는?
<aside> 📢
'가동률'은 응답의 성공적인 '생성' 여부만을 측정하므로, 답변 내용에 언어 섞임, 반복 등의 품질 저하가 있더라도 **응답이 생성만 되면 '성공'**으로 집계됩니다.
즉, 답변 내용에 품질 저하가 있더라도 **AI 모델 ‘가동률’**에서 **‘원활’**로 표시 될 수 있습니다.
이러한 답변 품질 문제는 AI모델 기술의 현실적인 한계로, BabeChat은 더 나은 경험을 제공해 드리기 위해 내부적으로는 물론 LLM 제공사와의 협력을 통해 지속적으로 개선해 나가고 있습니다.
</aside>
BabeChat이 운영하는 플랫폼 전체의 상태를 나타내는 지표입니다.