카카오게임즈의 Amazon Bedrock 기반 실시간 채팅 번역 구축

이 게시물은 카카오게임즈가 글로벌 MMORPG 게임 '오딘:글로벌'의 실시간 채팅 번역 시스템을 Amazon Bedrock을 활용해 구축한 과정을 소개합니다.

주요 내용

• 게임 특화 용어와 맥락을 자연스럽게 번역하기 위해 생성형 AI(GenAI)를 도입
• 기존 번역 솔루션의 한계를 극복하고 빠른 도입과 운영을 위해 Amazon Bedrock의 API화, 프롬프트 관리, 캐싱 기능 활용
• 두 가지 아키텍처(단어장 기반 프롬프트 사용과 RAG 기반 벡터 DB 활용)를 검토 후, 저지연성을 위해 프롬프트 기반 아키텍처 선택
• 프롬프트 엔지니어링과 캐싱으로 번역 품질과 응답 속도 최적화
• 운영에서는 모니터링 시스템을 통해 안정성과 효율성을 확보
• 향후 초저지연 온디바이스 GenAI 및 SLM 도입을 통한 1초 미만 응답시간 달성 계획

결론

카카오게임즈의 사례는 게임 내 GenAI 도입과 저지연시간 요구가 있는 조직에 실용적인 참고가 될 수 있습니다.