연간 LLM 호출 비용 25% 절감, 인턴이 도전한 시맨틱 캐싱 도입 기록
당근 채팅팀 인턴이 시맨틱 캐싱을 도입해 연간 LLM 호출 비용을 25% 절감하는 데 성공했습니다. 이 기술은 문장 의미 유사도를 활용해 비용 효율적인 AI 메시지 추천을 가능하게 합니다.

당근 채팅팀 인턴이 시맨틱 캐싱을 도입해 연간 LLM 호출 비용을 25% 절감하는 데 성공했습니다. 이 기술은 문장 의미 유사도를 활용해 비용 효율적인 AI 메시지 추천을 가능하게 합니다.
당근은 다양한 경로로 수집된 업체 정보를 중복 없이 관리하기 위해 로컬 프로필 병합 시스템과 변경 이력 기반 Composite Snapshot을 도입했습니다. 이를 통해 최신이면서도 신뢰성 있는 정보를 대표 프로필에 반영하여 사용자에게 정확한 업체 정보를 제공합니다.
당근은 AI를 활용해 사용자 경험을 혁신하는 두 가지 실험 사례를 공유합니다. 실패와 개선을 반복하며 사용자 행동을 이끄는 자연스러운 경험을 설계하는 데 집중하고 있습니다.
당근은 LLM과 프롬프트 고도화를 활용해 검색어에 숨겨진 사용자의 의도를 정교하게 파악하는 AI 실험을 진행했습니다. 이를 기반으로 검색 시스템을 구조적으로 재설계해 검색 정확도와 사용자 만족도를 크게 높였습니다.
당근 아이덴티티 서비스팀은 AI를 도입해 반복 업무를 자동화하고 업무 효율을 크게 향상시켰습니다. 이를 통해 AI가 단순 자동화를 넘어서 문제 해결에 기여할 수 있음을 확인했습니다.
당근 운영실은 AI를 도입해 조직과 업무 방식을 혁신하며 다양한 AI 기반 도구를 개발했습니다. 이를 통해 반복 업무를 대폭 줄이고, 비개발자도 쉽게 AI를 활용할 수 있는 환경을 조성했습니다.
이 글은 Cursor와 TDD 방식으로 Swift Macro를 개발하는 과정을 소개합니다. LLM을 활용해 개발 시간을 단축하고 테스트 주도 개발의 장점을 살린 사례를 설명합니다.
당근의 검색 플랫폼팀은 색인 파이프라인의 생산성과 안정성을 높이기 위해 설정 기반 자동화, 의존성 축소, 비용 절감, 고가용성 시스템을 구현했습니다. 이를 통해 대용량 데이터와 대량 이벤트를 효율적으로 처리하며 다양한 기능 확장을 진행 중입니다.
당근 운영실은 AI 도입을 위해 실행 문화를 조성하고 조직 구조를 워킹그룹 체계로 전환해 빠른 문제 해결을 추구했습니다. 비개발자도 AI 도구를 활용하며 모두가 AI로 일하는 문화를 구축해 전사 확산을 도모하고 있습니다.
의존성 그래프를 활용해 대규모 프로젝트 내 사이드 이펙트와 의존 관계를 시각화하여 코드 파악 시간을 단축했습니다. 이를 통해 협업 효율성을 높이고 일정 산정과 코드 리뷰 품질을 개선했습니다.