누구나 찾아볼 수 있는 중고거래 서버 LLM 릴리즈 노트 도입기
배포 기록을 Notion에 정형화해 팀 자산으로 쌓고 LLM으로 비개발자용 릴리즈 노트를 자동 생성했습니다. GitHub Actions·rake·Prompt Studio 조합으로 토큰 비용을 절감하고 프롬프트를 코드 밖에서 반복 개선할 수 있게 구성했습니다
배포 기록을 Notion에 정형화해 팀 자산으로 쌓고 LLM으로 비개발자용 릴리즈 노트를 자동 생성했습니다. GitHub Actions·rake·Prompt Studio 조합으로 토큰 비용을 절감하고 프롬프트를 코드 밖에서 반복 개선할 수 있게 구성했습니다
LiteLLM 공급망 공격을 계기로 Karrot은 내부 PyPI 프록시를 도입했습니다. 프록시에서 PEP 691의 업로드 시간 정보를 이용해 쿨다운 정책과 토큰 관리를 적용하여 공급망 공격 위험을 줄였습니다.
당근은 사내 PyPI 프록시와 PEP 691 기반 쿨다운으로 파이썬 공급망 공격에 대응했습니다. 토큰 자동 갱신과 중앙 제어로 전사적 보안 정책을 적용합니다.
이 글은 SEED 기반의 AI 화면 생성 도구 Kraft의 목적을 설명했습니다. Kraft는 요구사항 구체화·검증·기억 루프를 통해 일관된 당근스러운 화면을 자동화합니다.
데이터팀은 AI 도입으로 업무가 구현에서 검증·설계 중심으로 이동했습니다. 데이터 플랫폼과 거버넌스 정비로 신뢰 가능한 셀프서비스를 구축합니다.
Job 워크로드의 중단 불가 특성으로 EKS 노드 스케일링 문제 발생했습니다. PodAffinity·Kyverno·노드 보호 어노테이션으로 해결했습니다.
Job 전용 EKS Node Group에 오토스케일링을 도입하고 PodAffinity·Kyverno로 Bin-packing과 중단 방지 적용했습니다. 프로덕션에서 kubelet 과부하 등 문제 발생해 maxPods 조정 등으로 대응했습니다.
LLM 기반 택소노미 관리 시스템 구축과 운영 경험을 정리했습니다. Dataflow·BigQuery 기반 파이프라인과 LLM-as-judge 평가로 품질과 비용을 관리합니다.
장기 유저 로그로 Transformer 기반 유저 임베딩을 학습해 추천·광고에 적용했습니다. 지역 제약을 반영한 RCBS와 콘텐츠 임베딩으로 negative·cold item 문제를 해결해 지표를 개선했습니다.
당근 숏폼팀은 200MB 편집 모듈의 SO 파일만 On-demand DFM으로 분리해 글로벌 사용자 용량 부담을 낮췄습니다. 코드와 DI는 base에 두어 운영 안정성 확보했습니다.