

RAG의 발전과 효용성에 대한 소회
RAG는 LLM의 한계를 보완하며 실무에서 빠르게 활용할 수 있는 방식으로 정리했습니다. 다만 성능은 문서 추출과 임베딩, 커스터마이징 이해도에 크게 좌우된다고 보았습니다.


RAG는 LLM의 한계를 보완하며 실무에서 빠르게 활용할 수 있는 방식으로 정리했습니다. 다만 성능은 문서 추출과 임베딩, 커스터마이징 이해도에 크게 좌우된다고 보았습니다.


OpenAI Assistant API의 개념과 핵심 구성 요소를 정리했습니다. 파일 검색, 코드 실행, 함수 호출로 맞춤형 AI 어시스턴트를 구축하는 활용 예시를 소개했습니다.


RAGAS를 통해 RAG 시스템을 정량적으로 평가하는 방법을 소개했습니다. 주요 지표와 Streamlit 데모, LangSmith 연동까지 함께 설명했습니다.

토스 프론트엔드 팀은 문서를 찾아가는 대신 질문하면 바로 답을 받는 환경을 만들었습니다. RAG 챗봇과 자동 문서화 봇으로 지식이 흐르는 팀 문화를 구축했습니다.


숙소 리뷰에서 핵심 정보만 뽑아 보여주기 위해 Gen AI 기반 리뷰 하이라이트를 구현했습니다.전처리와 프롬프트 개선, 사람의 검수를 거쳐 숙소별 TOP 키워드를 자동 추출했습니다.
![[에이닷 미디어 에이전트] 대화형 콘텐츠 탐색은 어디까지 왔을까](https://devocean.sk.com/thumnail/2024/10/31/3ae82ea55358fe590deb04dd7f3fc5c5017c61a18a2863712d1a416ac10aa6a3.jpg)

에이닷 미디어 에이전트의 대화형 콘텐츠 탐색 구조와 핵심 기술을 설명했습니다. LLM, RAG, 선제 추천을 활용해 개인화된 검색 경험을 강화했습니다.
쿠팡 파트너스
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.


에이닷 뮤직 에이전트에 Multi Prompt Fine-tuning을 적용하며 겪은 시행착오와 개선 과정을 공유했습니다. gpt-4o-mini 전환으로 한글 깨짐과 품질 문제가 크게 완화된 사례였습니다.

X

X


AKS에 Qdrant를 배포해 RAG 개발 환경을 빠르게 구성하는 방법을 소개했습니다. Kubernetes 설정과 Ingress 튜닝으로 저장성과 외부 접근성을 확보했습니다.


AWS와 Azure에서 RAG를 구현하는 방식과 구성 요소를 비교해 정리했습니다. 각 플랫폼의 강점이 달라 프로젝트 요구사항에 맞춰 선택할 필요가 있습니다.


쿠팡이 LLM을 활용해 이미지·텍스트 이해, 약한 라벨 생성, 상품 분류를 개선하는 사례를 소개했습니다. 또한 CJK 언어 특성과 ICL·RAG·SFT·CPT, Kubernetes 기반 훈련 흐름을 함께 설명했습니다.


생성형 AI를 다루기 위한 LLM 원리와 프롬프트 엔지니어링의 핵심을 정리했습니다. 랭체인, RAG, ReAct 같은 확장 방법으로 더 지능적인 애플리케이션을 만드는 방향도 소개했습니다.


에이닷 RAG 기능을 위해 온프레미스 Qdrant VectorDB를 소스 컴파일 방식으로 구축한 과정을 소개했습니다. Rust 환경 준비부터 클러스터 구성과 Web UI 배포까지의 절차를 정리했습니다.