SSG.COM 사내 Agent 개발기
사내 Confluence 문서를 자연어로 찾는 LLM Agent 개발 과정을 소개했습니다. 검색 쿼리 생성, 요약, 캐싱, OCR 등 운영 최적화 포인트도 다뤘습니다.
#LLM#NLP
25300
필터 1
EMNLP24 늦은 후기 1탄: 텔레콤 LLM 벤치마크 TelBench 발표 이야기
SK텔레콤이 한국어 상담 데이터를 기반으로 통신 특화 벤치마크 TelBench를 발표했습니다. 상담 요약과 후속 업무 자동화 가능성을 평가하고 개인정보 보호와 다국어 확장 계획도 함께 제시했습니다.
#LLM#NLP
8400
슬기로운 토스뱅크 개발 인턴 생활
토스뱅크 인턴들이 변수명 추천 플러그인과 민감정보 마스킹 플러그인을 만든 경험을 소개했습니다.\nDRI 문화와 수평적 협업 속에서 문제를 정의하고 해결하며 성장한 과정을 정리했습니다.
#Kotlin#LLM
22900
Language Model의 새로운 패러다임? Large Language Diffusion Model!!
AR 언어모델의 한계를 보완하기 위해 Diffusion 기반 언어생성 접근을 소개했습니다. 학습과 추론 절차, 성능 강점과 한계까지 논문 관점에서 정리했습니다.
#LLM#NLP
8500
AI와 디지털 광고의 새로운 협력 모델 - Part 1. 광고소재
AI 발전으로 디지털 마케팅 전 과정을 통합 자동화할 가능성을 소개했습니다. 특히 광고 소재는 레이아웃 최적화와 배경 생성이 핵심이라고 설명했습니다.
#LLM#ML
4500
Amazon Bedrock Guardrails을 활용해 한국어 기반 개인정보 검출하기
Amazon Bedrock Guardrails의 한국어 개인정보 검출 지원과 활용 방법을 소개했습니다.\nApplyGuardrail API로 이름, 주소, 전화번호 등 다양한 민감정보를 탐지하는 예시를 보여주었습니다.
#AWS#Amazon Bedrock
6600
LLM이 문학 번역 성능을 평가할 수 있을까?
LLM을 문학 번역 평가자로 쓰는 연구를 소개하며, 기존 지표보다 인간 판단에 가까운 성과를 보였다고 분석했습니다. 다만 문화적 맥락과 미묘한 뉘앙스까지 완전히 대체하지는 못해 인간 평가의 보완이 필요하다고 정리했습니다.
#LLM#번역
7800
Velopers 추천광고
쿠팡 파트너스
개발자를 위한 인기 상품을 확인해 보세요
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
#개발자#노트북#컴퓨터
Open Thoughts - 추론 모델을 위한 데이터 레시피
추론 모델 학습용 데이터 레시피를 실험 중심으로 정리한 글입니다. 어려운 질문 선별, 다중 답변 생성, 데이터 확장이 성능 향상에 중요하다고 설명했습니다.
#LLM#NLP
5200
Custom LLM Agent 구축하기(From Scratch)
Langchain 없이 Python으로 ReAct 기반 LLM Agent를 직접 구현하는 예제를 소개했습니다. 프롬프트 설계와 멀티턴 흐름에 따라 함수 호출 결과가 달라질 수 있음을 보여줬습니다.
#Python#LLM
8000
AI Agent의 시대, 벤치마크는 어떻게 진화할까: τ-bench
AI 에이전트의 실무 적합성을 τ-bench로 재평가한 글입니다. 기존 벤치마크와 달리 대화, 정책, 멀티스텝 처리, 일관성까지 함께 봐야 한다고 설명했습니다.
#LLM#AI Agent
6600
[Advanced AI] RAG 시스템에서의 명사구 충돌 문제와 해결방안
RAG 시스템의 환각 원인으로 명사구 충돌을 설명하고, 이를 줄이기 위한 전처리와 쿼리 분할 방안을 소개했습니다. 기업 문서 특성에 맞춘 데이터 사전처리로 정확도를 높일 수 있다고 정리했습니다.
#RAG#LLM
300
Qwen3 의 Hybrid thinking mode
Qwen3의 Hybrid Thinking mode를 소개하고, 추론 On/Off를 제어하는 두 가지 방식을 설명했습니다. `/think`·`/no_think`와 `enable_thinking`의 동작 차이도 정리했습니다.
#LLM#NLP
7100
Function Calling: LLM이 외부 세계와 소통하는 방법 (ft. Qwen, llama, Gemma)
Function Calling의 개념과 작동 원리를 설명하고, Qwen·Llama·Gemma로 구현 차이를 비교했습니다. LLM과 애플리케이션의 역할 분리 및 모델별 파싱 방식도 함께 정리했습니다.
#LLM#Function Calling
6900
CUDA OOM 해결 사례 공유 - PyTorch all_gather_object 의 비밀
데이터셋 로딩 중 발생한 CUDA OOM의 원인을 `all_gather_object` 내부 동작에서 찾았습니다. 데이터를 chunk로 나눠 gather하도록 바꿔 GPU 메모리 사용량을 줄였습니다.
#CUDA#PyTorch
3800