

Amazon SageMaker로 LLM 응답 Streaming 서빙하기
Amazon SageMaker 기반 LLM을 토큰 단위로 스트리밍 서빙하는 구성을 소개했습니다. Lambda Function URL과 CloudFront를 조합해 응답 스트리밍을 구현하는 방법을 설명했습니다.
새로운 기술 블로그가 추가되었어요


Amazon SageMaker 기반 LLM을 토큰 단위로 스트리밍 서빙하는 구성을 소개했습니다. Lambda Function URL과 CloudFront를 조합해 응답 스트리밍을 구현하는 방법을 설명했습니다.


LLM이 다른 LLM의 응답 품질을 평가하는 LLM-as-a-Judge 방법을 소개했습니다. 프롬프트를 단순화하고 평가 이유를 요구하면 인간 평가와의 일치도가 크게 높아졌습니다.

X


SKT의 개인화 보이스 생성 기술을 Instant, Custom, Professional 세 가지 방식으로 소개했습니다. 소량의 음성만으로도 맞춤형 음성을 만들 수 있으며, 목적에 따라 속도와 품질을 선택할 수 있습니다.


고객 생일에 맞춘 감성 MMS를 Claude와 Adobe Firefly로 제작한 사례를 소개했습니다. 83% 만족 결과와 함께 데이터 분석, 프롬프트 설계, 검수 과정을 함께 다뤘습니다.


에이닷의 LLM 품질 평가 자동화와 SPeCTRA 기준 도입 사례를 소개했습니다. 사람 평가와 자동 평가를 병행해 QA 효율과 모델 개선 주기를 높였습니다.


LoRA를 SDXL로 옮길 때 생기는 호환성 문제를 X-Adapter로 완화하는 방법을 소개했습니다. 기존 LoRA 자산을 재학습 없이 활용하는 방향을 설명했습니다.


ICML 2024에서 발표한 이상탐지 연구와 현장 경험, LLM 관련 주요 동향을 함께 정리했습니다.\n라벨 없는 데이터의 이상탐지 알고리즘과 alignment·효율화·in-context learning 흐름을 간단히 소개했습니다.

SK플래닛의 GitHub Copilot 활용 사례와 생산성 실험 결과를 정리한 글입니다. 코드 생성, 리팩터링, 테스트, 데이터 처리에서의 효과와 유의사항을 함께 다루었습니다.


LLM 기반 AI 플랫폼에서 LangChain을 활용한 RAG 구성 방법을 소개합니다. RAG 파이프라인을 어떻게 구성하고 적용할지 다룹니다.
![[신청 시작] 8월 우아한테크세미나: 생성AI로 똑똑하게 일하는 법](https://techblog.woowahan.com/wp-content/uploads/2021/06/screenshot.jpg)

8월 우아한테크세미나의 신청 안내와 세션 구성을 소개했습니다. 생성형 AI 활용법과 로컬 LLM 사례를 중심으로 발표 내용을 예고했습니다.
![[8월 3주차 위클리 업데이트] 이번 주 발표된 Google for Developers 최신 소식을 확인하세요! (Gemini 모바일 AI 어시스턴트 기능 제공)](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjNGleuvh_5ifDsOtW0kzXLCkvY7XYc-F06GUikEOdMjiDeZsbnDjz7RhXeyMREp6l4AX_VrQECkz67VDXvH2KJwDtPG8qlSCJiMy9yu3ttxNDMKwl8e_ukSr63dHzE44eKCWEslxqyNog/s1600/lockup_google_developers_horizontal_knockout_wht.png)
Google for Developers의 8월 3주차 주요 업데이트를 분야별로 정리해 소개했습니다. Gemini, Gemma, Android, Google Play, 보안 관련 최신 소식을 함께 확인할 수 있습니다.