LLMOps를 위한 프롬프트 엔지니어링 도구 개발 경험기
LLMOps를 위한 프롬프트 엔지니어링 도구 개발 경험기
LLM 애플리케이션 개발에서 프롬프트 관리와 평가 반복의 어려움을 해결하기 위해 도구를 직접 개발한 경험을 공유했습니다. 프롬프트 버저닝, 테스트 데이터셋 관리, 평가를 통합해 개발과 의사결정을 단순화했습니다.
#LLM#prompt
39005분
새로운 기술 블로그가 추가되었어요
필터 1
AI 데이터 분석가 ‘물어보새’ 등장 – 2부. Data Discovery
물어보새의 Data Discovery 확장과 구현 방식을 소개했습니다. 베타 테스트를 바탕으로 질문 이해와 정보 획득 구조를 나눠 허위 생성을 줄이고 활용 범위를 넓혔습니다.
#LLM#Text-to-SQL
29005분
![[8월 1주차 위클리 업데이트] 이번 주 발표된 Google for Developers 최신 소식을 확인하세요! (Gemma 업데이트)](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjNGleuvh_5ifDsOtW0kzXLCkvY7XYc-F06GUikEOdMjiDeZsbnDjz7RhXeyMREp6l4AX_VrQECkz67VDXvH2KJwDtPG8qlSCJiMy9yu3ttxNDMKwl8e_ukSr63dHzE44eKCWEslxqyNog/s1600/lockup_google_developers_horizontal_knockout_wht.png)
[8월 1주차 위클리 업데이트] 이번 주 발표된 Google for Developers 최신 소식을 확인하세요! (Gemma 업데이트)
이번 주 Google for Developers 주요 소식을 제품별로 정리해 소개했습니다. Gemma와 Firebase App Hosting 등 최신 업데이트를 함께 확인할 수 있습니다.
#LLM#Gemma
6005분
AI-assisted Coding과 개발 생산성 향상 #1 (부제: 실리콘밸리 개발자가 바라보는 AI 생산성 툴 및 개발 방식의 변화)
AI-assisted Coding과 개발 생산성 향상 #1 (부제: 실리콘밸리 개발자가 바라보는 AI 생산성 툴 및 개발 방식의 변화)
AI 코딩 도구와 ChatGPT 기반 기능을 통해 개발 생산성이 어떻게 바뀌는지 소개했습니다. 동시에 저작권, 환각, 노동시장 영향 같은 생성형 AI의 우려도 함께 짚었습니다.
#GitHub Copilot#ChatGPT
24005분
BigQuery와 Gemini로 리뷰 분석 업무 자동화하기
BigQuery에서 Gemini Pro를 활용해 리뷰 요약과 분류, 홍보 문구 생성을 자동화하는 방법을 소개했습니다. JSON 응답, 배치 처리, RAI 결과 확인으로 정합성과 효율을 높이는 팁도 함께 다뤘습니다.
#BigQuery#Gemini
30005분
고성능 GPU 클러스터 도입기 #1: 요리하라고 해서 왔는데 프라이팬이 없어요
토스증권이 투자 분석용 LLM을 위해 자체 고성능 GPU 클러스터를 도입한 배경을 설명했습니다. 개인정보 보호, 비용 효율, 실시간성 제약과 GPU 운용상의 유의점을 함께 짚었습니다.
#LLM#GPU
24005분
언어 모델의 Fine-Tuning 성능 올리기
언어 모델의 Fine-Tuning 성능 올리기
언어 모델의 fine-tuning 성능을 높이는 LoRA, TAPT, DAPT, Adversarial Training을 소개했습니다. 대규모 전체 학습보다 비용과 효율을 고려한 적용 방향을 정리했습니다.
#LLM#fine-tuning
0005분
AI 데이터 분석가 ‘물어보새’ 등장 – 1부. RAG와 Text-To-SQL 활용
사내 데이터 활용 어려움을 해결하기 위해 AI 데이터 분석가 ‘물어보새’를 개발한 과정을 소개했습니다. RAG, Text-to-SQL, LLMOps를 결합해 쿼리 생성과 해설, 검증 기능을 고도화했습니다.
#LLM#RAG
34005분
[7월 2주차 위클리 업데이트] 이번 주 발표된 Google for Developers 최신 소식을 확인하세요!
Google for Developers의 7월 2주차 최신 개발자 소식을 한데 모아 소개했습니다. AI, Android, Firebase 관련 주요 업데이트와 문서 알림, 프로필 안내도 함께 담았습니다.
#LLM#ML
9005분
MLOps Community 오프라인 밋업을 준비하는 개발자의 기쁨과 슬픔
MLOps Community Seoul 오프라인 밋업을 준비한 organizer의 회고를 담았습니다.\nLLM 시대에 커뮤니티와 MLOps가 왜 중요한지, 행사 운영의 기쁨과 어려움을 함께 풀어냈습니다.
#MLOps#LLM
32005분
스팸 콘텐츠 대응을 위한 카카오의 대규모 언어 모델(LLM) 도입 사례 / 제6회 Kakao Tech Meet
X
#LLM#텍스트분류
18005분
시간은 금이다: LLM을 이용한 AI 코드 리뷰 도입기
시간은 금이다: LLM을 이용한 AI 코드 리뷰 도입기
LLM을 이용한 자동 코드 리뷰 도입 경험을 공유하는 발표입니다. 기업 사례, 아키텍처, 활용 방식과 향후 방향을 함께 다루었습니다.
#LLM#자동화
25005분