
Chat DIC 프로젝트에서 AWS Bedrock Prompt Caching으로 성능 최적화하기
AWS Bedrock Prompt Caching으로 Chat DIC의 반복 프롬프트 재계산을 줄이고 응답 지연과 Throttling을 개선했습니다. 또한 system과 tools 문맥을 캐싱해 평균 응답 시간을 단축하고 비용도 절감했습니다.
새로운 기술 블로그가 추가되었어요

AWS Bedrock Prompt Caching으로 Chat DIC의 반복 프롬프트 재계산을 줄이고 응답 지연과 Throttling을 개선했습니다. 또한 system과 tools 문맥을 캐싱해 평균 응답 시간을 단축하고 비용도 절감했습니다.


AI 모델 개발에서 GPU를 효율적으로 쓰기 위한 HPC의 필요성과 기본 구성요소를 설명했습니다. Slurm, 공유 스토리지, 컨테이너를 통해 대규모 학습 환경을 일관되게 운영하는 방법을 소개했습니다.


GraphQL 기반 BFF의 역할과 프론트엔드 활용 사례를 설명했습니다. Apollo Client 캐싱 문제와 BFF 도입 시 고려할 점도 함께 정리했습니다.


RAG 시스템에서 문서 전처리가 검색 정확도를 좌우한다는 점을 설명했습니다. HTML, PDF, Excel, 이미지별로 적절한 정제와 로더 선택 방법을 정리했습니다.


셀러팀이 ChatGPT와 Cursor로 반복 업무와 데이터 분석을 자동화한 사례를 소개했습니다. 주간 지표 처리와 파일 생성 시간을 크게 줄이며 내부 툴로 확장하고 있습니다.

당근페이는 이용내역 개편을 위해 서버 드리븐 UI에서 클라이언트 주도 구조로 전환하고 GraphQL을 도입했습니다. 단계적 마이그레이션과 명확한 스키마 원칙으로 안정성과 확장성을 함께 확보했습니다.


자동발주 예측 품질을 높이기 위해 품절률 급등 원인을 분석하고 권고발주를 자동발주로 점진 전환했습니다. TFT와 분위수 예측을 적용해 행사와 Capacity 변화에 더 잘 대응하며 품절률과 RMSE를 개선했습니다.
토스페이먼츠가 20년 레거시 결제 시스템을 현대적 아키텍처로 개편한 과정을 소개했습니다. 점진적 전환과 표준화, 자동화로 안정성과 성능을 함께 끌어올렸습니다.

OpenAI Academy의 메뉴 구조와 역할별 학습 트랙을 빠르게 살펴본 글입니다. ChatGPT 활용, GPT-5 자료, Builders 리소스를 실무 관점에서 소개했습니다.


AI 에이전트 성능이 프롬프트 중심에서 컨텍스트 엔지니어링 중심으로 이동하는 흐름을 정리했습니다. ACE의 구조와 델타 업데이트 방식으로 컨텍스트 붕괴를 줄이는 접근을 소개했습니다.


Trino는 빠른 실시간 분석과 멀티 소스 조인에 적합하고, Spark는 대규모 배치와 ETL에 유리하다고 설명했습니다. 두 엔진을 역할 분담하는 하이브리드 전략과 Trino의 운영 한계도 함께 정리했습니다.
지번주소와 도로명주소의 구조, 표기 방식, 코드 체계를 정리했습니다.\n주소 데이터를 표준화해 위치 기반 서비스에 활용하는 방법을 설명했습니다.