

AI 학습을 위한 LLM 스터디 - 배치 전략 및 어텐션 개선 방안
LLM 추론 효율을 높이기 위한 배치 전략과 어텐션 개선 방법을 정리한 글입니다. FlashAttention, 페이지 어텐션, 추측 디코딩의 개념과 장점을 설명했습니다.


LLM 추론 효율을 높이기 위한 배치 전략과 어텐션 개선 방법을 정리한 글입니다. FlashAttention, 페이지 어텐션, 추측 디코딩의 개념과 장점을 설명했습니다.

Kubernetes Job으로 배치 작업을 클러스터에서 병렬 실행하도록 전환한 경험을 공유했습니다. 또한 커스텀 컨트롤러와 Kubebuilder로 순차 실행용 스케줄러를 구현한 방법을 설명했습니다.


회원 승급 작업을 수작업에서 AWS Batch 기반 자동화로 전환했습니다. Apache Kafka 도입으로 대용량 동기화 지연도 크게 줄였습니다.

카카오뱅크가 퍼블릭 클라우드에 펀드 시스템을 구축한 사례를 소개했습니다. Airflow로 금융 규제를 충족하며 배치 작업을 효율화한 과정을 다뤘습니다.
![[SpringBatch 연재 10] 스프링배치 플로우 컨트롤 하기](https://devocean.sk.com/thumnail/2024/11/29/20eb6934476f3b2a7a750153647d9f049eb9df33462a0b597ee5acfb5d95cf82.png)

Spring Batch의 Flow Controller로 Step 실행 순서와 분기 방법을 설명했습니다. next, on, from, stop을 이용해 조건별 배치 흐름을 구성하는 방법을 정리했습니다.
![[SpringBatch 연재 06] JpaPagingItemReader로 DB내용을 읽고, JpaItemWriter로 DB에 쓰기](https://devocean.sk.com/thumnail/2024/10/2/6fcf6f42a7137411e9966df3cba9520b9bbb7639fc4c76f85169f548440d0786.png)

Spring Batch에서 `JpaPagingItemReader`로 JPA 엔티티를 페이지 단위로 읽고 `JpaItemWriter`로 DB에 저장하는 방법을 소개했습니다. 또한 페이지 기반 처리의 누락 가능성과 JPA writer 설정상의 주의점도 함께 설명했습니다.

올리브영은 온라인몰과 물류센터 간 연계 방식을 EAI에서 MQ로 바꾸어 실시간성과 처리 성능을 높였습니다. 다만 큐 기반 구조라 조회와 검색에는 제약이 있다는 점도 함께 짚었습니다.
상품 상세 페이지의 실시간 뷰어 수 집계를 위해 Redis와 MongoDB를 비교했습니다. 성능은 Redis가 유리했지만 비용과 운영 복잡성까지 함께 검토해야 했습니다.
상품 상세에서 몇 명이 보고 있는지 실시간 집계하는 기능의 설계를 Redis와 MongoDB로 비교했습니다. 성능, 만료 처리, 운영 복잡도와 비용을 함께 고려해 선택 기준을 정리했습니다.
여행 플랫폼의 복잡한 API 연동에서 상세 페이지는 내결함성을, 실시간 예약은 최종 일관성과 멱등성을 중점으로 다뤘습니다. 타임아웃, fallback, 상태머신, 대사배치, 재시도와 보상 트랜잭션 같은 실전 대응 방법도 소개했습니다.
Debezium 기반 CDC 파이프라인의 운영 지표와 개선 방법을 정리한 글입니다. end-to-end 지연, 처리량, 확장성 개선으로 생성과 복구 시간을 줄인 사례를 소개했습니다.


올영 세일 기간의 주문·결제 안정성을 위해 모니터링과 알림, 배치 검증 체계를 운영한 사례입니다. 세일 이후 회고로 반복 오류를 줄이고 고객 경험 개선을 이어갔습니다.