

쿠버네티스로 여는 AI 추론 인프라
쿠버네티스와 AWS EKS를 활용해 LLM 추론 인프라를 안정적으로 운영하는 방법을 설명했습니다. 특히 KV 캐시를 고려한 라우팅과 prefill/decode 분리를 통해 성능과 비용을 함께 개선하는 흐름을 다뤘습니다.


쿠버네티스와 AWS EKS를 활용해 LLM 추론 인프라를 안정적으로 운영하는 방법을 설명했습니다. 특히 KV 캐시를 고려한 라우팅과 prefill/decode 분리를 통해 성능과 비용을 함께 개선하는 흐름을 다뤘습니다.
해외송금 디자인에서 수수료보다 큰 가치는 사용자의 불안을 줄이는 경험이라는 점을 발견했습니다. 인터뷰와 팀의 직접 경험을 통해 제품 기준을 바꾸고 송금 상태와 입력 과정을 단순화했습니다.
X


Rebellions는 AWS 기반 EDA 환경으로 NPU 개발의 병목인 실행 시간과 자원 확장 문제를 검증했습니다.\nLogic Simulation, DFT, Physical Design에서 온프레미스 대비 성능 개선과 운영 유연성을 확인했습니다.
![AWS 네트워크 데이터 전송 및 처리 요금, 아키텍처로 이해하기 [3부: VPC 간 연결과 하이브리드]](https://d2908q01vomqb2.cloudfront.net/2a459380709e2fe4ac2dae5733c73225ff6cfee1/2026/09/20/aws-networking-pricing-3-1120x630.png)

AWS 네트워크 요금을 연결 방식별로 비교하며 VPC 간 및 온프레미스 연동 비용 구조를 정리했습니다. 경로와 방향에 따라 달라지는 전송·처리 요금을 기준으로 설계 체크포인트를 제시했습니다.
![AWS 네트워크 데이터 전송 및 처리 요금, 아키텍처로 이해하기 [2부: 리전 안의 트래픽]](https://d2908q01vomqb2.cloudfront.net/2a459380709e2fe4ac2dae5733c73225ff6cfee1/2026/09/20/aws-networking-pricing-2-1119x630.png)

같은 리전 안에서 AZ 경계를 넘는 트래픽의 과금 규칙을 서비스별로 정리했습니다. NLB, RDS, ElastiCache, EKS에서 비용을 줄이는 설정과 관측 방법도 함께 설명했습니다.
쿠팡 파트너스
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
![AWS 네트워크 데이터 전송 및 처리 요금, 아키텍처로 이해하기 [1부: 요금 구조와 인터넷 경계]](https://d2908q01vomqb2.cloudfront.net/2a459380709e2fe4ac2dae5733c73225ff6cfee1/2026/09/20/aws-networking-pricing-1-1125x630.png)

AWS 네트워크 비용을 전송 요금과 처리 요금으로 나눠 정리했습니다.\n프라이빗 IP와 엔드포인트, CloudFront로 비용을 줄이는 방법도 함께 설명했습니다.


JVM 프로세스 안에 Python을 임베딩하는 Jep 도입 사례를 다루었습니다. 스레드 제약, GIL, 네이티브 라이브러리 경로 문제와 대응 방법을 정리했습니다.

인도 핀테크 업계의 최신 규제와 기술 흐름을 정리했습니다. UPI 기반 에이전틱 결제, AI 대출 심사, 수익성 중심 전환이 핵심이었습니다.


레거시 연동 수신 구간을 Inbox 패턴으로 바꾸고 Kafka 비동기 처리로 분리한 사례를 정리했습니다. 응답 시간 단축, 중복 방지, 장애 복구 자동화까지 실측으로 검증했습니다.


AWS DevOps Agent를 VPC 내부 서비스에 안전하게 연결하는 프라이빗 연결 설정 방법을 설명했습니다. 콘솔과 CLI 절차, DNS 해석, Grafana 연동과 운영 주의점까지 함께 정리했습니다.

AI Pick 카드 생성 품질을 높이기 위해 SFT 이후 정렬 학습과 평가 지표를 설계한 과정을 공유했습니다. 형식 검증기와 NLL 프록시로 선호 쌍을 만들고 DPO, GRPO로 품질과 형식을 함께 개선했습니다.


Airflow 3.x는 실행과 오케스트레이션을 분리하고, 시간 중심 스케줄링을 Asset·이벤트 중심으로 확장했습니다.\nDAG 버저닝과 `airflow.sdk`로 안정성과 추적성을 높이며 범용 워크플로우 플랫폼으로 이동했습니다.

AI로 키비주얼과 오프닝 필름을 만든 디자인 과정을 공유했습니다. 스토리보드와 프롬프트 정교화로 결과를 컨트롤한 방법을 설명했습니다.