Hive 채팅 시스템 구축기
Hive 채팅 시스템의 실시간 통신 구조와 라우팅, 부가기능 분리 전략을 정리했습니다. Netty, WebSocket, Akka, gRPC, Armeria를 활용한 설계 고민을 공유했습니다.
#Netty#WebSocket
30005분
필터 1
연간 LLM 호출 비용 25% 절감, 인턴이 도전한 시맨틱 캐싱 도입 기록
시맨틱 캐싱을 도입해 채팅 AI 메시지 추천의 LLM 호출 비용을 크게 줄인 사례를 소개했습니다. 오프라인과 온라인 검증을 통해 약 25% HIT 비율과 연간 2억 원대 절감 효과를 확인했습니다.
#LLM#cache
312005분
홈피드: 네이버의 진입점에서 추천 피드를 외치다! 추천 피드 도입 고군분투기
홈피드: 네이버의 진입점에서 추천 피드를 외치다! 추천 피드 도입 고군분투기
네이버 홈피드의 개인화 추천 구조와 랭킹 고도화 과정을 소개했습니다.\nLLM, 리트리버, 랭커를 활용해 클릭과 만족도, 다양성을 함께 개선했습니다.
#LLM#추천 시스템
133005분
AWS 클라우드 기반의 원격 스트리밍 프로토콜, Amazon DCV -1
Amazon DCV는 HPC on AWS의 시각화 레이어를 담당하는 원격 스트리밍 프로토콜로 소개했습니다. CAD/CAE 등 고성능 그래픽 작업을 클라우드와 온프레미스에서 안전하게 원격 제공하는 방법을 설명했습니다.
#AWS#HPC
26005분
MCP와 AI Agent가 싸운다: 당신의 설계는 안전한가?
MCP 서버와 AI 에이전트의 역할을 명확히 구분해야 한다는 설계 원칙을 정리했습니다. 실행 통제와 감사 가능성을 위해 별도 보안 계층이 필요하다고 설명했습니다.
#MCP#AI Agent
18005분
MCP와 AI Agent가 싸운다: 당신의 설계는 안전한가?
MCP 서버와 AI 에이전트의 역할을 분리해 보안 설계 원칙을 설명했습니다. 실행 통제와 감사 가능성을 위해 MCP Agent PAM 같은 보완 계층의 필요성을 강조했습니다.
#MCP#AI Agent
16005분
MCP와 AI Agent가 싸운다: 당신의 설계는 안전한가?
MCP 서버와 AI 에이전트의 역할을 분리해 설계해야 하는 이유를 설명했습니다. 실행 통제와 감사 가능성을 위해 MCP Agent PAM 같은 보안 계층도 함께 고려해야 합니다.
#MCP#AI Agent
54005분
실시간 OLAP을 위한 Apache Pinot 운영 노하우
Apache Pinot를 실시간 OLAP 용도로 도입해 운영하며 얻은 안정성·보안·DR 노하우를 정리했습니다. Upsert, Kafka 재개, Trino gRPC 등 실무에서 겪은 주의점과 대응 방법도 함께 소개했습니다.
#Apache Pinot#OLAP
65005분
MCP를 넘어 MCPS로: 엔터프라이즈 AI를 위한 보안 프로토콜의 필요성
MCP의 엔터프라이즈 보안 공백을 짚고, HTTP와 HTTPS의 사례를 바탕으로 MCPS라는 보안 프로토콜을 제안했습니다. 상호 인증, TLS 암호화, 인가, 감사 로깅을 핵심으로 보안 표준화 필요성을 설명했습니다.
#MCP#LLM
62005분
A. Auto 서비스를 위한 gRPC 기술 도입 이야기
차량 내 에이닷 서비스를 위해 OEM과 플랫폼 사이에 Auto Proxy 서버를 구축하고 gRPC를 도입했습니다. 양방향 스트리밍과 Protocol Buffers로 실시간 데이터 전송 효율을 높였습니다.
#gRPC#Protocol Buffers
89005분
A2A × MCP: 도구와 협업을 모두 잇는 AI 연결고리
Google의 A2A와 MCP가 각각 에이전트 협업과 도구 연결을 어떻게 담당하는지 설명했습니다. 두 프로토콜을 함께 써서 멀티 에이전트 AI 시스템의 실용성을 높이는 방향을 소개했습니다.
#MCP#A2A
70005분
Spark 5편 – Spark Connect
Spark의 원격 연동 한계를 보완하는 Spark Connect의 등장 배경과 동작 방식을 소개했습니다. 서버·클라이언트 환경을 구성해 Jupyter Notebook에서 실제 연결과 실행을 확인했습니다.
#Spark#Python
48005분