그 많던 토큰은 누가 다 먹었을까
그 많던 토큰은 누가 다 먹었을까
에이전트형 도구에서는 프롬프트보다 도구 출력과 대화 기록이 토큰을 더 많이 소모했습니다. 필요한 정보만 사전 필터링하고 작업 범위를 좁히는 방식으로 컨텍스트를 관리해야 했습니다.
#LLM#MCP
2005분
필터 1
포스코DX의 엔지니어링 암묵지를 AI가 활용할 수 있는 지식 자산으로 전환하기
포스코DX의 엔지니어링 암묵지를 AI가 활용할 수 있는 지식 자산으로 전환하기
포스코DX는 현장 암묵지를 AI가 활용할 수 있는 지식 자산으로 전환하는 PoC를 진행했습니다.\nGraphiti와 Amazon Bedrock 기반 지식 그래프로 설계 규칙을 구조화하고, 검색과 추론까지 자동화했습니다.
#LLM#RAG
5005분
왓챠 직원 누구나 AI 앱을 만들 수 있게 된 이유
왓챠 직원 누구나 AI 앱을 만들 수 있게 된 이유
왓챠는 ADP를 구축해 비개발 직군도 AI 앱을 직접 만들고 배포할 수 있는 환경을 마련했습니다. 데이터 접근, 보안, 배포 속도 문제를 해결해 사내 생산성을 높였습니다.
#LLM#MCP
2005분
하나투어의 Amazon Neptune과 Amazon Bedrock AgentCore를 활용한 여행상품 기획 에이전트 구축기
하나투어의 Amazon Neptune과 Amazon Bedrock AgentCore를 활용한 여행상품 기획 에이전트 구축기
하나투어는 Amazon Neptune 기반 GraphRAG와 Bedrock AgentCore로 여행상품 기획 에이전트를 구축했습니다. 수작업 초안 시간을 2~3일에서 2~3분으로 줄이고, 관계 기반 그라운딩으로 환각을 낮췄습니다.
#Amazon Neptune#Amazon Bedrock
0005분
전문가를 넘어선 AI – 5G vRAN 추론 코드 자동 생성을 위한 Multi-Agent 컴파일러
전문가를 넘어선 AI – 5G vRAN 추론 코드 자동 생성을 위한 Multi-Agent 컴파일러
5G vRAN의 초저지연 제약을 맞추기 위해 추론 코드를 자동 생성하는 Multi-Agent 컴파일러를 다뤘습니다. 기존의 수동 SIMD 최적화 C++ 작성 방식의 한계를 짚었습니다.
#LLM#C++
0005분
AI 시대에 테스트 코드를 잘 쓰는 기준이 달라진다.
AI 시대에 테스트 코드를 잘 쓰는 기준이 달라진다.
AI 협업 시대에는 테스트 코드가 미래 세션의 AI가 읽는 실행 가능한 프롬프트라는 관점이 중요합니다. @DisplayName과 실패 케이스로 비즈니스 의도를 남기고, 인간 검토와 교차 검증으로 맥락을 보완했습니다.
#test#Claude
2005분
Amazon Bedrock AgentCore로 구축하는 AgentOps (1): 파운데이션과 게이트웨이
Amazon Bedrock AgentCore로 구축하는 AgentOps (1): 파운데이션과 게이트웨이
에이전틱 AI를 프로덕션에 올리기 위한 AgentOps와 파운데이션, 게이트웨이 패턴을 소개했습니다. Amazon Bedrock AgentCore로 모델, 도구, 에이전트 접근을 통합하는 방법을 설명했습니다.
#AWS#LLM
0005분
말하지 않고 만들었다 — AX를 코드로 구현한 6개월의 기록
말하지 않고 만들었다 — AX를 코드로 구현한 6개월의 기록
6개월간 AX를 실제 시스템과 코드로 구현하며 얻은 경험을 정리했습니다. 모델 교체, 검수 분리, 데이터 정제, 승인 레일 등 운영 교훈을 공유했습니다.
#LLM#DB
5205분
AI 에이전트 회사 차리기: 설립부터 어디서든 동기화까지
AI 에이전트 회사 차리기: 설립부터 어디서든 동기화까지
AI 에이전트로 가상의 회사를 구성하고 어디서든 같은 목표로 일하게 만드는 NaverMadCat 사례를 소개했습니다. 플랫폼 구조, 자동화, 동기화, 운영 방식과 실전 시나리오를 함께 다뤘습니다.
#LLM#Claude
0005분
어피닛, 모든 직원을 AI 빌더로 변화시키는 방법
어피닛, 모든 직원을 AI 빌더로 변화시키는 방법
직원들이 AI 도구로 직접 문제를 해결하는 빌더 문화와 해커톤 사례를 소개했습니다. 현업 지식과 기술 협업으로 실제 운영 병목을 해결하는 방향을 강조했습니다.
#자동화#LLM
0005분
시그니처를 넘어 행위 기반으로: 지능형 변형 공격을 막는 다층 보안 아키텍처
시그니처를 넘어 행위 기반으로: 지능형 변형 공격을 막는 다층 보안 아키텍처
생성형 AI 기반 변형 공격이 기존 시그니처 방어를 빠르게 우회하는 한계를 짚었습니다. 정상 행위를 학습하는 이상 탐지와 WAF의 다층 방어 체계가 대안으로 제시되었습니다.
#LLM#WAF
0005분
AI와 코드 사이: 이미지 한 장을 편집 가능한 레이어로 되돌리기
AI와 코드 사이: 이미지 한 장을 편집 가능한 레이어로 되돌리기
이미지 분해에서 분석과 실행을 분리해 원본 픽셀을 보존하는 파이프라인을 설계했습니다. WebGPU와 로컬 AI를 활용해 비용과 속도를 함께 개선했습니다.
#WebGPU#LLM
0005분