

고등학생도 이해하는 Transformer (Deep Learning) #3
그래픽스의 Affine 변환을 내적과 매트릭스 연산으로 설명했습니다. 내적의 의미를 이해하면 Transformer와 다차원 공간을 더 쉽게 볼 수 있다고 강조했습니다.
새로운 기술 블로그가 추가되었어요


그래픽스의 Affine 변환을 내적과 매트릭스 연산으로 설명했습니다. 내적의 의미를 이해하면 Transformer와 다차원 공간을 더 쉽게 볼 수 있다고 강조했습니다.


멀티모달 LLM의 대표 아키텍처와 instruction tuning, RLHF 계열 정렬 기법을 정리했습니다. LLaVA 기반 사례와 데이터셋 구성을 함께 살펴볼 수 있습니다.


Transformer와 딥러닝을 이해하기 위한 기초로 내적의 의미를 그래픽스 예시로 설명했습니다. 회전 행렬과 Basis Vector 변환을 통해 좌표 변환을 직관적으로 풀어냈습니다.


Vision Transformer의 기본 구조와 핵심 임베딩 요소를 중심으로 동작 원리를 정리했습니다. 또한 CNN 대비 장단점과 대규모 사전학습의 필요성도 함께 설명했습니다.


RoPE 기반 LLM의 context length를 늘리는 Position Interpolation 방법을 소개했습니다. 제한 범위를 넘어갈 때의 attention score 폭발을 줄이고, 적은 finetuning으로 성능을 유지한 결과를 다뤘습니다.


내적을 벡터의 유사도와 투영으로 설명하며 딥러닝 이해의 기초 개념으로 풀어냈습니다. 코사인 값과 그림자 비유를 통해 Transformer와 GPU 연산의 직관을 제시했습니다.


장바구니 바텀시트에 맞는 보완재 추천 모델을 개발하고, NPMI 정제와 셔플링 후처리로 추천 품질을 개선했습니다. A/B 테스트에서 전환과 담은 상품 수, 금액이 유의미하게 상승해 실제 서비스에 적용했습니다.

콴다는 AI 디지털 교과서를 위해 OCR, 문제 분류, 해설 생성, 성취도 분석 기술을 결합했습니다. 이를 통해 학생별 맞춤형 학습과 교육 격차 해소를 목표로 했습니다.