Posts

All the articles I've posted.

• vLLM이란? 빠르고 효율적인 AI 추론을 위한 오픈소스 라이브러리

  16 Aug, 2025

  OS 가상 메모리 기법을 LLM 서빙에 활용한 PagedAttention 방식

• Long Context LLM (1): Pre-training부터 Post-training까지 data 전략

  10 Aug, 2025

  lost-in-the-middle 문제를 해결하는 방법

• LLaMA-Factory 초보자 가이드: 쉽게 시작하는 LLM 파인튜닝

  16 Mar, 2025

  입문자도 따라하는 GUI로 LLM 파인튜닝 하기

• 나만의 Chatbot APP 만들어보기: OPLS 활용

  30 Apr, 2023

  OPLS stack을 활용하여 나만의 Chatbot APP 만들기

• 2022년 회고: 밀도있는 성장

  31 Dec, 2022

  한 해를 마무리하며 작성한 글입니다.

• BentoML을 이용한 빠른 ML 모델 배포

  24 Dec, 2022

  ML 모델을 서비스할 때 사용되는 강력한 오픈 소스 툴킷