ML감자
RSS FeedAI/ML 엔지니어의 기술 블로그입니다. LLM, MLOps, 딥러닝 등 AI 엔지니어링 경험과 학습 내용을 기록합니다.
Social Links:
Recent Posts
-
vLLM이란? 빠르고 효율적인 AI 추론을 위한 오픈소스 라이브러리
OS 가상 메모리 기법을 LLM 서빙에 활용한 PagedAttention 방식
-
Long Context LLM (1): Pre-training부터 Post-training까지 data 전략
lost-in-the-middle 문제를 해결하는 방법
-
LLaMA-Factory 초보자 가이드: 쉽게 시작하는 LLM 파인튜닝
입문자도 따라하는 GUI로 LLM 파인튜닝 하기
-
나만의 Chatbot APP 만들어보기: OPLS 활용
OPLS stack을 활용하여 나만의 Chatbot APP 만들기
-
2022년 회고: 밀도있는 성장
한 해를 마무리하며 작성한 글입니다.
-
BentoML을 이용한 빠른 ML 모델 배포
ML 모델을 서비스할 때 사용되는 강력한 오픈 소스 툴킷