Axolotl

Axolotl은 무료 오픈소스 LLM 파인튜닝 프레임워크다. LoRA·QLoRA, 양자화 인지 학습(QAT), GRPO 같은 강화학습, 텍스트 확산 학습 등을 지원한다. 멀티 GPU·멀티 노드에서 FSDP2, 컨텍스트·텐서·전문가 병렬화를 조합해 큰 모델을 학습할 수 있다. 학습한 모델을 GGUF로 내보내 llama.cpp·Ollama에 배포할 수 있다.

• LoRA·QLoRA 파인튜닝(단일 GPU 메모리보다 큰 모델의 FSDP2 QLoRA 로딩)
• 양자화 인지 학습(QAT)
• GRPO 등 강화학습(비동기 GRPO)
• N-D 병렬화(컨텍스트·텐서·FSDP 조합)
• 텍스트 확산 모델 학습
• GGUF 내보내기(llama.cpp·Ollama 배포)
• 신규 모델 지원 수시 추가

• MLOps 및 학습 분야 AI 45개 가운데 하나예요.
• 다른 도구와 연결된 수 3개 — 같은 분야에서 38위예요.