Chủ đề: litellm

2 bài

· llm-tools / openrouter

LLM router tốt nhất 2026: OpenRouter, LiteLLM, Portkey

LiteLLM là LLM router self-hosted tốt nhất: P95 8ms, không phí mỗi request. OpenRouter dẫn đầu truy cập đa model tức thì. Đây là lựa chọn cho stack của bạn.

· llm / cost-optimization

LLM cost routing: khi nào Haiku thắng Opus và khi nào không

Chuyển 1M token phân loại từ Opus 4.7 sang Haiku 4.5 tiết kiệm $6.00 — giảm 80%. Đây là phân loại task, yếu tố latency, và các công cụ để triển khai.