Python
Jak wdrożyć dowolny open-source'owy model AI z API OpenAI za pomocą jednego polecenia
OpenLLM pozwala wdrożyć dowolny open-source'owy model AI z kompatybilnym endpointem API w stylu OpenAI za pomocą jednego polecenia. Zbudowany na BentoML i vLLM.