Python
So stellen Sie jedes Open-Source-KI-Modell mit der OpenAI-API in einem Befehl bereit
OpenLLM ermöglicht es Ihnen, jedes Open-Source-KI-Modell mit einem OpenAI-kompatiblen API-Endpunkt in einem einzigen Befehl bereitzustellen. Basiert auf BentoML und vLLM.