タグ: vLLM

多様なAIのモデルやインフラのニーズが高まる中で、OSSの推論エンジン「vLLM」への注目が高まる。Neural MagicのCEOを務め買収でレッドハットのAI CTOに就任したブライアン・スティー...