برچسب: سرویس‌دهی مدل

استنتاج LLM در عصر Cloud-Native

به گزارش از وبسایت cncf انجمن Volcano، از پروژه‌های برجسته CNCF، با خوشحالی از راه‌اندازی Kthena — پروژه فرعی جدیدی...

استقرار و ارزیابی vLLM با GuideLLM در kubectl patch

کلیدواژهٔ اصلی این مقاله kubectl patch است و در طول مقاله به توضیح بوتی و نحوهٔ استفاده از آن در...