บล็อกของ Workstation
MLOps
บทความที่ติดแท็ก MLOps
การเปิดเผยจุดคอขวดของ LLM: ความสามารถในการสังเกต OTEL และการควบคุมต้นทุน
Workstation ในการเปิดเผยจุดคอขวดของตัวแทน LLM ที่มีการสังเกตได้: OpenTelemetry, Prometheus/Grafana/Thanos, Langfuse — พร้อมข้อดี/ข้อเสียที่ชัดเจน การยกระดับต้นทุน และตัวชี้วัดการใช้งานที่ปกป้องส่วนต่างกำไร
Balinder Waliaอ่าน 
เทอร์โบชาร์จเจอร์ LLMs
Workstation บนเทอร์โบชาร์จ LLMs: การเพจ PagedAttention สำหรับแคช KV, การให้บริการ vLLM, Self-Debugging สำหรับตัวแทน, อัตราโทเค็น PowerInfer และการตัดหน่วยความจำ EG-MLA — พร้อมข้อเสียด้านการผลิต
Balinder Waliaอ่าน 
ระบบดีปลิร์นนิง: บทสรุปทางเทคนิคสำหรับวิศวกรและเอเจนต์
บทสรุปทางเทคนิคของ Workstation เรื่องดีปลิร์นนิง: เครือข่ายลึกที่เทรนด้วยเกรเดียนต์ โมเดล discriminative กับ generative เมตริกงาน และ Bedrock กับ Kubernetes serving
Balinder Waliaอ่าน 
Kimi K3 และน้ำหนักเปิด: เอเจนต์แนวหน้าโดยไม่ล็อก API
Kimi K3 ผลักโมเดล open-weight เข้าสู่ดินแดนเอเจนต์แนวหน้า สิ่งที่เปลี่ยนสำหรับนักพัฒนา vLLM serving MCP และคำแนะนำ production จาก Workstation
Balinder Waliaอ่าน 
Amazon Bedrock, AgentCore, SageMaker & Q: เอเจนต์ใน Microsoft Teams
นำ Amazon Bedrock, Bedrock AgentCore, SageMaker และ Amazon Q ไปใช้ แล้วเปิดเอเจนต์ธุรกิจตัวแรกใน Microsoft Teams — พร้อม requirements เครื่องมือ และ time boxes
Balinder Waliaอ่าน 
Kubeflow + Argo CD: GitOps MLOps บน Kubernetes
จับคู่ Kubeflow กับ Argo CD สำหรับ MLOps บน Kubernetes: เทรนและลงทะเบียนโมเดลใน Kubeflow promote InferenceServices ด้วย GitOps ย้อนกลับด้วย git revert
Balinder Waliaอ่าน 
อธิบายโมเดลภาษาขนาดใหญ่: วิธีการทำงานของ LLM และวิธีเรียกใช้งานของคุณเองบน Kubernetes
โมเดลภาษาขนาดใหญ่คืออะไร และทำงานอย่างไร คำอธิบายที่ชัดเจนและไม่ใช่ด้านเทคนิคสำหรับผู้จัดการและวิศวกร เช่น โทเค็น การฝัง หม้อแปลง การฝึกอบรม และการอนุมาน รวมถึง Kubernetes YAML ที่ใช้งานจริงเพื่อปรับใช้ LLM ของคุณเองกับ Ollama และ vLLM
Balinder Waliaอ่าน