Loading blogs...
Posts tagged Apple Silicon.
Meta Muse Glimmer นำตัวแทนท้องถิ่นที่ทำงานตลอดเวลามาสู่ GPU เดียวผ่าน Ollama: บริบท 30B, Apache 2.0, 128K, วิสัยทัศน์ และเครื่องมือ - คู่มือธุรกิจ Workstation
ฉันแกะกล่อง Mac Studio M4 Max ที่มีหน่วยความจำรวม 128 GB และคอร์ GPU 40 คอร์ ติดตั้ง Ollama รัน Llama 3.1 8B ในเครื่อง และสร้างไปป์ไลน์ RAG ส่วนตัว ทั้งหมดนี้อยู่ในกล่องข้างโต๊ะที่ไม่ได้ใช้งาน 6.48 W ที่ทำงานเงียบเพียงกล่องเดียว
Balinder Walia