NImagadir manga bitta narsa juda ham yoqdi ko'rganimda…
Bu esa bir nechta mac mini yordamida LLM uchun uyda cluster yasash (
source)
Agar manda ortiqcha $1 400 x 8 = $11 200 pulim bo'lsa, man kotta ehtimol bilan baribir shunaqa kotta cluster qilmayman 😁
Lekin local LLM g'oyasi manga juda ham yoqadi. Mening 18GB MBP shunchaki kotta modellarni ishlatishga to'g'ri kelmaydi