Локално AI - homelab


За тия пари трябва да си продаде някой органите :) но сетъпа е добър... Иначе няма нужда да е толкова голям локал :) при мен за дев оркестратора е локал подава само каквото е нужно и си пазим всичко за дев процеса в локална памет - след време ще мога лесно да сменям модели провайдъри и тнтн...

А за сисадмин work са важни резултатите на Терминал Бенч например Qwen3.8-Flash-Next който върви на един DGX Spark се предстаяя доста добре :) чакам NVFP4 версия и да видим :)

Screenshot from 2026-09-01 21-27-25.png
 

Горе