FYI cini se da AI Max+ 395 leti sa polica zbog velike potraznje za HW koji moze pogoniti LLM-ove lokalno na nekom zadovoljavajucem nivou.
Mene iznenadjuje koliko je trziste lokalnih AI freakova koji kupuju Mac Studio M3 Ultra ili M4 Max da bi lokalno vrtili LLM-ove. AMD je pogodio sa ovim APU-om u sridu jer je duplo jeftiniji, a ima super ucinkovitost.
ex.
running gpt-oss-120b at >40tps and sipping power