Ora basta con la religione delle GPU. Microsoft ha appena lanciato bitnet.cpp, un framework open-source per l’inferenza di modelli LLM compressi a 1-bit, che gira interamente su CPU. Sì, quelle CPU che ci hanno sempre fatto sentire inferiori nei confronti dei monoliti Nvidia con i loro 800 watt di arroganza termica.
Non è una boutade per dev nostalgici del Commodore 64: è un cambio di paradigma. Una rivoluzione a 1-bit, ma con impatto da megaton.