Intelligenza artificiale in locale, solo CPU – Crystal e l’arte del compromesso
Crystal, l’assistente AI di BoarDesign, gira in locale su sole CPU con Google Gemma 4 4B e Ollama: privacy totale e niente cloud. L’hardware modesto impone però dei vincoli, e serve un prompt engineering accurato per bilanciare prestazioni e funzionalità del modello.