IBM ha presentato Granite 4.0, una nuova generazione di modelli linguistici open-weight progettati per essere più veloci, più economici e con una governance più solida rispetto ai sistemi di intelligenza artificiale convenzionali. Invece di puntare a una scala di trilioni di parametri, Granite 4.0 privilegia l'efficienza, il controllo e le prestazioni prevedibili, criteri fondamentali nel passaggio dai progetti pilota di IA alla produzione su scala aziendale. In particolare, Granite 4.0 è la prima famiglia di modelli open-weight ad aver ottenuto la certificazione ISO 42001 per la gestione responsabile dell'IA, a testimonianza dell'impegno a rendere i modelli aperti accessibili in ambienti regolamentati e attenti alla sicurezza.
Kate Soule, responsabile della gestione tecnica dei prodotti per il portafoglio di modelli di intelligenza artificiale di IBM, ha descritto Granite 4.0 come un insieme di elementi costitutivi pragmatici per i carichi di lavoro aziendali. In sostanza, modelli affidabili che scalano fino alla produzione, riducono i costi di esecuzione degli agenti e riducono l'attrito associato a implementazioni più ampie.
Ripensare l'architettura dell'intelligenza artificiale per adattarla alla scala del mondo reale
Il mercato si è orientato verso modelli di frontiera sempre più ampi, come OpenAI, Meta e Mistral. La controparte di IBM è che la maggior parte delle aziende, soprattutto quelle che gestiscono ambienti multi-tenant e con policy intensive, privilegia l'utilizzo, la governance e l'affidabilità operativa rispetto alle dimensioni. Granite 4.0 si basa su un'architettura ibrida che combina livelli di trasformazione con Mamba-2, un modello sequenziale più recente.
- Perché è importante: i Transformer offrono una qualità elevata, ma la loro capacità di calcolo e memoria si adattano approssimativamente al quadrato della lunghezza del contesto, rendendo costosi documenti lunghi e numerose sessioni simultanee. Mamba-2 si adatta linearmente alla lunghezza della sequenza, riducendo drasticamente la pressione sulla memoria.
- Il risultato: IBM segnala un utilizzo della memoria inferiore del 70-80% rispetto ai modelli basati solo su trasformatore, mantenendo al contempo throughput e qualità competitivi. Per i team che superano le prove di concetto, questo può fare la differenza tra una demo accattivante e un servizio pronto per la produzione con costi unitari sostenibili.
Soule ha definito l'approccio ibrido come una risposta diretta alle criticità aziendali: i progetti pilota si affidano spesso a modelli di grandi dimensioni che si rivelano troppo costosi o troppo fragili in fase di implementazione. Granite 4.0 è progettato per mantenere prestazioni elevate riducendo al contempo l'ingombro dell'hardware e i costi operativi.
Una famiglia di modelli ottimizzati per Enterprise ed Edge
Granite 4.0 viene fornito come un portafoglio mirato a diversi profili di distribuzione, dai cluster di inferenza dei data center ai dispositivi edge:
- Granito-4.0-H-Piccolo (ibrido, miscela di esperti): 32 miliardi di parametri con circa 9 miliardi di attivi per token. Posizionato come un cavallo di battaglia per le automazioni aziendali, tra cui supporto clienti, pipeline RAG e agenti multi-strumento che richiedono latenza costante e conformità alle policy.
- Granito-4.0-H-Tiny: 7B parametri con ~1B attivi.
- Granito-4.0-H-Micro: Parametri 3B. Sono progettati per scenari edge e agenti specifici per attività in cui sono essenziali un avvio rapido, requisiti di memoria contenuti e costi di inferenza prevedibili.
- Granito-4.0-Micro: Modello denso 3B con un'architettura di trasformazione convenzionale basata sull'attenzione per adattarsi a piattaforme e comunità che non supportano ancora architetture ibride.
- Granito-4.0-D-3B (trasformatore denso): Un'opzione convenzionale basata solo su un trasformatore per i team che preferiscono architetture standard e compatibilità degli strumenti.
|
Granito-H-Piccolo |
Granito-H-Tiny |
Granito-H-Micro |
Granito-Micro |
|
| Tipo di architettura | Ibrido, miscela di esperti | Ibrido, miscela di esperti | Ibrido, denso | Tradizionale, denso |
| Modello Dimensioni | 32B parametri totali
9B parametri attivati |
7B parametri totali
1B parametri attivati |
3B parametri totali | 3B parametri totali |
| Destinazione d'uso | Modello di cavallo di battaglia per attività aziendali chiave come RAG e agenti | Progettato per applicazioni a bassa latenza, edge e locali e come elemento costitutivo per eseguire rapidamente attività chiave (come la chiamata di funzioni) all'interno di flussi di lavoro agentici | Progettato per applicazioni a bassa latenza, edge e locali e come elemento costitutivo per eseguire rapidamente attività chiave (come la chiamata di funzioni) all'interno di flussi di lavoro agentici | Opzione alternativa per gli utenti quando il supporto Mamba2 non è ancora ottimizzato (ad esempio llama.cpp, PEFT, ecc.) |
| Requisiti di memoria (8 bit) | 33 GB | 8 GB | 4 GB | 9 GB |
| Esempio di hardware | NVIDIA L4OS | RTX 3060 12GB | Raspberry Pi 8 GB | RTX 3060 12GB |
IBM evidenzia vantaggi pratici in termini di ingombro, come il modello a 3B parametri con un contesto di 128K token, che funziona con una precisione di 8 bit e può contenere circa 4 GB di memoria. È sufficientemente leggero per i laptop degli sviluppatori e persino per dispositivi con limitazioni come il Raspberry Pi. IBM prevede anche varianti "Nano" con meno di 300 milioni di parametri per espandere l'edge indirizzabile.
La strategia del portafoglio è semplice e offre agli sviluppatori soluzioni personalizzabili e leggere che facilitano una rapida iterazione, offrendo al contempo ai dirigenti chiari indicatori di fiducia, governance e prontezza operativa.
Costruire la fiducia nei modelli aperti
Granite 4.0 è posizionato per differenziarsi tanto in termini di governance quanto di efficienza:
- ISO 42001 per un'IA responsabile: Granite è la prima famiglia di modelli open-weight ad aver ottenuto questa certificazione, a seguito di un audit esterno dei processi di formazione, test e governance dei dati di IBM. Per molti acquirenti, questo stabilisce una base di conformità per l'adozione di modelli open in ambienti sensibili.
- Firma crittografica: Tutti i checkpoint Granite 4.0 su Hugging Face sono firmati crittograficamente per verificarne la provenienza e l'integrità, riducendo il rischio per la catena di fornitura.
- Modello di sicurezza coordinato: IBM ha lanciato un programma bug bounty con HackerOne per incoraggiare test esterni e una divulgazione responsabile delle vulnerabilità dei modelli e dei problemi di sicurezza.
Le aziende hanno da tempo bilanciato la flessibilità dell'open source con le preoccupazioni relative a sicurezza e responsabilità. La posizione di IBM è che la certificazione ISO, gli artefatti verificabili e i test incentivati, insieme, aumentano la fiducia che i modelli open-weight possano essere implementati in modo sicuro senza sacrificare il controllo.
Valutazioni tecniche
- Profilo di memoria e TCO: L'approccio ibrido trasformatore + Mamba-2 può comprimere i budget di memoria del 70-80% rispetto ai peer dotati solo di trasformatore, consentendo una maggiore concorrenza e costi infrastrutturali ridotti per lo stesso SLA.
- Economia degli agenti: Costi inferiori per token e per sessione possono modificare sostanzialmente la fattibilità delle automazioni basate su agenti e dei sistemi RAG, soprattutto quando le finestre di contesto si estendono a 128 token o più.
- Base di governance: La norma ISO 42001, insieme ai punti di controllo firmati e a un programma di premi pubblici, contribuisce a creare una situazione verificabile per i team addetti agli acquisti, alla gestione del rischio e alla conformità.
- Ampiezza di distribuzione: Dai piani MoE da 32B ai piani Nano densi da 3B e inferiori a 1B, la gamma supporta tutto, dall'orchestrazione dei data center all'inferenza edge, con un percorso per unificare gli stack di sviluppo/test/produzione su modelli più piccoli ed efficienti.
Impact
Granite 4.0 rappresenta l'approccio di IBM all'intelligenza artificiale aziendale incentrato sull'efficienza, con pesi aperti con guardrail di produzione, un'architettura ibrida ottimizzata per carichi di lavoro a lungo contesto e orchestrazione multi-agente, e un approccio basato sulla certificazione per la fiducia. Per le organizzazioni che danno priorità a implementazioni gestite, latenza prevedibile e costi di servizio sostenibili, Granite 4.0 offre un'alternativa pratica ai modelli di frontiera più grandi, progettata per essere scalabile.
Amazon