«Che modello usate?» è la domanda sbagliata da fare al fornitore di AI

Un modello AI da solo è «un cervello in un barattolo»: potentissimo e incapace di agire. Fra due prodotti costruiti sullo stesso modello la differenza la fa l imbracatura, cioè strumenti, memoria e loop di verifica. Guida a cosa state davvero comprando.

BlueSky Agent AI ·

Copertina editoriale BlueSky Agent AI: un modello da solo è un cervello in un barattolo

C'è una domanda che ricorre in quasi tutti i primi incontri con un'azienda che sta valutando l'AI. Arriva presto, di solito entro i primi dieci minuti, e ha il tono di chi vuole andare al sodo: «Voi che modello usate?»

È una domanda ragionevole, ed è quasi sempre quella sbagliata. Per anni chi lavora sul serio in questo settore ha avuto il problema di spiegare perché senza sembrare evasivo, visto che rispondere «dipende, li scegliamo di volta in volta» suona come una scappatoia.

Il 25 agosto IBM ha pubblicato la spiegazione migliore che sia stata data finora, condensata in un'immagine che vale la pena rubare: un modello AI da solo è un cervello in un barattolo. Potentissimo, e completamente incapace di fare qualsiasi cosa.

Il cervello nel barattolo

Immaginate un professionista straordinario, il migliore analista che abbiate mai incontrato, chiuso in una stanza bianca senza porte, senza telefono, senza documenti e senza memoria di quello che ha fatto ieri. Potete parlargli attraverso una fessura e vi risponde in modo brillante. Non può leggere il vostro bilancio, non può aprire il gestionale, non può mandare una mail, e domani non si ricorderà di voi.

Questo è un modello linguistico.

Tutto quello che trasforma quel cervello in qualcosa che lavora, cioè che apre un documento, ne estrae i dati, li confronta con il gestionale, prepara una risposta e se ne ricorda la settimana dopo, sta fuori dal modello. È quello che IBM chiama agentic harness, l'imbracatura, ed è l'imbracatura il vero prodotto. Per questo due software costruiti sullo stesso identico modello possono comportarsi in modo completamente diverso sul vostro lavoro reale.

Di cosa è fatta l'imbracatura

Chi valuta un fornitore dovrebbe saper riconoscere le tre parti che la compongono, perché è lì che si nasconde la differenza fra una demo che stupisce e un sistema che regge il lunedì mattina. Sono gli strumenti con cui l'agente tocca il mondo, la memoria che gli permette di non ricominciare da zero a ogni interazione, e il ciclo di lavoro dentro cui verifica quello che ha appena fatto.

1. Gli strumenti

Gli strumenti sono le mani: leggere e scrivere file, eseguire codice in un ambiente isolato, consultare una base dati, navigare, interrogare un'API, controllare un'interfaccia. Un agente senza strumenti può solo produrre testo, che è poi tutto quello che fa un chatbot.

La qualità non si misura in quantità di strumenti disponibili, ma in due cose meno appariscenti: quanto sono precisi i permessi (l'agente può leggere l'archivio o può anche cancellarlo?) e come sono collegati ai vostri sistemi, con uno standard aperto oppure con un formato proprietario che esiste solo dentro quella piattaforma.

2. La memoria

È il pezzo più sottovalutato. Un modello ha una finestra di contesto, uno spazio limitato dentro cui tiene quello di cui state parlando, e finito quello dimentica. Su un compito breve non si nota; su un processo aziendale che dura giorni e attraversa decine di documenti separa un assistente da un collega.

Gestire la memoria significa tre cose concrete: istruzioni persistenti, cioè le regole della vostra azienda che l'agente non deve ricevere ogni volta; compattazione del contesto, cioè riassumere quello che è già stato fatto senza perdere i vincoli; ricerca nei documenti, cioè recuperare il pezzo giusto al momento giusto invece di tenere tutto acceso. Un fornitore che non sa spiegare come gestisce questi tre punti vi sta facendo vedere una demo.

3. Il loop, con la verifica dentro

Il terzo pezzo separa "genera una risposta" da "porta a termine un compito". Il ciclo è pianifica, agisce, osserva il risultato, ripete, e il passaggio che conta è l'osservazione: a ogni giro l'agente controlla se quello che ha fatto ha funzionato, e in caso contrario riprova diversamente.

In un'imbracatura fatta bene la verifica sta dentro il ciclo, come test a ogni passo invece che come controllo a valle quando il danno è fatto. È la stessa logica per cui uno sviluppatore esperto non scrive mille righe e poi compila, ma compila ogni dieci.

L'umano nel loop non è un freno

Quando si dice che in un sistema agentico serve una persona nel loop, la reazione tipica è «quindi non è del tutto automatico», detta con una punta di delusione, come se fosse la prudenza di un fornitore pauroso in attesa che la tecnologia maturi.

Il controllo però è un componente del loop, non un freno applicato dall'esterno. L'imbracatura verifica continuamente, e sui passaggi dove la verifica automatica non è abbastanza affidabile, cioè tipicamente le azioni irreversibili, il punto di verifica è una persona.

Il criterio che stabilisce dove serve una persona è la reversibilità dell'azione, non il grado di fiducia nella tecnologia. Un agente che classifica una mail può sbagliare e si riclassifica. Un agente che emette una nota di credito, cancella un record, invia una comunicazione a un cliente o modifica un prezzo a listino non ha una seconda possibilità, e su quelle azioni la conferma umana è la progettazione corretta di un ciclo che deve poter essere corretto. Chi vi promette un agente che fa tutto da solo, azioni irreversibili comprese, vi sta offrendo un'imbracatura a cui manca il pezzo più importante.

Se l'imbracatura è il prodotto, il modello è la parte intercambiabile

Da qui discende la conseguenza economica. Il modello è potente, generico e disponibile da almeno cinque fornitori diversi a prezzi che cambiano ogni trimestre: legarsi a uno solo non ha una giustificazione tecnica. Ne ha una commerciale, che però è la giustificazione di chi vende. C'è poi il fatto che dentro un singolo processo agentico i compiti sono diversi fra loro. Pianificare un flusso complesso richiede capacità di ragionamento e costa. Estrarre tre campi da una fattura non la richiede e non dovrebbe costare. Riscrivere un testo in italiano corretto è un terzo mestiere ancora. Usare per tutti e tre lo stesso modello, il più costoso per sicurezza, significa pagare la Formula 1 per andare a fare la spesa.

Come funziona ModelMatch

ModelMatch è il motore di routing di BlueSky Agent AI: per ogni fase del processo sceglie il modello più adatto in base al tipo di compito, alla qualità richiesta e al costo. Il ragionamento complesso va sul modello che ragiona meglio, l'estrazione strutturata su uno piccolo e veloce, la generazione di testo su quello che scrive meglio in italiano. Nei progetti in produzione vale in media il 42% di costi in meno a parità di qualità del risultato finale.

Ma la parte che conta non è la percentuale: è che quella scelta non dovete farla voi, e non dovete rifarla ogni volta che esce un modello nuovo, cioè di questi tempi ogni tre settimane. Un'imbracatura ben costruita assorbe il cambiamento sottostante invece di scaricarvelo addosso. Alla domanda «che modello usate?», la risposta onesta è «quello giusto per ogni singolo passaggio, e lo decide il sistema».

Le domande giuste

Ecco cosa conviene chiedere al prossimo incontro. Sono domande a cui un fornitore serio risponde in trenta secondi, e su cui uno che vende fumo si impantana.

«A quali nostri sistemi si collega, con quali permessi, e chi decide quei permessi?» Verifica gli strumenti e il principio del privilegio minimo.

«Come fa a ricordarsi le regole della nostra azienda senza che gliele riscriviamo ogni volta?» Verifica la memoria e le istruzioni persistenti.

«Quali azioni può eseguire da solo e quali richiedono una conferma nostra, e chi ha deciso quella lista?» Verifica il loop e il criterio di reversibilità. La risposta giusta contiene la parola "irreversibile".

«Quando il sistema sbaglia, come ce ne accorgiamo?» Verifica la tracciabilità. Se la risposta è che il sistema non sbaglia, la riunione può finire lì.

«Il giorno in cui cambiate modello sotto, cosa succede al nostro sistema?» Verifica se state comprando un'architettura o un vincolo: la risposta giusta si misura in giorni e riguarda configurazione e test.

In sintesi

  • Un modello linguistico da solo non può leggere i vostri documenti, usare i vostri sistemi né ricordare quello che ha fatto ieri: IBM lo chiama un cervello in un barattolo.
  • Quello che lo rende utile è l'agentic harness, l'imbracatura, fatta di strumenti, memoria e un loop con la verifica al suo interno. Due prodotti sullo stesso modello possono comportarsi in modo del tutto diverso.
  • L'approvazione umana sulle azioni irreversibili è un componente del loop, e il criterio che la stabilisce è la reversibilità dell'azione, non la sfiducia nella tecnologia.
  • Dentro un singolo processo i compiti hanno bisogni diversi: usare ovunque il modello più costoso è il modo più semplice per pagare capacità che non servono.
  • Al fornitore conviene chiedere permessi e collegamenti, gestione della memoria, elenco delle azioni che richiedono conferma, tracciabilità degli errori e cosa succede il giorno in cui cambia il modello sottostante.

Per capire come sarebbe fatta l'imbracatura giusta per i vostri processi, parliamone: si parte sempre dal compito reale.

«Che modello usate?» è la domanda sbagliata da fare al fornitore di AI — BlueSky Agent AI