Salta al contenuto

Serverless, on-prem o edge: dove far girare i workload?

Tre modelli di deployment: paghi a esecuzione nel cloud, possiedi l'infrastruttura in casa, o porti il calcolo vicino ai dati.

Sono i tre modelli di deployment tra cui oggi si sceglie, e la scelta è tornata interessante proprio per via dell'AI. Serverless: il codice gira nel cloud solo quando serve e paghi a esecuzione, senza gestire server. On-prem: l'infrastruttura è tua, nei tuoi locali o in un data center che controlli. Edge: il calcolo sta vicino a dove nascono i dati, in stabilimento, in negozio, sul dispositivo. La scelta tra i tre non è mai puramente tecnica: dietro c'è sempre una domanda su quanto un carico di lavoro è prevedibile, quanto conta la velocità di risposta, dove i dati possono legalmente risiedere e quali competenze operative un team ha davvero in casa. È proprio l'ondata di carichi AI, spesso costanti e ad alto volume, a rendere di nuovo attuale un confronto che molte aziende consideravano chiuso da tempo, dopo anni in cui il cloud pubblico sembrava l'unica risposta sensata.

Leggi anche: Cloud repatriation · Il rientro selettivo di workload dal cloud pubblico verso on-premise o ambienti ibridi, per costi e controllo. Una decisione FinOps, non una ritirata.

I criteri che decidono davvero

Quattro assi. Il profilo di carico: il serverless eccelle su carichi intermittenti e imprevedibili (paghi zero quando non gira), mentre un carico costante e pesante, tipico dell'inferenza AI ad alto volume, su serverless può costare più dell'infrastruttura dedicata: è una delle molle della cloud repatriation. La latenza: se la risposta deve arrivare in millisecondi accanto alla linea di produzione, l'edge non ha rivali. I dati: requisiti di residenza, sovranità e riservatezza spingono on-prem o edge (i dati non lasciano il perimetro), tema che il CLOUD Act ha reso concreto. Le persone: l'on-prem richiede competenze operative che il serverless elimina; sottovalutarlo è l'errore più costoso dei confronti fatti solo sul listino.

La risposta onesta

Quasi nessuna azienda seria è al 100% su uno dei tre: la norma è l'ibrido, deciso workload per workload. Un pattern ricorrente nell'AI aziendale: prototipi e picchi su serverless, inferenza costante su infrastruttura dedicata (cloud o on-prem, coi conti FinOps in mano), e modelli piccoli in edge dove latenza o riservatezza lo impongono. La domanda giusta non è "quale modello vince" ma "questo workload, con questo profilo di carico, questi dati e questo team, dove costa meno e rischia meno?".

  • Cloud repatriation · Il rientro selettivo di workload dal cloud pubblico verso on-premise o ambienti ibridi, per costi e controllo. Una decisione FinOps, non una ritirata.
  • FinOps · La pratica che porta responsabilità economica nel cloud: ogni team vede, capisce e ottimizza i costi di ciò che fa girare.
  • Inferenza · L'uso di un modello AI già addestrato per produrre risposte: ogni domanda a ChatGPT è inferenza, ed è dove oggi si concentrano i costi.
  • CLOUD Act · Legge USA che obbliga i provider americani a consegnare i dati su ordine delle autorità statunitensi, anche se conservati in Europa.
  • Hosting web · Lo spazio su un server che rende un sito raggiungibile online. La scelta giusta dipende da traffico, competenze interne e dove finiscono i dati.

Vedi nell'universo

Se l'AI ti serve in produzione, non in una demo, è il mio lavoro.

VEDI INTEGRAZIONI AI

Oppure scrivimi.