EP37 - Unicorn Files - CAST AI: dall’automazione Kubernetes al GPU marketplace

Come CAST AI è passata dal tagliare il conto cloud del 50% o più all'lanciare OMNI Compute, un marketplace GPU multi-cloud: 2.100 clienti, Serie C da 108 milioni di dollari e valutazione superiore a 1 miliardo di dollari. La storia del più interessante pivot da infrastruttura cloud a infrastruttura AI dell'ecosistema europeo.

Fondata nel 2019 a Miami da un team di ex-Google, Lyft e Booking.com, CAST AI nasce come piattaforma di ottimizzazione automatica dei costi Kubernetes: analizza i cluster in tempo reale, sceglie automaticamente le istanze spot più economiche con fallback sulle on-demand, esegue rightsizing delle risorse e autoscaling aggressivo. Il risultato medio per i clienti è una riduzione del 50-70% del costo cloud senza intervento manuale — un ROI così ovvio da rendere la vendita quasi automatica.

Con l'esplosione della domanda GPU per l'AI, CAST AI ha visto un'opportunità adiacente: applicare la stessa logica di ottimizzazione e orchestrazione alle GPU, risorsa drammaticamente più costosa e scarsamente disponibile. OMNI Compute è il marketplace che aggrega capacità GPU da AWS, GCP, Azure, Lambda Labs e datacenter specializzati in un'unica interfaccia, con scheduling intelligente e ottimizzazione dei costi per training e inference. In questo episodio analizziamo la doppia transizione — prodotto e mercato — e i rischi di compliance UE legati alla gestione distribuita dei modelli AI.

• Rightsizing/autoscaling e Spot con fallback: cosa significa davvero ‘automazione’ in Kubernetes
• GPU come risorsa fungibile: impatto GTM, metriche e rischi di compliance UE