Cloudflare offre agli agenti AI un PC virtuale nel cloud

Gli sviluppatori di agenti AI si scontrano costantemente con lo stesso problema. I modelli sono bravi a generare codice, ma hanno bisogno di un ambiente per il lavoro effettivo. Hanno bisogno di un disco per salvare i file, una console per eseguire i test, la possibilità di installare un pacchetto tramite npm o compilare un documento. Concedere a un agente l'accesso a una macchina locale è pericoloso. Avviare un server virtuale separato per ogni breve attività è costoso e lento.

Cloudflare ha risolto questo problema in un progetto con il nome conciso computer. Gli sviluppatori hanno creato un ambiente di esecuzione virtuale progettato specificamente per agenti autonomi e agenti di rete.

Cosa c'è all'interno

L'architettura si basa su un file system virtuale. In sostanza è un database SQLite incorporato all'interno di un Durable Object di Cloudflare. Questa soluzione preserva lo stato dei file tra le chiamate e mantiene i dati vicini al codice.

Per lavorare con questo file system, il team ha proposto tre diversi ambienti di esecuzione.

Il primo ambiente esegue un container Linux completo. All'interno del container viene eseguito un daemon computerd. Questo monta il database come un disco normale tramite FUSE e invia le modifiche tramite il protocollo RPC capnweb. In questa modalità, l'agente ha un Linux utente reale, accesso alla rete e la capacità di eseguire qualsiasi file binario.

Il secondo ambiente esegue i comandi tramite un interprete leggero just-bash direttamente in un Worker isolato. Nessun container viene avviato. I comandi vengono eseguiti rapidamente e la comunicazione con il file system avviene direttamente.

Il terzo ambiente esegue codice JavaScript. Ogni comando viene eseguito in un Dynamic Worker separato. Lo script ottiene l'accesso al file system attraverso il modulo standard node:fs/promises, così come utility pronte all'uso per lavorare con Git e pubblicare artifact.

Funzionalità e benchmark

Un dettaglio interessante è emerso durante il test del disco virtuale. Gli sviluppatori hanno eseguito benchmark confrontando il mount FUSE computerd con un drive NVMe fisico.

È risultato che per le operazioni sui metadati, il disco virtuale è più veloce di un disco reale. La creazione di migliaia di piccoli file, la lettura di directory e il controllo dei permessi avvengono istantaneamente grazie all'archiviazione della struttura in RAM e SQLite. Tuttavia, per la lettura e scrittura sequenziale di file di dimensioni gigabyte, FUSE è inferiore a un disco fisico.

Per le attività degli agenti AI, questa configurazione funziona benissimo. Gli agenti creano più spesso piccoli script, modificano configurazioni e leggono codice sorgente piuttosto che pompare video pesanti attraverso di sé.

Esempi di utilizzo dal repository

Il repository contiene esempi pronti all'uso che mostrano come funziona il sistema.

In una demo, l'agente riceve il compito di generare un documento PDF. Prima crea un file Markdown nella directory virtuale. Poi l'agente invoca un'utilità pandoc attraverso il container, che converte il testo in un PDF pronto.

Un altro esempio mostra l'integrazione con le reti neurali. L'agente genera un'immagine attraverso Workers AI, scrive il file risultante sul disco virtuale e fornisce un link pubblico all'utente.

C'è anche un caso più avanzato: l'agente esegue il deploy di un progetto Cloudflare Worker, lo costruisce nell'ambiente virtuale e lo pubblica nel registro degli artifact.

Stato del progetto

Il team di Cloudflare nota specificamente che il repository è in stato di anteprima. Il codice è adatto per esperimenti, hackathon e prototipi, ma è ancora un po' presto per eseguire servizi critici su di esso. L'architettura e l'API possono cambiare in qualsiasi momento.

Le pull request aperte non sono ancora accettate. Puoi partecipare allo sviluppo attraverso le discussioni nelle Issues.

Chi dovrebbe provarlo

Il progetto è utile per chi scrive agenti complessi in TypeScript e sceglie l'infrastruttura per eseguire il codice generato. La combinazione di SQLite, FUSE e Cloudflare Workers fornisce un ambiente leggero e isolato che si avvia in millisecondi.