Come Combinare un Visual Novel con un LLM e un Desktop Pet in Rust

La maggior parte delle interfacce per lavorare con le reti neurali sembrano ugualmente noiose. Sono o cloni di ChatGPT con una lista di conversazioni a sinistra e un campo di input a destra, oppure utility da riga di comando per il terminale. Ma se hai mai giocato a visual novel giapponesi (Galgame), sai quanto siano importanti il contatto visivo, i cambiamenti emotivi dei personaggi e il contesto di ciò che sta accadendo.

Recentemente mi sono imbattuto in un progetto interessante chiamato LingChat, il cui autore ha cercato di combinare meccaniche di dialogo da visual novel, un sistema di desktop pet virtuale e modelli linguistici moderni. La cosa migliore per noi: sotto il cofano c'è onesto Rust, non un'altra app Electron affamata di risorse.

Cosa C'è Dentro il Progetto

Il repository di LingChat offre una rielaborazione del formato familiare per comunicare con l'AI. Invece di una finestra di chat asciutta, ci troviamo davanti un personaggio animato che reagisce al dialogo, tiene traccia del tuo calendario e può partecipare a scenari interattivi.

Il progetto affronta diversi compiti contemporaneamente:

• Risposte emotive con sprite. Il modello non si limita a generare testo ma segna anche il proprio stato emotivo. A seconda del tono della risposta, il personaggio cambia pose, espressioni facciali e animazioni.
• Modalità Desktop Pet. Il personaggio vive direttamente sopra le finestre aperte del sistema, reagendo a clic e azioni dell'utente in background.
• Calendario e gestione attività. Il motore di dialogo ha funzionalità integrate di calendario e promemoria, quindi l'assistente ti ricorderà tempestivamente di una chiamata o di una scadenza.
• Moduli di storia ramificata. L'autore ha aggiunto il supporto per diramazioni di scenari, trasformando una chat normale in un gioco interattivo con controlli di condizioni e scelte.

Perché la Scelta di Rust È Importante

Di solito, queste applicazioni interattive vengono costruite con Electron + React o Unity. Entrambi gli approcci hanno uno svantaggio sgradevole: la fame di risorse. Il desktop pet deve funzionare in background per tutta la giornata lavorativa senza consumare metà della tua RAM e far girare le ventole del laptop.

LingChat è scritto in Rust. Questo garantisce un basso consumo di risorse durante il rendering costante degli sprite e l'elaborazione degli eventi del mouse. La logica principale dell'applicazione viene eseguita velocemente, lasciando la maggior parte delle risorse di sistema per l'inferenza del modello locale o per attività di lavoro parallele.

Il codice implementa un sistema di parsing per elaborare i tag emotivi dalle risposte dell'LLM. Quando il modello restituisce una risposta, il motore intercetta marker speciali di stato d'animo prima di visualizzare il testo sullo schermo e cambia sincronamente i frame di animazione del personaggio.

Dove Questo Può Essere Applicato

Oltre a usarlo direttamente per divertimento e nostalgia dei vecchi animali virtuali come Shimeji, il progetto ha idee architetturali interessanti per gli sviluppatori.

Prima di tutto, è un'ottima reference per creare NPC in giochi indie. Se vuoi aggiungere personaggi basati su AI generativa al tuo progetto, puoi trovare qui ispirazione su come collegare l'output di testo di un modello con i cambiamenti di stato del grafo delle animazioni.

In secondo luogo, il progetto dimostra magnificamente le meccaniche per creare assistenti personalizzati con personalità. Invece di un bot senza volto, ottieni un compagno i cui parametri comportamentali e il carattere sono configurati attraverso system prompt e file di configurazione.

Da Dove Iniziare

Il codice sorgente è aperto sotto licenza AGPL-3.0. La documentazione e le guide di configurazione sono raccolte sul sito ufficiale del progetto https://lingchat.wiki/.

Per eseguirlo, avrai bisogno di un toolchain Rust configurato e una chiave API per un provider LLM compatibile (o un server locale come Ollama / vLLM con supporto API compatibile con OpenAI).

Se hai sempre voluto costruire il tuo compagno desktop personalizzato o sperimentare con il cambio dinamico degli sprite tramite LLM, scavare nel repository SlimeBoyOwO/LingChat vale sicuramente la pena.