DEV Community

Alessandro T.
Alessandro T.

Posted on

LISA+SamGIS adattato ad hardware HuggingFace ZeroGPU

LISA+SamGIS adattato ad hardware HuggingFace ZeroGPU

Per una comprensione di base del mio progetto, si veda questa e questa pagina.

Oggi invece sto scrivendo della mia nuova demo utilizzando un hardware ZeroGPU. Si noti che ZeroGPU Spaces è attualmente in versione beta. Gli utenti PRO o le Enterprise organizations possono creare i propri space ZeroGPU a loro nome. Inoltre è necessario pagare ogni mese per mantenere il diritto di utilizzare l'hardware ZeroGPU.

  • Ho riscontrato inizialmente dei problemi causati dall’uso del decoratore spaces.GPU su una funzione inappropriata la cui esecuzione richiedeva troppo tempo, causando timeout. Risolto facendo debug per usare il decoratore solo sulle funzioni che ne richiedevano effettivamente l’uso.
  • Frontend custom: non mi piace molto svelte (la libreria js scelta dal team di Gradio) ma soprattutto ho già un progetto ben avviato scritto in vuejs e vite che voglio riutilizzare. Risolto facendo l’installazione del pacchetto Debian nodejs 18 per poi installare le dipendenze e fare la build del progetto nodejs direttamente da dentro il file app.py usando subpropcess.run().

Nota che sto usando un periodo di timeout di 48 ore prima di mettere in pausa il mio space. Qualsiasi interazione successiva potrebbe richiedere un po' di tempo prima che lo space riparta.

Ultimo, ma non ultimo, la pagina della demo è online qui (interfaccia Gradio) e qui (la mia pagina SPA custom).

Top comments (0)