Spaces:
Running
Running
title: ASR UI | |
emoji: 馃か | |
colorFrom: indigo | |
colorTo: red | |
sdk: gradio | |
sdk_version: 3.38.0 | |
app_file: app.py | |
pinned: false | |
tags: | |
- whisper-event | |
# Instruccions per l'煤s d'interf铆cie d'usuari de reconeixement de la parla | |
## Resum | |
Aquest document est脿 preparat per a explicar l'煤s, requisits i la instal路laci贸 d'interf铆cie d'usuari (IU) de reconeixement de la parla de BSC-LT. Per poder comprovar els models que estem desenvolupant, hem preparat aquest IU. L'aplicaci贸 est脿 empaquetada amb docker, per aix貌 la instal路laci贸 de docker 茅s un dels requisits i l'aplicaci贸 est脿 dissenyada pels navegadors. | |
## Requisits | |
**OS:** Ubuntu/Debian (Est脿 comprovat amb 20.04.6 LTS) | |
**Requisits minims:** | |
* CPU 4 vCores | |
* 16 GB RAM | |
* 25 GB espai lliure | |
**Requisit suggerit:** | |
* GPU: Nvidia T4, 16GB VRAM | |
L鈥櫭簊 de GPU accelera la infer猫ncia considerablement. Sense GPU el rendiment de la infer猫ncia 茅s aproximadament x3 RTF (real-time-factor), 茅s a dir necessita 30 segons per transcriure 10 segons d'脿udio. Per貌 amb una GPU el RTF 茅s menor a 1. | |
## Instruccions | |
Passos per desplegar l'aplicaci贸 d'IU 茅s | |
* Instal路lar docker (opcional: afegir docker al grup d'usuaris sudo) | |
* Descarregar la imatge de docker mitjan莽ant el docker pull | |
* Configurar un reverse proxy per fer disponible l'aplicaci贸 | |
## Instal路laci贸 docker | |
Es pot seguir les instruccions d'aquestes p脿gines | |
* [How To Install and Use Docker on Ubuntu 22.04 | DigitalOcean](https://www.digitalocean.com/community/tutorials/how-to-install-and-use-docker-on-ubuntu-22-04) | |
* [https://docs.docker.com/engine/install/ubuntu/](https://docs.docker.com/engine/install/ubuntu/) | |
Per貌 en resum: | |
``` | |
## Add Docker's official GPG key | |
$ sudo apt-get update | |
$ sudo apt-get install ca-certificates curl gnupg | |
$ sudo install -m 0755 -d /etc/apt/keyrings curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg | |
sudo chmod a+r /etc/apt/keyrings/docker.gpg | |
## Add the repository to Apt sources | |
$ echo \ | |
"deb [arch="$(dpkg --print-architecture)" signed-by=/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/ubuntu \ | |
"$(. /etc/os-release && echo "$VERSION_CODENAME")" stable" | \ | |
sudo tee /etc/apt/sources.list.d/docker.list > /dev/null | |
$ sudo apt-get update && sudo apt-get install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin | |
## Post Installation Steps | |
#Add create docker group, add your user to the group for executing docker without sudo | |
sudo groupadd docker | |
sudo usermod -aG docker $USER | |
newgrp docker | |
#To automatically start Docker and containerd on boot for other Linux distributions using systemd, run the following commands: | |
sudo systemctl enable docker.service | |
sudo systemctl enable containerd.service | |
``` | |
## Desplegament d'aplicaci贸 | |
Per descarregar i c贸rrer la imatge de docker: | |
``` | |
docker run -d -p 7860:7860 --name asr-inference --platform=linux/amd64 \ | |
registry.hf.space/projecte-aina-asr-inference:latest python app.py | |
``` | |
Durant la primera execuci贸 el docker run descarrega la imatge i els models necessaris per c贸rrer l'aplicaci贸. Si tot funciona sense errors, l'aplicaci贸 de web estar脿 disponible a localhost:7860. (IP_DE_SERVIDOR:7860) | |
Per consultar logs de l鈥檃plicacio: | |
``` | |
docker logs asr-inference | |
``` | |
Si despr茅s d鈥檜ns minuts d'iniciar l鈥檃plicaci贸 surt aix貌 als logs: | |
``` | |
Running on local URL: http://0.0.0.0:7860 | |
To create a public link, set `share=True` in `launch()`. | |
``` | |
L'aplicaci贸 s'ha desplegat correctament. | |
Per aturar l'aplicaci贸: | |
``` | |
docker stop asr-inference | |
``` | |
Per reiniciar l'aplicaci贸 | |
``` | |
docker start asr-inference | |
``` | |
## Connexi贸 a l'IU | |
Amb les instruccions anteriors si tot ha funcionat b茅 l'aplicaci贸 ja ser脿 disponible a localhost al port 7860. Si l'aplicaci贸 est脿 desplegada al local, nom茅s cal anar a <code>[http://0.0.0.0:7860](http://0.0.0.0:7860) </code> a un navegador per l'acc茅s. Si l'aplicaci贸 est脿 desplegada a una m脿quina virtual o un servidor en remot, hi ha dues maneres de conectar-hi: | |
**ssh port forwarding:** | |
``` | |
ssh -L 7860:localhost:7860 <vm-server-address> | |
``` | |
D'aquesta manera es pot connectar a l'IU com estigu茅s corrent al m脿quina local i.e. a l'adre莽a <code>[http://0.0.0.0:7860](http://0.0.0.0:7860) </code> | |
**Mitjan莽ant un web server:** | |
Si la m脿quina virtual de l'aplicaci贸 est脿 dins la mateixa xarxa i/o els ports de la m脿quina virtual estan oberts a fora, es pot connectar simplement amb apuntar el navegador a `http://<vm-server-address>:7860` per apuntar l'IP a un domini, es pot fer un reverse proxy mitjan莽ant una eina com Apache o nginx. |