Spaces:
Running
title: ASR UI
emoji: 馃か
colorFrom: indigo
colorTo: red
sdk: gradio
sdk_version: 3.38.0
app_file: app.py
pinned: false
tags:
- whisper-event
Instruccions per l'煤s d'interf铆cie d'usuari de reconeixement de la parla
Resum
Aquest document est脿 preparat per a explicar l'煤s, requisits i la instal路laci贸 d'interf铆cie d'usuari (IU) de reconeixement de la parla de BSC-LT. Per poder comprovar els models que estem desenvolupant, hem preparat aquest IU. L'aplicaci贸 est脿 empaquetada amb docker, per aix貌 la instal路laci贸 de docker 茅s un dels requisits i l'aplicaci贸 est脿 dissenyada pels navegadors.
Requisits
OS: Ubuntu/Debian (Est脿 comprovat amb 20.04.6 LTS)
Requisits minims:
- CPU 4 vCores
- 16 GB RAM
- 25 GB espai lliure
Requisit suggerit:
- GPU: Nvidia T4, 16GB VRAM
L鈥櫭簊 de GPU accelera la infer猫ncia considerablement. Sense GPU el rendiment de la infer猫ncia 茅s aproximadament x3 RTF (real-time-factor), 茅s a dir necessita 30 segons per transcriure 10 segons d'脿udio. Per貌 amb una GPU el RTF 茅s menor a 1.
Instruccions
Passos per desplegar l'aplicaci贸 d'IU 茅s
- Instal路lar docker (opcional: afegir docker al grup d'usuaris sudo)
- Descarregar la imatge de docker mitjan莽ant el docker pull
- Configurar un reverse proxy per fer disponible l'aplicaci贸
Instal路laci贸 docker
Es pot seguir les instruccions d'aquestes p脿gines
- How To Install and Use Docker on Ubuntu 22.04 | DigitalOcean
- https://docs.docker.com/engine/install/ubuntu/
Per貌 en resum:
## Add Docker's official GPG key
$ sudo apt-get update
$ sudo apt-get install ca-certificates curl gnupg
$ sudo install -m 0755 -d /etc/apt/keyrings curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg
sudo chmod a+r /etc/apt/keyrings/docker.gpg
## Add the repository to Apt sources
$ echo \
"deb [arch="$(dpkg --print-architecture)" signed-by=/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/ubuntu \
"$(. /etc/os-release && echo "$VERSION_CODENAME")" stable" | \
sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
$ sudo apt-get update && sudo apt-get install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
## Post Installation Steps
#Add create docker group, add your user to the group for executing docker without sudo
sudo groupadd docker
sudo usermod -aG docker $USER
newgrp docker
#To automatically start Docker and containerd on boot for other Linux distributions using systemd, run the following commands:
sudo systemctl enable docker.service
sudo systemctl enable containerd.service
Desplegament d'aplicaci贸
Per descarregar i c贸rrer la imatge de docker:
docker run -d -p 7860:7860 --name asr-inference --platform=linux/amd64 \
registry.hf.space/projecte-aina-asr-inference:latest python app.py
Durant la primera execuci贸 el docker run descarrega la imatge i els models necessaris per c贸rrer l'aplicaci贸. Si tot funciona sense errors, l'aplicaci贸 de web estar脿 disponible a localhost:7860. (IP_DE_SERVIDOR:7860)
Per consultar logs de l鈥檃plicacio:
docker logs asr-inference
Si despr茅s d鈥檜ns minuts d'iniciar l鈥檃plicaci贸 surt aix貌 als logs:
Running on local URL: http://0.0.0.0:7860
To create a public link, set `share=True` in `launch()`.
L'aplicaci贸 s'ha desplegat correctament.
Per aturar l'aplicaci贸:
docker stop asr-inference
Per reiniciar l'aplicaci贸
docker start asr-inference
Connexi贸 a l'IU
Amb les instruccions anteriors si tot ha funcionat b茅 l'aplicaci贸 ja ser脿 disponible a localhost al port 7860. Si l'aplicaci贸 est脿 desplegada al local, nom茅s cal anar a http://0.0.0.0:7860
a un navegador per l'acc茅s. Si l'aplicaci贸 est脿 desplegada a una m脿quina virtual o un servidor en remot, hi ha dues maneres de conectar-hi:
ssh port forwarding:
ssh -L 7860:localhost:7860 <vm-server-address>
D'aquesta manera es pot connectar a l'IU com estigu茅s corrent al m脿quina local i.e. a l'adre莽a http://0.0.0.0:7860
Mitjan莽ant un web server:
Si la m脿quina virtual de l'aplicaci贸 est脿 dins la mateixa xarxa i/o els ports de la m脿quina virtual estan oberts a fora, es pot connectar simplement amb apuntar el navegador a http://<vm-server-address>:7860
per apuntar l'IP a un domini, es pot fer un reverse proxy mitjan莽ant una eina com Apache o nginx.