--- task_categories: - text-generation language: - pt license: unlicense pretty_name: Quinquilharia --- [![](quinquilharia.png)]() # Quinquilharia Textos variados em português do Brasil. ## Fóruns Tema | Link do fórum | Dataset com scrap realizado ---- | ------------- | --------------------------- Agility (esporte) | [agilityrj.forumeiros.com][agilityrj] | [agilityrj.csv](foruns/agilityrj.csv) (~13 mil linhas) Artesanato | [atelierdasartes.forumeiros.com][atelierdasartes] | [atelierdasartes.csv](foruns/atelierdasartes.csv) (~33 mil linhas) Aúdio e vídeo | [audiopt.forumeiros.com][audiopt] | [audiopt.csv](foruns/audiopt.csv) (~17 mil linhas) Computadores | [under-linux.org][under-linux] | [under-linux.csv](foruns/under-linux.csv) (~29 mil linhas) Dança | [bboypt.forumeiros.com][bboypt] | [bboypt.csv](foruns/bboypt.csv) (~11 mil linhas) Desenhos animados | [forumnsanimes.com][forumnsanimes] | [forumnsanimes.csv](foruns/forumnsanimes.csv) (~11 mil linhas) Desenhos animados | [naruto.forumeiros.com][naruto] | [naruto.csv](foruns/naruto.csv) (~96 mil linhas) Desenhos animados | [naruto-portugal.forumeiro.com][naruto-portugal] | [naruto-portugal.csv](foruns/naruto-portugal.csv) (~65 mil linhas) Desenvolvimento web | [opencartbrasil.com.br][opencartbrasil] | [opencartbrasil.csv](foruns/opencartbrasil.csv) (~53 mil linhas) Desenvolvimento web | [scriptcase.com.br][scriptcase] | [scriptcase.csv](foruns/scriptcase.csv) (~214 mil linhas) Eletrônicos | [intelbras.com.br][intelbras] | [intelbras.csv](foruns/intelbras.csv) (~56 mil linhas) Eletrônicos | [gpsinfo.com.br][gpsinfo] | [gpsinfo.csv](foruns/gpsinfo.csv) (~41 mil linhas) Eletrônicos | [htforum.net][htforum] | [htforum.csv](foruns/htforum.csv) (~99 mil linhas) Espiritualidade e religião | [extestemunhasdejeova.net][extestemunhasdejeova] | [extestemunhasdejeova.csv](foruns/extestemunhasdejeova.csv) (~189 mil linhas) Filmes e séries | [forumchaves.com.br][forumchaves] | [forumchaves.csv](foruns/forumchaves.csv) (~132 mil linhas) Filmes e séries | [valinor.com.br][valinor] | [valinor.csv](foruns/valinor.csv) (~377 mil linhas) Fotografia | [aveirofotoclube.forumeiros.com][aveirofotoclube] | [aveirofotoclube.csv](foruns/aveirofotoclube.csv) (~16 mil linhas) Jardinagem | [arte108.forumeiros.com][arte108] | [arte108.csv](foruns/arte108.csv) (~22 mil linhas) Jogos de carta e tabuleiro | [battlescenes.forumeiros.com][battlescenes] | [battlescenes.csv](foruns/battlescenes.csv) (~10 mil linhas) Modelismo | [autochampion.forumeiros.com][autochampion] | [autochampion.csv](foruns/autochampion.csv) (~26 mil linhas) Modelismo | [plastibrasil.com][plastibrasil] | [plastibrasil.csv](foruns/plastibrasil.csv) (~256 mil linhas) Variedades | [nosmulheres.forumeiros.com][nosmulheres] | [nosmulheres.csv](foruns/nosmulheres.csv) (~43 mil linhas) Veículos | [fusca4ever.com.br][fusca4ever] | [fusca4ever.csv](foruns/fusca4ever.csv) (~38 mil linhas) Veículos | [moto125cc.forumotion.com][moto125cc] | [moto125cc.csv](foruns/moto125cc.csv) (~77 mil linhas) Veículos | [pequenasnotaveis.net][pequenasnotaveis] | [pequenasnotaveis.csv](foruns/pequenasnotaveis.csv) (~19 mil linhas) Video-games | [tibiabr.com][tibiabr] | [tibiabr.csv](foruns/tibiabr.csv) (~90 mil linhas) [agilityrj]: https://agilityrj.forumeiros.com [atelierdasartes]: https://atelierdasartes.forumeiros.com [audiopt]: https://audiopt.forumeiros.com [under-linux]: https://under-linux.org [bboypt]: https://bboypt.forumeiros.com [forumnsanimes]: https://www.forumnsanimes.com [naruto]: https://naruto.forumeiros.com [naruto-portugal]: https://naruto-portugal.forumeiro.com/forum [opencartbrasil]: https://forum.opencartbrasil.com.br [scriptcase]: https://forum.scriptcase.com.br [intelbras]: https://forum.intelbras.com.br [gpsinfo]: https://gpsinfo.com.br/index.php [htforum]: https://htforum.net [extestemunhasdejeova]: https://extestemunhasdejeova.net [forumchaves]: https://forumchaves.com.br [valinor]: https://valinor.com.br/forum [aveirofotoclube]: https://aveirofotoclube.forumeiros.com [arte108]: https://arte108.forumeiros.com [battlescenes]: https://battlescenes.forumeiros.com [autochampion]: https://autochampion.forumeiros.com [plastibrasil]: https://forum.plastibrasil.com [nosmulheres]: https://nosmulheres.forumeiros.com [fusca4ever]: https://fusca4ever.com.br [moto125cc]: https://moto125cc.forumotion.com [pequenasnotaveis]: https://pequenasnotaveis.net [tibiabr]: https://forums.tibiabr.com O conteúdo obtido de páginas da web foi acessado com ajuda do comando `wget`, que suporta varrer um website obtendo suas páginas (crawling). Cada website requereu diferentes argumentos dentre os listados abaixo: Parâmetro | Descrição --------- | --------- `--adjust-extension` | Garante que ".html" seja adicionado aos arquivos. `--convert-links` | Converte links para links locais (útil para visualização offline). `--directory-prefix=/my/directory` | Define o diretório de destino. `--include-directories=posts` | Lista separada por vírgulas dos diretórios permitidos a serem seguidos no rastreamento. `--level=inf` | Define o nível de recursão como infinito. `--no-check-certificate` | Ignora a verificação de certificado SSL. `--no-clobber` | Evita o download de arquivos que já existem localmente. `--no-remove-listing` | Mantém os arquivos ".listing" criados para registrar o conteúdo dos diretórios. `--page-requisites` | Faz download de imagens embutidas, sons e folhas de estilo referenciadas. `--random-wait` | Multiplica o `--wait` aleatoriamente entre 0,5 e 1,5 para cada requisição. `--recursive` | Habilita o download recursivo (segue links). `--reject "*\?*"` | Rejeita URLs que contenham strings de consulta. `--span-hosts` | Permite download de arquivos de links que apontam para diferentes hosts. `--user-agent` | Envia o cabeçalho "User-Agent" especificado para o servidor. `--wait=6` | Aguarda o número especificado de segundos entre cada requisição. `-domains` | Lista separada por vírgulas dos domínios a serem seguidos. `-e robots=off` | Ignora instruções do arquivo `robots.txt`. Todo o crawling foi realizado utilizado um thin client de baixo consumo de energia e, atráves do parâmetro `--wait`, **houve um cuidado para não sobrecarregar os servidores sendo acessados**.