|
--- |
|
task_categories: |
|
- text-generation |
|
language: |
|
- pt |
|
license: unlicense |
|
pretty_name: Quinquilharia |
|
--- |
|
|
|
[![](quinquilharia.png)]() |
|
|
|
# Quinquilharia |
|
|
|
Textos variados em português do Brasil. |
|
|
|
## Fóruns |
|
|
|
Tema | Link do fórum | Dataset com scrap realizado |
|
---- | ------------- | --------------------------- |
|
Agility (esporte) | [agilityrj.forumeiros.com][agilityrj] | [agilityrj.csv](foruns/agilityrj.csv) (~13 mil linhas) |
|
Artesanato | [atelierdasartes.forumeiros.com][atelierdasartes] | [atelierdasartes.csv](foruns/atelierdasartes.csv) (~33 mil linhas) |
|
Aúdio e vídeo | [audiopt.forumeiros.com][audiopt] | [audiopt.csv](foruns/audiopt.csv) (~17 mil linhas) |
|
Computadores | [under-linux.org][under-linux] | [under-linux.csv](foruns/under-linux.csv) (~29 mil linhas) |
|
Dança | [bboypt.forumeiros.com][bboypt] | [bboypt.csv](foruns/bboypt.csv) (~11 mil linhas) |
|
Desenhos animados | [forumnsanimes.com][forumnsanimes] | [forumnsanimes.csv](foruns/forumnsanimes.csv) (~11 mil linhas) |
|
Desenhos animados | [naruto.forumeiros.com][naruto] | [naruto.csv](foruns/naruto.csv) (~96 mil linhas) |
|
Desenhos animados | [naruto-portugal.forumeiro.com][naruto-portugal] | [naruto-portugal.csv](foruns/naruto-portugal.csv) (~65 mil linhas) |
|
Desenvolvimento web | [opencartbrasil.com.br][opencartbrasil] | [opencartbrasil.csv](foruns/opencartbrasil.csv) (~53 mil linhas) |
|
Desenvolvimento web | [scriptcase.com.br][scriptcase] | [scriptcase.csv](foruns/scriptcase.csv) (~214 mil linhas) |
|
Eletrônicos | [intelbras.com.br][intelbras] | [intelbras.csv](foruns/intelbras.csv) (~56 mil linhas) |
|
Eletrônicos | [gpsinfo.com.br][gpsinfo] | [gpsinfo.csv](foruns/gpsinfo.csv) (~41 mil linhas) |
|
Eletrônicos | [htforum.net][htforum] | [htforum.csv](foruns/htforum.csv) (~99 mil linhas) |
|
Espiritualidade e religião | [extestemunhasdejeova.net][extestemunhasdejeova] | [extestemunhasdejeova.csv](foruns/extestemunhasdejeova.csv) (~189 mil linhas) |
|
Filmes e séries | [forumchaves.com.br][forumchaves] | [forumchaves.csv](foruns/forumchaves.csv) (~132 mil linhas) |
|
Filmes e séries | [valinor.com.br][valinor] | [valinor.csv](foruns/valinor.csv) (~377 mil linhas) |
|
Fotografia | [aveirofotoclube.forumeiros.com][aveirofotoclube] | [aveirofotoclube.csv](foruns/aveirofotoclube.csv) (~16 mil linhas) |
|
Jardinagem | [arte108.forumeiros.com][arte108] | [arte108.csv](foruns/arte108.csv) (~22 mil linhas) |
|
Jogos de carta e tabuleiro | [battlescenes.forumeiros.com][battlescenes] | [battlescenes.csv](foruns/battlescenes.csv) (~10 mil linhas) |
|
Modelismo | [autochampion.forumeiros.com][autochampion] | [autochampion.csv](foruns/autochampion.csv) (~26 mil linhas) |
|
Modelismo | [plastibrasil.com][plastibrasil] | [plastibrasil.csv](foruns/plastibrasil.csv) (~256 mil linhas) |
|
Variedades | [nosmulheres.forumeiros.com][nosmulheres] | [nosmulheres.csv](foruns/nosmulheres.csv) (~43 mil linhas) |
|
Veículos | [fusca4ever.com.br][fusca4ever] | [fusca4ever.csv](foruns/fusca4ever.csv) (~38 mil linhas) |
|
Veículos | [moto125cc.forumotion.com][moto125cc] | [moto125cc.csv](foruns/moto125cc.csv) (~77 mil linhas) |
|
Veículos | [pequenasnotaveis.net][pequenasnotaveis] | [pequenasnotaveis.csv](foruns/pequenasnotaveis.csv) (~19 mil linhas) |
|
Video-games | [tibiabr.com][tibiabr] | [tibiabr.csv](foruns/tibiabr.csv) (~90 mil linhas) |
|
|
|
[agilityrj]: https://agilityrj.forumeiros.com |
|
[atelierdasartes]: https://atelierdasartes.forumeiros.com |
|
[audiopt]: https://audiopt.forumeiros.com |
|
[under-linux]: https://under-linux.org |
|
[bboypt]: https://bboypt.forumeiros.com |
|
[forumnsanimes]: https://www.forumnsanimes.com |
|
[naruto]: https://naruto.forumeiros.com |
|
[naruto-portugal]: https://naruto-portugal.forumeiro.com/forum |
|
[opencartbrasil]: https://forum.opencartbrasil.com.br |
|
[scriptcase]: https://forum.scriptcase.com.br |
|
[intelbras]: https://forum.intelbras.com.br |
|
[gpsinfo]: https://gpsinfo.com.br/index.php |
|
[htforum]: https://htforum.net |
|
[extestemunhasdejeova]: https://extestemunhasdejeova.net |
|
[forumchaves]: https://forumchaves.com.br |
|
[valinor]: https://valinor.com.br/forum |
|
[aveirofotoclube]: https://aveirofotoclube.forumeiros.com |
|
[arte108]: https://arte108.forumeiros.com |
|
[battlescenes]: https://battlescenes.forumeiros.com |
|
[autochampion]: https://autochampion.forumeiros.com |
|
[plastibrasil]: https://forum.plastibrasil.com |
|
[nosmulheres]: https://nosmulheres.forumeiros.com |
|
[fusca4ever]: https://fusca4ever.com.br |
|
[moto125cc]: https://moto125cc.forumotion.com |
|
[pequenasnotaveis]: https://pequenasnotaveis.net |
|
[tibiabr]: https://forums.tibiabr.com |
|
|
|
O conteúdo obtido de páginas da web foi acessado com ajuda do comando `wget`, que suporta varrer um website obtendo suas páginas (crawling). Cada website requereu diferentes argumentos dentre os listados abaixo: |
|
|
|
Parâmetro | Descrição |
|
--------- | --------- |
|
`--adjust-extension` | Garante que ".html" seja adicionado aos arquivos. |
|
`--convert-links` | Converte links para links locais (útil para visualização offline). |
|
`--directory-prefix=/my/directory` | Define o diretório de destino. |
|
`--include-directories=posts` | Lista separada por vírgulas dos diretórios permitidos a serem seguidos no rastreamento. |
|
`--level=inf` | Define o nível de recursão como infinito. |
|
`--no-check-certificate` | Ignora a verificação de certificado SSL. |
|
`--no-clobber` | Evita o download de arquivos que já existem localmente. |
|
`--no-remove-listing` | Mantém os arquivos ".listing" criados para registrar o conteúdo dos diretórios. |
|
`--page-requisites` | Faz download de imagens embutidas, sons e folhas de estilo referenciadas. |
|
`--random-wait` | Multiplica o `--wait` aleatoriamente entre 0,5 e 1,5 para cada requisição. |
|
`--recursive` | Habilita o download recursivo (segue links). |
|
`--reject "*\?*"` | Rejeita URLs que contenham strings de consulta. |
|
`--span-hosts` | Permite download de arquivos de links que apontam para diferentes hosts. |
|
`--user-agent` | Envia o cabeçalho "User-Agent" especificado para o servidor. |
|
`--wait=6` | Aguarda o número especificado de segundos entre cada requisição. |
|
`-domains` | Lista separada por vírgulas dos domínios a serem seguidos. |
|
`-e robots=off` | Ignora instruções do arquivo `robots.txt`. |
|
|
|
Todo o crawling foi realizado utilizado um thin client de baixo consumo de energia e, atráves do parâmetro `--wait`, **houve um cuidado para não sobrecarregar os servidores sendo acessados**. |
|
|