Datasets:
File size: 7,675 Bytes
3ba3362 89ab4e2 3ba3362 fb6cddb 3ba3362 79bdd46 be81544 62360e5 12e288a 62360e5 b7c65d9 62360e5 12e288a 62360e5 a7397bc |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 |
---
task_categories:
- text-generation
language:
- pt
license: unlicense
pretty_name: Quinquilharia
---
[]()
# Quinquilharia
Textos variados em português do Brasil.
## Fóruns
Tema | Link do fórum | Dataset com scrap realizado
---- | ------------- | ---------------------------
Agility (esporte) | [agilityrj.forumeiros.com][agilityrj] | [agilityrj.csv](foruns/agilityrj.csv) (~13 mil linhas)
Artesanato | [atelierdasartes.forumeiros.com][atelierdasartes] | [atelierdasartes.csv](foruns/atelierdasartes.csv) (~33 mil linhas)
Aúdio e vídeo | [audiopt.forumeiros.com][audiopt] | [audiopt.csv](foruns/audiopt.csv) (~17 mil linhas)
Computadores | [under-linux.org][under-linux] | [under-linux.csv](foruns/under-linux.csv) (~29 mil linhas)
Dança | [bboypt.forumeiros.com][bboypt] | [bboypt.csv](foruns/bboypt.csv) (~11 mil linhas)
Desenhos animados | [forumnsanimes.com][forumnsanimes] | [forumnsanimes.csv](foruns/forumnsanimes.csv) (~11 mil linhas)
Desenhos animados | [naruto.forumeiros.com][naruto] | [naruto.csv](foruns/naruto.csv) (~96 mil linhas)
Desenhos animados | [naruto-portugal.forumeiro.com][naruto-portugal] | [naruto-portugal.csv](foruns/naruto-portugal.csv) (~65 mil linhas)
Desenvolvimento web | [opencartbrasil.com.br][opencartbrasil] | [opencartbrasil.csv](foruns/opencartbrasil.csv) (~53 mil linhas)
Desenvolvimento web | [scriptcase.com.br][scriptcase] | [scriptcase.csv](foruns/scriptcase.csv) (~214 mil linhas)
Eletrônicos | [intelbras.com.br][intelbras] | [intelbras.csv](foruns/intelbras.csv) (~56 mil linhas)
Eletrônicos | [gpsinfo.com.br][gpsinfo] | [gpsinfo.csv](foruns/gpsinfo.csv) (~41 mil linhas)
Eletrônicos | [htforum.net][htforum] | [htforum.csv](foruns/htforum.csv) (~99 mil linhas)
Espiritualidade e religião | [extestemunhasdejeova.net][extestemunhasdejeova] | [extestemunhasdejeova.csv](foruns/extestemunhasdejeova.csv) (~189 mil linhas)
Filmes e séries | [forumchaves.com.br][forumchaves] | [forumchaves.csv](foruns/forumchaves.csv) (~132 mil linhas)
Filmes e séries | [valinor.com.br][valinor] | [valinor.csv](foruns/valinor.csv) (~377 mil linhas)
Fotografia | [aveirofotoclube.forumeiros.com][aveirofotoclube] | [aveirofotoclube.csv](foruns/aveirofotoclube.csv) (~16 mil linhas)
Jardinagem | [arte108.forumeiros.com][arte108] | [arte108.csv](foruns/arte108.csv) (~22 mil linhas)
Jogos de carta e tabuleiro | [battlescenes.forumeiros.com][battlescenes] | [battlescenes.csv](foruns/battlescenes.csv) (~10 mil linhas)
Modelismo | [autochampion.forumeiros.com][autochampion] | [autochampion.csv](foruns/autochampion.csv) (~26 mil linhas)
Modelismo | [plastibrasil.com][plastibrasil] | [plastibrasil.csv](foruns/plastibrasil.csv) (~256 mil linhas)
Variedades | [nosmulheres.forumeiros.com][nosmulheres] | [nosmulheres.csv](foruns/nosmulheres.csv) (~43 mil linhas)
Veículos | [fusca4ever.com.br][fusca4ever] | [fusca4ever.csv](foruns/fusca4ever.csv) (~38 mil linhas)
Veículos | [moto125cc.forumotion.com][moto125cc] | [moto125cc.csv](foruns/moto125cc.csv) (~77 mil linhas)
Veículos | [pequenasnotaveis.net][pequenasnotaveis] | [pequenasnotaveis.csv](foruns/pequenasnotaveis.csv) (~19 mil linhas)
Video-games | [tibiabr.com][tibiabr] | [tibiabr.csv](foruns/tibiabr.csv) (~90 mil linhas)
[agilityrj]: https://agilityrj.forumeiros.com
[atelierdasartes]: https://atelierdasartes.forumeiros.com
[audiopt]: https://audiopt.forumeiros.com
[under-linux]: https://under-linux.org
[bboypt]: https://bboypt.forumeiros.com
[forumnsanimes]: https://www.forumnsanimes.com
[naruto]: https://naruto.forumeiros.com
[naruto-portugal]: https://naruto-portugal.forumeiro.com/forum
[opencartbrasil]: https://forum.opencartbrasil.com.br
[scriptcase]: https://forum.scriptcase.com.br
[intelbras]: https://forum.intelbras.com.br
[gpsinfo]: https://gpsinfo.com.br/index.php
[htforum]: https://htforum.net
[extestemunhasdejeova]: https://extestemunhasdejeova.net
[forumchaves]: https://forumchaves.com.br
[valinor]: https://valinor.com.br/forum
[aveirofotoclube]: https://aveirofotoclube.forumeiros.com
[arte108]: https://arte108.forumeiros.com
[battlescenes]: https://battlescenes.forumeiros.com
[autochampion]: https://autochampion.forumeiros.com
[plastibrasil]: https://forum.plastibrasil.com
[nosmulheres]: https://nosmulheres.forumeiros.com
[fusca4ever]: https://fusca4ever.com.br
[moto125cc]: https://moto125cc.forumotion.com
[pequenasnotaveis]: https://pequenasnotaveis.net
[tibiabr]: https://forums.tibiabr.com
O conteúdo obtido de páginas da web foi acessado com ajuda do comando `wget`, que suporta varrer um website obtendo suas páginas (crawling). Cada website requereu diferentes argumentos dentre os listados abaixo:
Parâmetro | Descrição
--------- | ---------
`--adjust-extension` | Garante que ".html" seja adicionado aos arquivos.
`--convert-links` | Converte links para links locais (útil para visualização offline).
`--directory-prefix=/my/directory` | Define o diretório de destino.
`--include-directories=posts` | Lista separada por vírgulas dos diretórios permitidos a serem seguidos no rastreamento.
`--level=inf` | Define o nível de recursão como infinito.
`--no-check-certificate` | Ignora a verificação de certificado SSL.
`--no-clobber` | Evita o download de arquivos que já existem localmente.
`--no-remove-listing` | Mantém os arquivos ".listing" criados para registrar o conteúdo dos diretórios.
`--page-requisites` | Faz download de imagens embutidas, sons e folhas de estilo referenciadas.
`--random-wait` | Multiplica o `--wait` aleatoriamente entre 0,5 e 1,5 para cada requisição.
`--recursive` | Habilita o download recursivo (segue links).
`--reject "*\?*"` | Rejeita URLs que contenham strings de consulta.
`--span-hosts` | Permite download de arquivos de links que apontam para diferentes hosts.
`--user-agent` | Envia o cabeçalho "User-Agent" especificado para o servidor.
`--wait=6` | Aguarda o número especificado de segundos entre cada requisição.
`-domains` | Lista separada por vírgulas dos domínios a serem seguidos.
`-e robots=off` | Ignora instruções do arquivo `robots.txt`.
Todo o crawling foi realizado utilizado um thin client de baixo consumo de energia e, atráves do parâmetro `--wait`, **houve um cuidado para não sobrecarregar os servidores sendo acessados**.
|