Datasets:
Tasks:
Text Generation
Modalities:
Text
Formats:
csv
Languages:
Portuguese
Size:
10M - 100M
License:
File size: 4,243 Bytes
3ba3362 79bdd46 35890d8 79bdd46 e5c3c69 79bdd46 abf480c 79bdd46 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 |
---
language:
- pt
- por
license: unlicense
pretty_name: Quinquilharia
---
[]()
# Quinquilharia
Textos variados em português do Brasil.
## Crawling com wget
O conteúdo obtido de páginas da web foi obtido com ajuda do comando `wget`, que suporta varrer um website obtendo suas páginas (crawling). Cada website requereu diferentes opções dentre as listadas abaixo:
Parâmetro | Descrição
--------- | ---------
`--adjust-extension` | Garante que ".html" seja adicionado aos arquivos.
`--convert-links` | Converte links para links locais (útil para visualização offline).
`--directory-prefix=/my/directory` | Define o diretório de destino.
`--include-directories=posts` | Lista separada por vírgulas dos diretórios permitidos a serem seguidos no rastreamento.
`--level=inf` | Define o nível de recursão como infinito.
`--no-check-certificate` | Ignora a verificação de certificado SSL.
`--no-clobber` | Evita o download de arquivos que já existem localmente.
`--no-remove-listing` | Mantém os arquivos ".listing" criados para registrar o conteúdo dos diretórios.
`--page-requisites` | Faz download de imagens embutidas, sons e folhas de estilo referenciadas.
`--random-wait` | Multiplica o `--wait` aleatoriamente entre 0,5 e 1,5 para cada requisição.
`--recursive` | Habilita o download recursivo (segue links).
`--reject "*\?*"` | Rejeita URLs que contenham strings de consulta.
`--span-hosts` | Permite download de arquivos de links que apontam para diferentes hosts.
`--user-agent` | Envia o cabeçalho "User-Agent" especificado para o servidor.
`--wait=6` | Aguarda o número especificado de segundos entre cada requisição.
`-domains` | Lista separada por vírgulas dos domínios a serem seguidos.
`-e robots=off` | Ignora instruções do arquivo `robots.txt`.
Todo o crawling foi realizado utilizado um thin client de baixo consumo de energia e, atráves do parâmetro `--wait`, **houve um cuidado para não sobrecarregar os servidores sendo acessados**.
## Fóruns
Link do fórum | Tema | Data do crawling | Dataset com scrap realizado
------------- | ---- | ---------------- | ---------------------------
[adrenaline.com.br][adrenaline] | Computadores | TBD | TBD
[clubedohardware.com.br][clubedohardware] | Computadores | TBD | TBD
[forumchaves.com.br][forumchaves] | Televisão | TBD | TBD
[hardmob.com.br][hardmob] | Variedades | TBD | TBD
[htforum.net][htforum] | Eletrônicos | outubro de 2024 | [htforum.csv](foruns/htforum.csv) (~2 milhões de linhas)
[mochileiros.com][mochileiros] | Viagens | TBD | TBD
[outerspace.com.br][outerspace] | Jogos eletrônicos | TBD | TBD
[pedal.com.br][pedal] | Ciclismo | TBD | TBD
[portaldohost.com.br][portaldohost] | Hospedagem de sites | TBD | TBD
[tibiabr.com][tibiabr] | Jogos eletrônicos | outubro de 2024 | TBD
[tudocelular.com][tudocelular] | Eletrônicos | TBD | TBD
[adrenaline]: https://forum.adrenaline.com.br/
[clubedohardware]: https://www.clubedohardware.com.br/forums/
[forumchaves]: https://www.forumchaves.com.br/
[hardmob]: https://www.hardmob.com.br/forum.php
[htforum]: https://htforum.net/
[mochileiros]: https://www.mochileiros.com/
[outerspace]: https://forum.outerspace.com.br/index.php
[pedal]: https://www.pedal.com.br/forum/forums.html
[portaldohost]: https://portaldohost.com.br/
[tibiabr]: https://forums.tibiabr.com/index.php
[tudocelular]: https://www.tudocelular.com/forum/
|