metadata

language:
  - pt
  - por
license: unlicense
pretty_name: Quinquilharia

Quinquilharia

Textos variados em português do Brasil.

Crawling com wget

O conteúdo obtido de páginas da web foi obtido com ajuda do comando wget, que suporta varrer um website obtendo suas páginas (crawling). Cada website requereu diferentes opções dentre as listadas abaixo:

Parâmetro	Descrição
`--adjust-extension`	Garante que ".html" seja adicionado aos arquivos.
`--convert-links`	Converte links para links locais (útil para visualização offline).
`--directory-prefix=/my/directory`	Define o diretório de destino.
`--include-directories=posts`	Lista separada por vírgulas dos diretórios permitidos a serem seguidos no rastreamento.
`--level=inf`	Define o nível de recursão como infinito.
`--no-check-certificate`	Ignora a verificação de certificado SSL.
`--no-clobber`	Evita o download de arquivos que já existem localmente.
`--no-remove-listing`	Mantém os arquivos ".listing" criados para registrar o conteúdo dos diretórios.
`--page-requisites`	Faz download de imagens embutidas, sons e folhas de estilo referenciadas.
`--random-wait`	Multiplica o `--wait` aleatoriamente entre 0,5 e 1,5 para cada requisição.
`--recursive`	Habilita o download recursivo (segue links).
`--reject "\?"`	Rejeita URLs que contenham strings de consulta.
`--span-hosts`	Permite download de arquivos de links que apontam para diferentes hosts.
`--user-agent`	Envia o cabeçalho "User-Agent" especificado para o servidor.
`--wait=6`	Aguarda o número especificado de segundos entre cada requisição.
`-domains`	Lista separada por vírgulas dos domínios a serem seguidos.
`-e robots=off`	Ignora instruções do arquivo `robots.txt`.

Todo o crawling foi realizado utilizado um thin client de baixo consumo de energia e, atráves do parâmetro --wait, houve um cuidado para não sobrecarregar os servidores sendo acessados.

Fóruns

Link do fórum	Tema	Data do crawling	Dataset com scrap realizado
adrenaline.com.br	Computadores	TBD	TBD
clubedohardware.com.br	Computadores	TBD	TBD
forumchaves.com.br	Televisão	TBD	TBD
hardmob.com.br	Variedades	TBD	TBD
htforum.net	Eletrônicos	outubro de 2024	htforum.csv (~2 milhões de linhas)
mochileiros.com	Viagens	TBD	TBD
outerspace.com.br	Jogos eletrônicos	TBD	TBD
pedal.com.br	Ciclismo	TBD	TBD
portaldohost.com.br	Hospedagem de sites	TBD	TBD
tibiabr.com	Jogos eletrônicos	outubro de 2024	TBD
tudocelular.com	Eletrônicos	TBD	TBD