---
language:
- pt
- por
license: unlicense
pretty_name: Quinquilharia
---

[![](quinquilharia.png)]()

# Quinquilharia

Textos variados em português do Brasil.

## Crawling com wget

O conteúdo obtido de páginas da web foi obtido com ajuda do comando `wget`, que suporta varrer um website obtendo suas páginas (crawling). Cada website requereu diferentes opções dentre as listadas abaixo:

Parâmetro                          | Descrição
---------                          | ---------
`--adjust-extension`               | Garante que ".html" seja adicionado aos arquivos.
`--convert-links`                  | Converte links para links locais (útil para visualização offline).
`--directory-prefix=/my/directory` | Define o diretório de destino.
`--include-directories=posts`      | Lista separada por vírgulas dos diretórios permitidos a serem seguidos no rastreamento.
`--level=inf`                      | Define o nível de recursão como infinito.
`--no-check-certificate`           | Ignora a verificação de certificado SSL.
`--no-clobber`                     | Evita o download de arquivos que já existem localmente.
`--no-remove-listing`              | Mantém os arquivos ".listing" criados para registrar o conteúdo dos diretórios.
`--page-requisites`                | Faz download de imagens embutidas, sons e folhas de estilo referenciadas.
`--random-wait`                    | Multiplica o `--wait` aleatoriamente entre 0,5 e 1,5 para cada requisição.
`--recursive`                      | Habilita o download recursivo (segue links).
`--reject "*\?*"`                  | Rejeita URLs que contenham strings de consulta.
`--span-hosts`                     | Permite download de arquivos de links que apontam para diferentes hosts.
`--user-agent`                     | Envia o cabeçalho "User-Agent" especificado para o servidor.
`--wait=6`                         | Aguarda o número especificado de segundos entre cada requisição.
`-domains`                         | Lista separada por vírgulas dos domínios a serem seguidos.
`-e robots=off`                    | Ignora instruções do arquivo `robots.txt`.

Todo o crawling foi realizado utilizado um thin client de baixo consumo de energia e, atráves do parâmetro `--wait`, **houve um cuidado para não sobrecarregar os servidores sendo acessados**.

## Fóruns

Link do fórum                             | Tema                | Data do crawling | Dataset com scrap realizado
-------------                             | ----                | ---------------- | ---------------------------
[adrenaline.com.br][adrenaline]           | Computadores        | TBD              | TBD
[clubedohardware.com.br][clubedohardware] | Computadores        | TBD              | TBD
[forumchaves.com.br][forumchaves]         | Televisão           | TBD              | TBD
[hardmob.com.br][hardmob]                 | Variedades          | TBD              | TBD
[htforum.net][htforum]                    | Eletrônicos         | outubro de 2024  | [htforum.csv](foruns/htforum.csv) (~2 milhões de linhas)
[mochileiros.com][mochileiros]            | Viagens             | TBD              | TBD
[outerspace.com.br][outerspace]           | Jogos eletrônicos   | TBD              | TBD
[pedal.com.br][pedal]                     | Ciclismo            | TBD              | TBD
[portaldohost.com.br][portaldohost]       | Hospedagem de sites | TBD              | TBD
[tibiabr.com][tibiabr]                    | Jogos eletrônicos   | outubro de 2024  | TBD
[tudocelular.com][tudocelular]            | Eletrônicos         | TBD              | TBD

[adrenaline]:         https://forum.adrenaline.com.br/
[clubedohardware]:    https://www.clubedohardware.com.br/forums/
[forumchaves]:        https://www.forumchaves.com.br/
[hardmob]:            https://www.hardmob.com.br/forum.php
[htforum]:            https://htforum.net/
[mochileiros]:        https://www.mochileiros.com/
[outerspace]:         https://forum.outerspace.com.br/index.php
[pedal]:              https://www.pedal.com.br/forum/forums.html
[portaldohost]:       https://portaldohost.com.br/
[tibiabr]:            https://forums.tibiabr.com/index.php
[tudocelular]:        https://www.tudocelular.com/forum/