--- task_categories: - text-generation language: - pt license: unlicense pretty_name: Quinquilharia --- [![](quinquilharia.png)]() # Quinquilharia Textos variados em português do Brasil. ## Fóruns Tema | Link do fórum | Dataset com scrap realizado ---- | ------------- | --------------------------- Ciclismo | [pedal.com.br][pedal] | TBD Computadores | [adrenaline.com.br][adrenaline] | TBD Computadores | [clubedohardware.com.br][clubedohardware] | TBD Eletrônicos | [htforum.net][htforum] | [htforum.csv][htforum-csv] (~99 mil linhas) Eletrônicos | [tudocelular.com][tudocelular] | TBD Hospedagem de sites | [portaldohost.com.br][portaldohost] | TBD Jogos eletrônicos | [outerspace.com.br][outerspace] | TBD Jogos eletrônicos | [tibiabr.com][tibiabr] | TBD Televisão | [forumchaves.com.br][forumchaves] | TBD Variedades | [hardmob.com.br][hardmob] | TBD Viagens | [mochileiros.com][mochileiros] | TBD [adrenaline]: https://forum.adrenaline.com.br/ [clubedohardware]: https://www.clubedohardware.com.br/forums/ [forumchaves]: https://www.forumchaves.com.br/ [hardmob]: https://www.hardmob.com.br/forum.php [htforum]: https://htforum.net/ [mochileiros]: https://www.mochileiros.com/ [outerspace]: https://forum.outerspace.com.br/index.php [pedal]: https://www.pedal.com.br/forum/forums.html [portaldohost]: https://portaldohost.com.br/ [tibiabr]: https://forums.tibiabr.com/index.php [tudocelular]: https://www.tudocelular.com/forum/ [htforum-csv]: foruns/htforum.csv ## Forumeiros Tema | Link do fórum | Dataset com scrap realizado ---- | ------------- | --------------------------- Agility (esporte) | [agilitybr.forumeiros.com][agilitybr] | [agilitybr-forumeiros.csv][agilitybr-csv] (~8,4 mil linhas) Agility (esporte) | [agilityrj.forumeiros.com][agilityrj] | [agilityrj.csv][agilityrj-csv] (~13 mil linhas) Animais | [aves.forumeiro.com][aves] | [aves.csv][aves-csv] (~3,6 mil linhas) Aquarismo e pesca | [aquaticosssa.forumeiros.com][aquaticosssa] | [aquaticosssa.csv][aquaticosssa-csv] (~470 linhas) Arte e design | [1130.forumeiros.com][1130] | [1130.csv][1130-csv] (~80 linhas) Artesanato | [armazemcriativo.forumeiro.com][armazemcriativo] | [armazemcriativo.csv][armazemcriativo-csv] (~4,8 mil linhas) Artesanato | [artesanatonarede.forumeiros.com][artesanatonarede] | [artesanatonarede.csv][artesanatonarede-csv] (~300 linhas) Artesanato | [artesetralhas.forumeiros.com][artesetralhas] | [artesetralhas.csv][artesetralhas-csv] (~300 linhas) Artesanato | [atelierdasartes.forumeiros.com][atelierdasartes] | [atelierdasartes.csv][atelierdasartes-csv] (~33 mil linhas) Celebridades | [alyssamilano.forumeiros.com][alyssamilano] | [alyssamilano.csv][alyssamilano-csv] (~1,2 mil linhas) Culinária | [artedeconfeitar.forumeiros.com][artedeconfeitar] | [artedeconfeitar.csv][artedeconfeitar-csv] (~4,3 mil linhas) Cultura local | [beneficiencia.forumeiros.com][beneficiencia] | [beneficiencia.csv][beneficiencia-csv] (~200 linhas) Cultura local | [bttdavinha.forumeiros.com][bttdavinha] | [bttdavinha.csv][bttdavinha-csv] (~2,8 mil linhas) Dança | [bboypt.forumeiros.com][bboypt] | [bboypt.csv][bboypt-csv] (~11 mil linhas) Fotografia | [aveirofotoclube.forumeiros.com][aveirofotoclube] | [aveirofotoclube.csv][aveirofotoclube-csv] (~16 mil linhas) Futebol | [accampanha.forumeiros.com][accampanha] | [accampanha.csv][accampanha-csv] (~200 linhas) Futebol | [arjuventudemuro.forumeiros.com][arjuventudemuro] | [arjuventudemuro.csv][arjuventudemuro-csv] (~270 linhas) Jardinagem | [arte108.forumeiros.com][arte108] | [arte108.csv][arte108-csv] (~22 mil linhas) Jogos de carta e tabuleiro | [battlescenes.forumeiros.com][battlescenes] | [battlescenes.csv][battlescenes-csv] (~10 mil linhas) Jogos eletrônicos | [a3cn.forumeiros.com][a3cn] | [a3cn.csv][a3cn-csv] (~400 linhas) Jogos eletrônicos | [alphamaker.forumeiros.com][alphamaker] | [alphamaker.csv][alphamaker-csv] (~400 linhas) Literatura e fan fiction | [animalistic.forumeiros.com][animalistic] | [animalistic.csv][animalistic-csv] (~140 linhas) Literatura e fan fiction | [bookess.forumeiros.net][bookess] | [bookess.csv][bookess-csv] (~900 linhas) Literatura e fan fiction | [bsfanfics.forumeiros.com][bsfanfics] | [bsfanfics.csv][bsfanfics-csv] (~600 linhas) Modelismo | [aeroaguia.forumeiros.com][aeroaguia] | [aeroaguia.csv][aeroaguia-csv] (~3,4 mil linhas) Modelismo | [amam.forumeiros.com][amam] | [amam.csv][amam-csv] (~1,4 mil linhas) Modelismo | [arsenalmodelismo.forumeiros.com][arsenalmodelismo] | [arsenalmodelismo.csv][arsenalmodelismo-csv] (~400 linhas) Modelismo | [autochampion.forumeiros.com][autochampion] | [autochampion.csv][autochampion-csv] (~26 mil linhas) Modelismo | [brasilminis.forumeiros.com][brasilminis] | [brasilminis.csv][brasilminis-csv] (~2,7 mil linhas) Música | [bondedastronda.forumeiros.com][bondedastronda] | [bondedastronda.csv][bondedastronda-csv] (~600 linhas) Quadrinhos e desenhos | [1piecebr.forumeiros.com][1piecebr] | [1piecebr.csv][1piecebr-csv] (~900 linhas) RPG | [astrath.forumeiros.com][astrath] | [astrath.csv][astrath-csv] (~1,1 mil linhas) Variedadas | [buraconegrospirit.forumeiros.com][buraconegrospirit] | [buraconegrospirit.csv][buraconegrospirit-csv] (~2,8 mil linhas) Variedades | [100teto.forumeiros.com][100teto] | [100teto.csv][100teto-csv] (~200 linhas) Variedades | [5meianoite.forumeiros.com][5meianoite] | [5meianoite.csv][5meianoite-csv] (~1,8 mil linhas) Variedades | [ascoresdasbeiras.forumeiros.com][ascoresdasbeiras] | [ascoresdasbeiras.csv][ascoresdasbeiras-csv] (~1,7 mil linhas) Áudio e vídeo | [audiobrasil.forumeiros.com][audiobrasil] | [audiobrasil.csv][audiobrasil-csv] (~1,7 mil linhas) [100teto]: https://100teto.forumeiros.com [1130]: https://1130.forumeiros.com [1piecebr]: https://1piecebr.forumeiros.com [5meianoite]: https://5meianoite.forumeiros.com [a3cn]: https://a3cn.forumeiros.com [accampanha]: https://accampanha.forumeiros.com [aeroaguia]: https://aeroaguia.forumeiros.com [agilitybr]: https://agilitybr.forumeiros.com [agilityrj]: https://agilityrj.forumeiros.com [alphamaker]: https://alphamaker.forumeiros.com [alyssamilano]: https://alyssamilano.forumeiros.com [amam]: https://amam.forumeiros.com [animalistic]: https://animalistic.forumeiros.com [aquaticosssa]: https://aquaticosssa.forumeiros.com [arjuventudemuro]: https://arjuventudemuro.forumeiros.com [armazemcriativo]: https://armazemcriativo.forumeiro.com [arsenalmodelismo]: https://arsenalmodelismo.forumeiros.com.br [arte108]: https://arte108.forumeiros.com [artedeconfeitar]: https://artedeconfeitar.forumeiros.com [artesanatonarede]: https://artesanatonarede.forumeiros.com [artesetralhas]: https://artesetralhas.forumeiros.com [ascoresdasbeiras]: https://ascoresdasbeiras.forumeiros.com [astrath]: https://astrath.forumeiros.com [atelierdasartes]: https://atelierdasartes.forumeiros.com [audiobrasil]: https://audiobrasil.forumeiros.com [autochampion]: https://autochampion.forumeiros.com [aveirofotoclube]: https://aveirofotoclube.forumeiros.com [aves]: https://aves.forumeiro.com [battlescenes]: https://battlescenes.forumeiros.com [bboypt]: https://bboypt.forumeiros.com [beneficiencia]: https://beneficiencia.forumeiros.com [bondedastronda]: https://bondedastronda.forumeiros.com [bookess]: https://bookess.forumeiros.net [brasilminis]: https://brasilminis.forumeiros.com [bsfanfics]: https://bsfanfics.forumeiros.com [bttdavinha]: https://bttdavinha.forumeiros.com [100teto-csv]: forumeiros/100teto.csv [1130-csv]: forumeiros/1130.csv [1piecebr-csv]: forumeiros/1piecebr.csv [5meianoite-csv]: forumeiros/5meianoite.csv [a3cn-csv]: forumeiros/a3cn.csv [accampanha-csv]: forumeiros/accampanha.csv [aeroaguia-csv]: forumeiros/aeroaguia.csv [agilitybr-csv]: forumeiros/agilitybr.csv [agilityrj-csv]: forumeiros/agilityrj.csv [alphamaker-csv]: forumeiros/alphamaker.csv [alyssamilano-csv]: forumeiros/alyssamilano.csv [amam-csv]: forumeiros/amam.csv [animalistic-csv]: forumeiros/animalistic.csv [aquaticosssa-csv]: forumeiros/aquaticosssa.csv [arjuventudemuro-csv]: forumeiros/arjuventudemuro.csv [armazemcriativo-csv]: forumeiros/armazemcriativo.csv [arsenalmodelismo-csv]: forumeiros/arsenalmodelismo.csv [arte108-csv]: forumeiros/arte108.csv [artedeconfeitar-csv]: forumeiros/artedeconfeitar.csv [artesanatonarede-csv]: forumeiros/artesanatonarede.csv [artesetralhas-csv]: forumeiros/artesetralhas.csv [ascoresdasbeiras-csv]: forumeiros/ascoresdasbeiras.csv [astrath-csv]: forumeiros/astrath.csv [atelierdasartes-csv]: forumeiros/atelierdasartes.csv [audiobrasil-csv]: forumeiros/audiobrasil.csv [autochampion-csv]: forumeiros/autochampion.csv [aveirofotoclube-csv]: forumeiros/aveirofotoclube.csv [aves-csv]: forumeiros/aves.csv [battlescenes-csv]: forumeiros/battlescenes.csv [bboypt-csv]: forumeiros/bboypt.csv [beneficiencia-csv]: forumeiros/beneficiencia.csv [bondedastronda-csv]: forumeiros/bondedastronda.csv [bookess-csv]: forumeiros/bookess.csv [brasilminis-csv]: forumeiros/brasilminis.csv [bsfanfics-csv]: forumeiros/bsfanfics.csv [bttdavinha-csv]: forumeiros/bttdavinha.csv [buraconegrospirit-csv]: forumeiros/buraconegrospirit.csv ## Crawling com wget O conteúdo obtido de páginas da web foi acessado com ajuda do comando `wget`, que suporta varrer um website obtendo suas páginas (crawling). Cada website requereu diferentes argumentos dentre os listados abaixo: Parâmetro | Descrição --------- | --------- `--adjust-extension` | Garante que ".html" seja adicionado aos arquivos. `--convert-links` | Converte links para links locais (útil para visualização offline). `--directory-prefix=/my/directory` | Define o diretório de destino. `--include-directories=posts` | Lista separada por vírgulas dos diretórios permitidos a serem seguidos no rastreamento. `--level=inf` | Define o nível de recursão como infinito. `--no-check-certificate` | Ignora a verificação de certificado SSL. `--no-clobber` | Evita o download de arquivos que já existem localmente. `--no-remove-listing` | Mantém os arquivos ".listing" criados para registrar o conteúdo dos diretórios. `--page-requisites` | Faz download de imagens embutidas, sons e folhas de estilo referenciadas. `--random-wait` | Multiplica o `--wait` aleatoriamente entre 0,5 e 1,5 para cada requisição. `--recursive` | Habilita o download recursivo (segue links). `--reject "*\?*"` | Rejeita URLs que contenham strings de consulta. `--span-hosts` | Permite download de arquivos de links que apontam para diferentes hosts. `--user-agent` | Envia o cabeçalho "User-Agent" especificado para o servidor. `--wait=6` | Aguarda o número especificado de segundos entre cada requisição. `-domains` | Lista separada por vírgulas dos domínios a serem seguidos. `-e robots=off` | Ignora instruções do arquivo `robots.txt`. Todo o crawling foi realizado utilizado um thin client de baixo consumo de energia e, atráves do parâmetro `--wait`, **houve um cuidado para não sobrecarregar os servidores sendo acessados**.