Datasets:
README.md
CHANGED
@@ -35,3 +35,34 @@ Parâmetro | Descrição
|
|
35 |
`--wait=6` | Aguarda o número especificado de segundos entre cada requisição.
|
36 |
`-domains` | Lista separada por vírgulas dos domínios a serem seguidos.
|
37 |
`-e robots=off` | Ignora instruções do arquivo `robots.txt`.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
35 |
`--wait=6` | Aguarda o número especificado de segundos entre cada requisição.
|
36 |
`-domains` | Lista separada por vírgulas dos domínios a serem seguidos.
|
37 |
`-e robots=off` | Ignora instruções do arquivo `robots.txt`.
|
38 |
+
|
39 |
+
Todo o crawling foi realizado utilizado um thin client de baixo consumo de energia e, atráves do parâmetro `--wait`, **houve um cuidado para não sobrecarregar os servidores sendo acessados**.
|
40 |
+
|
41 |
+
## Fóruns
|
42 |
+
|
43 |
+
Link | Tema | Dataset | Número de registros (linhas)
|
44 |
+
---- | ---- | ------- | ----------------------------
|
45 |
+
[adrenaline.com.br][adrenaline] | Computadores | TBD | TBD
|
46 |
+
[clubedohardware.com.br][clubedohardware] | Computadores | TBD | TBD
|
47 |
+
[forumchaves.com.br][forumchaves] | Televisão | TBD | TBD
|
48 |
+
[hardmob.com.br][hardmob] | Variedades | TBD | TBD
|
49 |
+
[htforum.net][htforum] | Eletrônicos | TBD | TBD
|
50 |
+
[mochileiros.com][mochileiros] | Viagens | TBD | TBD
|
51 |
+
[outerspace.com.br][outerspace] | Jogos eletrônicos | TBD | TBD
|
52 |
+
[pedal.com.br][pedal] | Ciclismo | TBD | TBD
|
53 |
+
[portaldohost.com.br][portaldohost] | Hospedagem de sites | TBD | TBD
|
54 |
+
[skyscrapercity.com][skyscrapercity] | Turismo | TBD | TBD
|
55 |
+
[tibiabr.com][tibiabr] | Jogos eletrônicos | TBD | TBD
|
56 |
+
[tudocelular.com][tudocelular] | Eletrônicos | TBD | TBD
|
57 |
+
|
58 |
+
[adrenaline]: https://forum.adrenaline.com.br/
|
59 |
+
[clubedohardware]: https://www.clubedohardware.com.br/forums/
|
60 |
+
[forumchaves.com.br]: https://www.forumchaves.com.br/
|
61 |
+
[hardmob]: https://www.hardmob.com.br/forum.php
|
62 |
+
[htforum]: https://htforum.net/
|
63 |
+
[mochileiros]: https://www.mochileiros.com/
|
64 |
+
[outerspace]: https://forum.outerspace.com.br/index.php
|
65 |
+
[pedal]: https://www.pedal.com.br/forum/forums.html
|
66 |
+
[portaldohost]: https://portaldohost.com.br/
|
67 |
+
[tibiabr]: https://forums.tibiabr.com/index.php (em progresso)
|
68 |
+
[tudocelular]: https://www.tudocelular.com/forum/
|