Shuheng Liu commited on
Commit
defa124
1 Parent(s): c3680d3

Upload model

Browse files
.gitattributes CHANGED
@@ -33,3 +33,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
33
  *.zip filter=lfs diff=lfs merge=lfs -text
34
  *.zst filter=lfs diff=lfs merge=lfs -text
35
  *tfevents* filter=lfs diff=lfs merge=lfs -text
 
 
33
  *.zip filter=lfs diff=lfs merge=lfs -text
34
  *.zst filter=lfs diff=lfs merge=lfs -text
35
  *tfevents* filter=lfs diff=lfs merge=lfs -text
36
+ tokenizer.json filter=lfs diff=lfs merge=lfs -text
README.md ADDED
@@ -0,0 +1,87 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: mit
3
+ base_model: xlm-roberta-large
4
+ tags:
5
+ - generated_from_trainer
6
+ datasets:
7
+ - uner_eng_ewt
8
+ metrics:
9
+ - precision
10
+ - recall
11
+ - f1
12
+ - accuracy
13
+ model-index:
14
+ - name: uner_eng_ewt
15
+ results:
16
+ - task:
17
+ name: Token Classification
18
+ type: token-classification
19
+ dataset:
20
+ name: uner_eng_ewt
21
+ type: uner_eng_ewt
22
+ config: default
23
+ split: validation
24
+ args: default
25
+ metrics:
26
+ - name: Precision
27
+ type: precision
28
+ value: 0.8282828282828283
29
+ - name: Recall
30
+ type: recall
31
+ value: 0.8506224066390041
32
+ - name: F1
33
+ type: f1
34
+ value: 0.8393039918116683
35
+ - name: Accuracy
36
+ type: accuracy
37
+ value: 0.9865203387808661
38
+ ---
39
+
40
+ <!-- This model card has been generated automatically according to the information the Trainer had access to. You
41
+ should probably proofread and complete it, then remove this comment. -->
42
+
43
+ # uner_eng_ewt
44
+
45
+ This model is a fine-tuned version of [xlm-roberta-large](https://huggingface.co/xlm-roberta-large) on the uner_eng_ewt dataset.
46
+ It achieves the following results on the evaluation set:
47
+ - Loss: 0.0734
48
+ - Precision: 0.8283
49
+ - Recall: 0.8506
50
+ - F1: 0.8393
51
+ - Accuracy: 0.9865
52
+
53
+ ## Model description
54
+
55
+ More information needed
56
+
57
+ ## Intended uses & limitations
58
+
59
+ More information needed
60
+
61
+ ## Training and evaluation data
62
+
63
+ More information needed
64
+
65
+ ## Training procedure
66
+
67
+ ### Training hyperparameters
68
+
69
+ The following hyperparameters were used during training:
70
+ - learning_rate: 3e-05
71
+ - train_batch_size: 16
72
+ - eval_batch_size: 16
73
+ - seed: 42
74
+ - optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
75
+ - lr_scheduler_type: linear
76
+ - num_epochs: 5.0
77
+
78
+ ### Training results
79
+
80
+
81
+
82
+ ### Framework versions
83
+
84
+ - Transformers 4.31.0
85
+ - Pytorch 1.10.1+cu113
86
+ - Datasets 2.14.4
87
+ - Tokenizers 0.13.3
all_results.json ADDED
@@ -0,0 +1,25 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "epoch": 5.0,
3
+ "eval_accuracy": 0.9865203387808661,
4
+ "eval_f1": 0.8393039918116683,
5
+ "eval_loss": 0.07336889207363129,
6
+ "eval_precision": 0.8282828282828283,
7
+ "eval_recall": 0.8506224066390041,
8
+ "eval_runtime": 4.1201,
9
+ "eval_samples": 2002,
10
+ "eval_samples_per_second": 485.91,
11
+ "eval_steps_per_second": 30.582,
12
+ "predict_accuracy": 0.9851775112563255,
13
+ "predict_f1": 0.8602941176470588,
14
+ "predict_loss": 0.08734852075576782,
15
+ "predict_precision": 0.8634686346863468,
16
+ "predict_recall": 0.8571428571428571,
17
+ "predict_runtime": 4.5981,
18
+ "predict_samples_per_second": 451.925,
19
+ "predict_steps_per_second": 28.273,
20
+ "train_loss": 0.026263209812495174,
21
+ "train_runtime": 785.6494,
22
+ "train_samples": 12544,
23
+ "train_samples_per_second": 79.832,
24
+ "train_steps_per_second": 4.99
25
+ }
config.json ADDED
@@ -0,0 +1,51 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "_name_or_path": "xlm-roberta-large",
3
+ "architectures": [
4
+ "XLMRobertaForTokenClassification"
5
+ ],
6
+ "attention_probs_dropout_prob": 0.1,
7
+ "bos_token_id": 0,
8
+ "classifier_dropout": null,
9
+ "eos_token_id": 2,
10
+ "finetuning_task": "ner",
11
+ "hidden_act": "gelu",
12
+ "hidden_dropout_prob": 0.1,
13
+ "hidden_size": 1024,
14
+ "id2label": {
15
+ "0": "O",
16
+ "1": "B-PER",
17
+ "2": "I-PER",
18
+ "3": "B-ORG",
19
+ "4": "I-ORG",
20
+ "5": "B-LOC",
21
+ "6": "I-LOC",
22
+ "7": "B-MISC",
23
+ "8": "I-MISC"
24
+ },
25
+ "initializer_range": 0.02,
26
+ "intermediate_size": 4096,
27
+ "label2id": {
28
+ "B-LOC": 5,
29
+ "B-MISC": 7,
30
+ "B-ORG": 3,
31
+ "B-PER": 1,
32
+ "I-LOC": 6,
33
+ "I-MISC": 8,
34
+ "I-ORG": 4,
35
+ "I-PER": 2,
36
+ "O": 0
37
+ },
38
+ "layer_norm_eps": 1e-05,
39
+ "max_position_embeddings": 514,
40
+ "model_type": "xlm-roberta",
41
+ "num_attention_heads": 16,
42
+ "num_hidden_layers": 24,
43
+ "output_past": true,
44
+ "pad_token_id": 1,
45
+ "position_embedding_type": "absolute",
46
+ "torch_dtype": "float32",
47
+ "transformers_version": "4.31.0",
48
+ "type_vocab_size": 1,
49
+ "use_cache": true,
50
+ "vocab_size": 250002
51
+ }
eval_results.json ADDED
@@ -0,0 +1,12 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "epoch": 5.0,
3
+ "eval_accuracy": 0.9865203387808661,
4
+ "eval_f1": 0.8393039918116683,
5
+ "eval_loss": 0.07336889207363129,
6
+ "eval_precision": 0.8282828282828283,
7
+ "eval_recall": 0.8506224066390041,
8
+ "eval_runtime": 4.1201,
9
+ "eval_samples": 2002,
10
+ "eval_samples_per_second": 485.91,
11
+ "eval_steps_per_second": 30.582
12
+ }
predict_results.json ADDED
@@ -0,0 +1,10 @@
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "predict_accuracy": 0.9851775112563255,
3
+ "predict_f1": 0.8602941176470588,
4
+ "predict_loss": 0.08734852075576782,
5
+ "predict_precision": 0.8634686346863468,
6
+ "predict_recall": 0.8571428571428571,
7
+ "predict_runtime": 4.5981,
8
+ "predict_samples_per_second": 451.925,
9
+ "predict_steps_per_second": 28.273
10
+ }
predictions.txt ADDED
@@ -0,0 +1,2078 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ O O O B-LOC O
2
+ O O O O O B-LOC O
3
+ O O O O O O O O O O
4
+ O O B-LOC O O O O O O O O O O
5
+ O O O O O O O O O
6
+ O O O B-LOC O
7
+ O O O O O O O O O O O O
8
+ O O O O O O O O O O
9
+ O O O O O O O O O O O
10
+ O O O O O O
11
+ O O O O O
12
+ O O O
13
+ O O O O O O
14
+ O O O O O O
15
+ O
16
+ O O O
17
+ O O
18
+ O O O O O B-LOC O
19
+ O
20
+ O
21
+ O O O O O O O O B-LOC O
22
+ O O O O O O O O O
23
+ O O O O O O O O O O O O O O O O O
24
+ O O O O O O O B-LOC O
25
+ O O O O
26
+ O O O O O O O O B-LOC O
27
+ O O O O
28
+ O O O O O O O O O O O O O
29
+ O O O O O O O
30
+ O O O O O O O O O O O O
31
+ O O O O O O
32
+ O O O O O O
33
+ O O O O O O O O O O O O O O O B-LOC O O O
34
+ O O O O O O O O O O O B-LOC O
35
+ O O O O O O O O O O O O O O O O O O
36
+ O O O O O O O O
37
+ O O O O O O O O O O O O
38
+ O O O O O O O
39
+ O O O O O O O
40
+ O O O O O O O O O O O O O O O O O O O O O O O O
41
+ O O O O O O O O
42
+ O O O O O O O O O O O
43
+ O
44
+ O
45
+ O B-PER I-PER O O
46
+ O B-PER I-PER O O O O O O
47
+ O O O O O O O O O O O O O O
48
+ O O O O O O O O O O O O O
49
+ O O O B-PER I-PER O O
50
+ O B-PER O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
51
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O
52
+ O O O O O O O O O O O O O O O O B-LOC O O O O O O B-LOC O O
53
+ O O O O O O O O O O
54
+ O O O O O O
55
+ O O O
56
+ B-PER I-PER O O O O O O O O O O O O
57
+ O O O O O O O O O O O O O O O
58
+ O O B-LOC O O O O O O O O O O O O O O
59
+ O O O O B-LOC O
60
+ O O O O O O O O O O B-LOC B-LOC O
61
+ O O O O O O O O
62
+ B-ORG I-ORG O O O O O O
63
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O
64
+ O O O O O O O O O O
65
+ O
66
+ B-LOC I-ORG I-ORG O O O O B-LOC I-LOC O
67
+ O B-LOC I-LOC I-LOC O O O O O B-LOC I-LOC O O O O O O O O O
68
+ O O O O O O O O O O O O O O O O B-LOC O O O O
69
+ O
70
+ O O O O O O O O O B-LOC I-LOC O O
71
+ O O O O O O O O O O O O O O O O O O O O O O O O O
72
+ O O O O O O O O O O O O O O O O O B-ORG O
73
+ O O O O O O O O O O O O O O O O O O O O O
74
+ O O O O O O O O O
75
+ O O O O O
76
+ O O O O O O O O B-ORG I-ORG O O O O O O O O
77
+ O O O O O O O O O O O O
78
+ O O O O O O O O O O O O O O O O O O O O
79
+ O O O O O O O O O O O O O O O O O B-ORG O O O O O O
80
+ O O O O O B-LOC I-LOC O
81
+ O O O O O O O O O O
82
+ O O O O O O O O O O O
83
+ O O O O O O O O O O O O O O O O O
84
+ O O O O O O O O O O O O O O O O O O O O O O O
85
+ O O O O O O O O O O O O O O O O B-LOC I-LOC O
86
+ O O O O O O O O
87
+ O O O O O O O
88
+ O O
89
+ O O O O B-LOC O
90
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
91
+ O O O O O O O O O O
92
+ O O O O O O O O
93
+ O O
94
+ O O O O O O O O O O O O O O B-LOC B-LOC I-LOC O
95
+ O O O O B-LOC B-LOC I-LOC O O O O O O O O O O O O O O O O O O O O O B-ORG I-ORG I-ORG O
96
+ O O O O O O O
97
+ O O O B-LOC O O O B-ORG I-ORG O O O
98
+ O O O O
99
+ O O O O O O O O O O O O O O O O O O O O
100
+ O O O O B-LOC O O O O B-LOC I-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
101
+ O O O O O O O O O O O O O
102
+ O O O O O O O O
103
+ O O O O O
104
+ B-LOC I-LOC I-LOC O O O O O O O O O
105
+ O
106
+ O O O
107
+ B-PER I-PER O O O
108
+ O B-ORG O
109
+ B-PER I-PER O O O O O O O O O O O O O O O O
110
+ O O O O O O O O
111
+ O O O O O O O
112
+ O O O O O B-LOC O O
113
+ O O O O O O O O B-LOC O O O O O B-ORG I-ORG I-ORG I-ORG I-ORG I-ORG O O O O O O O
114
+ O O O
115
+ O O O O O O O O O O
116
+ O O O
117
+ O O O
118
+ O O
119
+ O O O O O O
120
+ B-ORG I-ORG O O O O O O O O O O O O
121
+ O O O O O O
122
+ O
123
+ O O O O O O B-LOC I-LOC O O O O O
124
+ O
125
+ O O B-ORG I-ORG I-ORG O O O O O O O O O B-LOC O
126
+ O
127
+ O O O O O O O O O O O O O O O O O
128
+ O O O O O O O O
129
+ O
130
+ O O O O O B-LOC O O
131
+ O O O O O O O O O O O O O O O O O B-LOC O O O O O O O
132
+ O O O O O O O O O O O O O O B-LOC I-LOC O O O O
133
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
134
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
135
+ O O O O O O O O O O O O O O
136
+ O O O O O O O O O O O
137
+ O O O O O O O
138
+ O O O O O O O O O O O O
139
+ O O O O O O O O O O O O O O O
140
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
141
+ O O O O O B-LOC I-LOC I-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O O
142
+ O O O O O O O O O O O
143
+ O O O O O O O O O O
144
+ O O O O O O O O O O O O O O O
145
+ O O O O O O O O O O O O O O O O
146
+ O O O O O O O O O O O O O O O
147
+ O O O O
148
+ O O O O O O O
149
+ O O O B-ORG I-ORG I-ORG O B-ORG I-ORG O B-ORG I-ORG O
150
+ O O O O O O O O O O O O O O O O O
151
+ O O O O O O O O O O O O
152
+ O O O
153
+ B-LOC O O O O O O O O O O O O O
154
+ B-LOC O O O O O
155
+ O O O O O O O
156
+ O O O O O O B-LOC O
157
+ O O O O O O B-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O O
158
+ O O O O O O B-LOC I-LOC O O O O O O O O O
159
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
160
+ O O O O O O O O O O O O O O O O O O O O O O O O O
161
+ O O O O O O O O O
162
+ O O O O O O O O O O O O O O O O
163
+ O O O
164
+ O O O O O
165
+ O O B-LOC O O O O O B-LOC O
166
+ O O O O O O O O O O O O O O B-LOC O
167
+ O O O O O O O O O O O O O O O O
168
+ O O
169
+ O O O O O O
170
+ O O O O O O O O O
171
+ O O O O O O O O O O O O O O O O O O O O O O
172
+ O O O O O O O B-LOC O
173
+ O O O O O O O O
174
+ O O O O O O O O O O O O O O O O O O O
175
+ O O O O O O O O O
176
+ O O O O O O O O
177
+ O O O O O O O O O O O O O O O O O
178
+ O O O O O
179
+ O O O O O O O O O O O O O O O
180
+ B-ORG O O O O O O O O O O O O O
181
+ O O O O O O
182
+ O O B-ORG I-ORG O O O O O B-LOC O
183
+ O O O O O O O O
184
+ O O O B-ORG I-ORG O O O O O O O O O O O O O O O O B-LOC O
185
+ O O O O O O O O O O O O O B-ORG I-ORG O B-ORG I-ORG I-ORG I-ORG O B-PER I-ORG O
186
+ O O O O O O O
187
+ O O O O O O O O O O O O O O O
188
+ O B-LOC
189
+ O O O O O O O O O
190
+ O O O O O O O O O O O B-LOC O B-LOC O
191
+ O O O O O O O O O O O O O
192
+ O O
193
+ O O
194
+ B-PER I-PER
195
+ O O
196
+ O O O O O O O O O O O O O O O
197
+ O O O O
198
+ O O O
199
+ O O O O O O O
200
+ O O O O O O O O O O O
201
+ O O O O O B-LOC O
202
+ O O O O O O O O O O O O O
203
+ O O O O O O O O
204
+ O O O O O B-LOC O O O O O O O B-ORG I-ORG O O O O O B-LOC I-LOC I-LOC O
205
+ O O O O O O O O O B-LOC O O O O O
206
+ O O O O O O O O
207
+ O O O O O O O I-LOC O O O O O O O O B-LOC O O O O O O O
208
+ O O O O O O O O O O O O O O
209
+ O
210
+ O O O O O O B-PER O
211
+ O O O O O O B-LOC O O O O O O O O O B-PER O O O O O O O O
212
+ B-PER O O O O O O O O O O O B-PER O O O O O
213
+ O O O O O O O O O O O O O B-PER O
214
+ O O O O B-PER O O O O B-PER O O O O O O O B-PER O O O O O B-PER O O O O
215
+ O O O O O O B-PER O O
216
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
217
+ O O O O O O O O O O O O
218
+ O O O O O O O
219
+ O O O O
220
+ O O
221
+ O O O O O O O O O O O O O O
222
+ O O O O O O O O O O O
223
+ O O O O O O O B-LOC O
224
+ O O O O
225
+ O O O O O O O O
226
+ O O O O O O O O O O O O O O B-LOC O
227
+ O O O O O O O B-LOC O O
228
+ O O O O O O O B-LOC
229
+ O B-PER I-PER I-PER O O O O O O O O O O O
230
+ O O O O O O O O O O O O O O O B-LOC O O O O O O O O O O O O O O O O O O O O O O O O
231
+ O O O O O O O O O
232
+ O O O O O O O O O
233
+ O O O O O O O B-ORG O O O O O O O O O O O
234
+ O O O O O O O O O O O O O O O O O
235
+ O O O O O O O O O O O O O O
236
+ B-PER O O O O O O O O O O O
237
+ O O O O B-LOC I-LOC O O O O O O O O O
238
+ O O O O O O B-LOC I-LOC O O O O O O O O
239
+ O O O O O O O O O O O O O O O
240
+ O O O O O O O O O O O O O O O O
241
+ O O O O O O O O O B-LOC I-LOC
242
+ O
243
+ O O O O O O O O O O O B-ORG I-ORG O O O
244
+ O O O O O O O O
245
+ O O O O O O O O O O O
246
+ O O
247
+ O O O O O O O O B-ORG I-ORG O B-LOC O
248
+ O O O O
249
+ O O
250
+ O O O O O O O O O O O
251
+ O O O O O O
252
+ O O O O O
253
+ O O O
254
+ O
255
+ O O O O O O O O O O O O O
256
+ O O O O O O O O O O O O O O O O O O O O O O
257
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
258
+ O O O O O O O O O O O O O O O
259
+ O O O O O O O O O O O O O O
260
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
261
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O
262
+ O O O O O O B-LOC O
263
+ O O O O O O O O O O O
264
+ B-ORG I-ORG O B-PER I-PER O
265
+ O O B-PER I-PER I-PER O B-LOC O
266
+ O O O B-LOC O
267
+ B-LOC O O O O O
268
+ O O B-LOC O O O O O
269
+ B-PER
270
+ O O O O O B-ORG I-ORG O
271
+ O O B-ORG I-ORG O
272
+ O O O O O O O O O O O O O O O O O O O
273
+ O O O O O O O O O O O O
274
+ O O O O O O O O
275
+ O O O O O O O O B-ORG I-ORG O
276
+ O
277
+ B-ORG O O B-LOC O B-LOC O
278
+ O O O B-ORG O O O O O
279
+ O O O O O B-ORG I-ORG I-ORG O O O
280
+ O O O O O O O B-LOC O
281
+ O O O O O O O O
282
+ O O O O O O O O O O O O O
283
+ O O O O O O O O O O O
284
+ O O
285
+ O O O O O O O O
286
+ B-PER O O O O O O O O O O O O O O
287
+ O O O O O
288
+ O O O O O O O O O O O O O O O O O O O O O O O O O
289
+ B-ORG O O O O
290
+ O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O
291
+ O O O O O O O O O O O O O O O O O O O
292
+ O O O O O O
293
+ O O O O O O O O O O
294
+ O O
295
+ O O O O O O
296
+ O O O O O O O O O O O O B-ORG O O O O
297
+ O O O O
298
+ O O O O O O O O O O O O
299
+ O O O O O O O O O O O O B-ORG O
300
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
301
+ O B-ORG
302
+ O O O O O O O O O O O O O
303
+ O O O O O O O
304
+ O O O O
305
+ O O O
306
+ O O O O O O O O O
307
+ O
308
+ O O O
309
+ O O O O O O O O O O
310
+ O
311
+ O O O
312
+ O O O O O O O O O O O O O O O O O O O O O O O O
313
+ O O O B-PER I-PER O O O
314
+ O
315
+ O O
316
+ O
317
+ O O O O O
318
+ O O O O O O B-LOC O O O O O O O O O O O O O O O O O O O
319
+ O O O O O
320
+ O O O O O O O O O O
321
+ O O O O O O O O O O
322
+ O O O O O O O O O O O O O O O O O
323
+ O O O O O O O O O O O O O O O O O O O O O
324
+ O O O O O O O
325
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
326
+ O O O O O O O O O O O O
327
+ O O O O O O O O O O O O O O O O O
328
+ O
329
+ O O O O
330
+ O O O O
331
+ O O O B-ORG O O O O O O B-ORG O O O O O O O O O O O O O
332
+ O O O B-ORG O O O O O O B-ORG O O O O O O O O O O O O O
333
+ O O O O O O O O O O O O O O O O O
334
+ O O O O O O O O O O O O O O O O O O O O O O
335
+ O O O O O O O O O O O O O O O O O O O O O O O
336
+ O O O O O O O O O O O O O O O O O O O
337
+ O O O O O O
338
+ O O O O O O O O O O O O O O O O O O O O O O O O
339
+ O O O O O O O O O O O O O O O O O O
340
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
341
+ O O O
342
+ O O O
343
+ O O O O O O O O O
344
+ O O O O O O O O O O O O O O O O O O O O O O O
345
+ O O O O O O O O O O O O O O O O O O O O O O O O O
346
+ O O O O O O O O O O O O
347
+ O O O O O O O O O O O O O O O
348
+ O O O O O O
349
+ O O O O O O O O O O O O O O O O O O O O O
350
+ O O O
351
+ O O O O O O
352
+ O O O O
353
+ O O O O O O O O O O O O O O O O O O O O O O O
354
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
355
+ O O O O O O O O O O O O O O O O
356
+ O O O O O O O O O O
357
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
358
+ O O O O O O O O O O O O O
359
+ O O O O O O O O O O O O O
360
+ O O O O O O O O O O O O
361
+ O O O O O O O O O O O O
362
+ O O
363
+ O O O O O
364
+ O O O O O O O O O O O O O O O O O O O O O O O O O
365
+ O O O O O O O O O O O
366
+ O O O
367
+ O
368
+ O O B-LOC O B-LOC O
369
+ O O O O O O O O O O O O O O O
370
+ O O O O O O O O O O O O O
371
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
372
+ O O O O O
373
+ O O
374
+ O O O O O O O O
375
+ O O O O O O O O O
376
+ O O O O B-LOC O
377
+ O O O O O
378
+ O O O O O O O O O O O O O O
379
+ O O O O O O O O O O O O O O O O O O
380
+ O O O O B-LOC O B-LOC O
381
+ O O O O O O O O B-LOC O O O O O O O O O B-LOC O B-LOC O B-LOC I-LOC O O
382
+ O O O O O O O O O O O O O O
383
+ O O O O O O O O O O O O O O
384
+ O O O O O O O O O O O O
385
+ O O O O B-LOC I-LOC O O O O O O O O O O B-ORG I-ORG O O O O O O O
386
+ B-LOC O B-LOC O B-LOC O B-LOC O O B-LOC O B-LOC O
387
+ O O O O O O O O O O O O O O
388
+ O O O O O
389
+ O O O O O O O O O O O O O O O O O B-LOC O B-LOC O
390
+ O O O O O O O O O O O
391
+ O O O O O O O O O O O O O O
392
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
393
+ O O O O O O O O O O O
394
+ O O O O O O O O O
395
+ O
396
+ O O O O O O O O O
397
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
398
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
399
+ O O O O O O
400
+ O O O O O O
401
+ O O O O O O O O O O O O O O O O
402
+ O O O O O
403
+ O O O O O O O O O O O O O
404
+ O O O O O O O
405
+ O O O O O O O O O O O O O O O O O O O
406
+ O O O O O O O O O O O O O O O O
407
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
408
+ O O O O O O O O O O O O O O O O
409
+ O O O O O O
410
+ O O O O O O O O O O O O O O O O
411
+ O O O O O O O O O
412
+ O O O O O O O
413
+ O O O O O O O O O O
414
+ O O O O O O O O O O O O O O O
415
+ O O O O O O O O O O O O O O
416
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O
417
+ O O O O O O O O O O O O O O O O O O O O
418
+ O O O O O O O O O O O
419
+ O O O O O O O B-LOC O O O O O O O O O O O O O
420
+ O O O O O O O O O O O O O
421
+ O O O O O O O O O O
422
+ O O O O O O O O O O O O O O O O O O O O O O O O O
423
+ O O O O O O O O O O O O O O O
424
+ O O O O O
425
+ O O O O
426
+ O O O O O O
427
+ O O O O O
428
+ O
429
+ O O O O O O O O O O O O O O O O
430
+ O O O O O
431
+ O O O O O O O O O O O O O
432
+ O O O O O
433
+ O O O O O
434
+ O O O O O O O O O O O O
435
+ O O O
436
+ O O O O O O O O O
437
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
438
+ O O O O O O O O O O O O O O O O
439
+ O O O O O O O
440
+ O O O O O O O O O O O O O O O O O O O
441
+ O O O O O O O O O O O O O O O
442
+ O O O O O O O O O O O O O O O O
443
+ O O O O O O
444
+ O O O O O O O O O O O O O B-PER O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
445
+ O O O O O O
446
+ O O O O O O O O O O O
447
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
448
+ O O O O O O O O O O O O O O O O O O
449
+ O O O O O O O O O O O O O O O O O O O O
450
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
451
+ O O O O
452
+ O O O O
453
+ O O B-LOC O B-LOC B-LOC
454
+ O O O O O O
455
+ O O
456
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
457
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
458
+ B-PER
459
+ O O
460
+ O O O O O O O O O O O O O O B-ORG I-ORG O O O O O O O O O O
461
+ O O
462
+ B-ORG I-ORG I-ORG I-ORG O O O B-LOC O B-LOC O O O O O O O O O O O O O O
463
+ O
464
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
465
+ O O O O O O O O O O O O O B-ORG O
466
+ O O O O O O O O O O O O
467
+ O O O O O O O O O O O O O
468
+ O O O O O
469
+ O O O O O O B-ORG O B-PER O O O O O O B-PER O O O O O O B-PER O B-PER O O O O O O O O O O O O O O O O O O O B-ORG O O O O O O O O O O O O O O O O O O
470
+ O O O O O O O O O O O O O
471
+ B-PER
472
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O
473
+ O O O O O O O O O O O O O O O O O O O
474
+ O O O O O O O O O O O O O
475
+ O O O O O
476
+ O O O O O O
477
+ O O O O O O O O O O
478
+ O O
479
+ O O O O O
480
+ O B-PER O
481
+ O O O O O O O
482
+ O O
483
+ B-PER
484
+ O O O O O O
485
+ O O O O O O O O O O O O O O
486
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER O O O B-PER I-PER O O O O O O B-LOC O O O O O O O O
487
+ O O
488
+ O O O O O O O O
489
+ O O O O O O O O O O O O O O O O O B-PER O
490
+ O O O O O O O O O O O O O O O O O
491
+ O O O O O O O O O O O O O O O O O O O O
492
+ B-PER I-PER
493
+ O O O
494
+ B-PER O
495
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
496
+ B-PER O O O O O O O O O O O O O O O O O O O
497
+ O O O O O O O O O O O O O O O O O O O O O O O O O
498
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
499
+ O O O O O O O O O O O O
500
+ O O
501
+ B-PER
502
+ O O O O O O B-ORG O O O O
503
+ B-PER
504
+ B-PER
505
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER I-PER O O O O O O O
506
+ O
507
+ B-PER O
508
+ O O O O O O O O O O O O O O
509
+ B-PER
510
+ O O O O
511
+ O O O O O O O O O B-ORG
512
+ O O O O O O B-ORG
513
+ O O O O
514
+ O O O O O O O O O B-ORG
515
+ O O O O O O B-ORG
516
+ O O O O
517
+ O O O O O O O O O B-ORG
518
+ O O O O O O O
519
+ O O O O
520
+ O O O O O O O O O O O O O O O O O O
521
+ O O O O O O
522
+ B-PER
523
+ O
524
+ O O O O O O
525
+ O
526
+ O O O O O O O O O
527
+ O
528
+ B-PER
529
+ O O O O O
530
+ B-PER O
531
+ O O O O O
532
+ O O O O O O O O O
533
+ O O O O O O O O O O O O O O O O O O O O O O O
534
+ O O O O O O O O O O O O O O O O O
535
+ O O O O O O O O O O O O O O O O
536
+ O O
537
+ B-PER I-PER B-LOC O O O O O B-ORG I-ORG O O O O B-LOC O B-LOC O O O O O O O O O O O O O O
538
+ O B-PER I-PER O O O O O
539
+ B-PER O
540
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
541
+ O O O O O O O O O O O O O O O O O O
542
+ O O O O O O O O O O O O O O O
543
+ O O O O O O O O O O O O O O O O O O
544
+ O O O O O O O O O O O O O O O O O O
545
+ O O O O O O O O O
546
+ O O O O O O O O O O O O B-LOC O O O O O O O O O
547
+ O O O O O O O O O O O O O O O O O O O O O O O O O
548
+ O O O O O O O O O O
549
+ B-PER
550
+ B-PER O
551
+ O O O O O O O O O O B-LOC O
552
+ O O O O O O O
553
+ O O O O O O O O O O O O O O O O O O O O O
554
+ O O O
555
+ B-PER I-PER I-PER O B-ORG I-ORG I-ORG O O O O B-ORG I-ORG I-ORG I-ORG I-ORG O O O O O O O O O O O O O O O O B-LOC O B-LOC O O O
556
+ B-PER O
557
+ O O O O O O O O O O O O O O O
558
+ B-PER
559
+ B-PER O
560
+ O O O O O B-ORG O B-PER I-PER O O O O O O O O O O O O O O
561
+ O O O O O O O O O
562
+ B-PER
563
+ B-PER I-PER O O O O O O O
564
+ B-PER O
565
+ O O O O O O O O O O O O O O O O O O O
566
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-LOC O O O O O O O O O O O O
567
+ O O
568
+ B-PER
569
+ B-PER I-PER O O O B-ORG I-ORG I-ORG I-ORG B-ORG I-ORG I-ORG I-ORG O B-LOC O O O O O O O O O O
570
+ B-PER O
571
+ O O O O O O O O O O O O O O O O
572
+ O O O O O O O O O O
573
+ B-PER
574
+ B-PER O
575
+ O O O
576
+ O O O O O O O O O O O B-PER I-PER O B-ORG O
577
+ O O O B-PER I-PER O
578
+ O O O O O O
579
+ O
580
+ B-PER
581
+ B-PER I-PER
582
+ O O O
583
+ O O O O O
584
+ O B-PER O
585
+ O O O O O O O O O O O O O O O O O B-LOC O O O O O O
586
+ O O O O O O O B-PER I-PER O O O O O O O O O O O O O
587
+ O O O O O O O O O O O O O
588
+ B-PER
589
+ O O
590
+ B-PER O
591
+ O O O O
592
+ O O O O O O O O O O O O O O O O O O O
593
+ O O O O O O O O O
594
+ B-PER I-PER I-PER O O O O
595
+ O O O O O O O O
596
+ B-PER
597
+ B-PER I-PER O O O O O O O
598
+ O O O B-PER I-PER O O O
599
+ B-PER O B-PER
600
+ O O O O O O O O O O O O O O O O
601
+ O O
602
+ B-PER
603
+ O
604
+ B-PER I-PER O O B-ORG B-LOC O B-LOC O O O O O O O O O O O O
605
+ O
606
+ O O
607
+ B-PER O
608
+ O O O O B-PER I-PER O O O O O
609
+ O O O O O O O O O B-ORG O O O O O O O O O O O O O O O O O
610
+ O O O O O O O O O O O O O
611
+ O O O O
612
+ O O O
613
+ B-PER
614
+ B-PER I-PER I-PER
615
+ O O O
616
+ B-PER O
617
+ O O O B-PER I-PER O O O O O O O O O
618
+ B-PER
619
+ B-PER I-PER O O O O O O O
620
+ B-PER O
621
+ O O O O O O O O O O O O O O O
622
+ O O O O O O O O O O O O O O O
623
+ O O O O O O O O O O O O O O O O O O O O
624
+ B-ORG O O O O O O O O O O O O O O O O O O O
625
+ O O O O O O O O O O O O O O O O
626
+ O O O O O O O O O O O O O O O
627
+ O O O
628
+ B-PER I-PER O O O
629
+ B-PER O
630
+ O O O
631
+ O O O B-PER O O O
632
+ B-PER
633
+ O O O O B-PER O O O O O O O O O O O O O O O O O B-PER O O O O O
634
+ O O O O O
635
+ O O
636
+ B-PER
637
+ O O O O B-PER I-PER O O
638
+ O O O O O O O O O
639
+ B-PER I-PER I-PER B-ORG I-ORG O O O O O O O O O O O O O O
640
+ O O B-PER O
641
+ O O O O O B-PER I-PER O O O B-PER I-PER O O O O O O O O O O O O O O B-ORG I-ORG I-ORG I-ORG O B-PER I-PER O
642
+ B-PER I-PER I-PER B-ORG I-ORG O O O O O O O O O O O O O O
643
+ O O O
644
+ O B-PER O
645
+ O O O O O O O O O O O O O O O O O O
646
+ O O O O O O
647
+ O O O O O O O
648
+ B-PER
649
+ O O O
650
+ B-PER O
651
+ O O O O O O O O O O O O O
652
+ O O O O O O
653
+ O O O O O O
654
+ O O O O O
655
+ O
656
+ O O O O O
657
+ O O O O O O O O O O O
658
+ B-PER
659
+ O O O O O O O O O O O O O
660
+ O O O O O O B-PER O O O O O O
661
+ O
662
+ B-PER
663
+ O O
664
+ O O O O O O O O O O
665
+ O O O O O O O O O O O O O O O O O O O O O O O O O
666
+ O O O O O O O O O O O O O O O O O O O O
667
+ O O
668
+ B-PER
669
+ O O
670
+ O O O O O O O O O O
671
+ O O O O O O B-LOC O O O
672
+ O O O O O O O
673
+ O O O O O O O O O O
674
+ O O O O O O O O O O O O O
675
+ O O O O O
676
+ B-PER
677
+ O O O
678
+ O O O O O O O O O O O O O O O O O O O O O O O O O
679
+ O O O O O O O O O O O O O O O O O O O O O O O
680
+ O O O O O O O O O O O O O O O O
681
+ O O O O O
682
+ B-PER
683
+ O O O O O O
684
+ O O O O O O O O O
685
+ O O O O O B-LOC O O O O O O O O O O O O O O
686
+ O O O O O O
687
+ O
688
+ O O O O O O O O
689
+ O O O O O O O
690
+ O O O O O O O
691
+ O O O O O O O O O
692
+ O O O O O O O O O
693
+ O O O O O O O O
694
+ O O O O O O O
695
+ O O O O O O O O
696
+ O O O O O O O
697
+ O O O O O O O O O
698
+ O O O O O O O O O
699
+ O
700
+ O O O O
701
+ O O O O O O O O O O O O O O O O O O B-PER O
702
+ O O O O O O O O O O O
703
+ O
704
+ B-PER
705
+ O O O O O O O O O O O O O
706
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O
707
+ O O O O O O O O O O O O O O O O O O O
708
+ O O O O O O O O O O O O O
709
+ O O O O O O O O O O O
710
+ O O O O O O O O O O O O O O O O O O O O
711
+ O O
712
+ B-PER I-PER O O O O O O O O O O O O
713
+ B-PER O
714
+ O O O O O O O O O O
715
+ O O O O O O O O O O O O O O O O O
716
+ O O O O O O O O O O O O O O
717
+ B-PER I-PER O O O O O O O O O O O O O O O O O O O O O O O O
718
+ O
719
+ B-PER
720
+ B-PER O
721
+ O O O O O O O O O O O O O O O
722
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
723
+ O O O O O O O O O O O
724
+ O
725
+ B-PER
726
+ O O O O
727
+ B-PER
728
+ B-PER O
729
+ O O O O O O O O O O O O O O O
730
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
731
+ O O O O O O O O O O
732
+ O
733
+ B-PER
734
+ O O O O O
735
+ O O O O O O O
736
+ O O O O O O
737
+ O O O
738
+ O O O O O O O
739
+ O O O O O O O O O O O O O
740
+ O O O O O O O O O
741
+ O O O O O O O B-LOC I-LOC O
742
+ O O O O O O O
743
+ O O O O O
744
+ O O O O O O
745
+ O O O
746
+ O O O O O O
747
+ B-LOC O O O O O O O O O O O O O O
748
+ O O O O O O
749
+ O O O O O O O
750
+ O O O O O O O O
751
+ O O O O O O O O O O O O O O O O O
752
+ O O O O B-PER O O O O O O O
753
+ O O O O O O O O O O O
754
+ O O O O O O O O O O O
755
+ O O O O O
756
+ O O O O
757
+ O O O O O O O O O O O O O O O O O O O O O O
758
+ O O O O O O B-ORG O O O O O O O O O O O O O O O
759
+ O O O O O O O O O O O B-ORG O O
760
+ O O O O O O B-ORG O O O O O O O O
761
+ O O O O O O O O O O O O O O O O O O B-ORG O O O O O O O O B-PER I-PER I-PER I-PER I-PER O O O O O O O O O
762
+ O O O O O O O O O O O O O O O O O O O B-ORG O O O O
763
+ O
764
+ O
765
+ O
766
+ O
767
+ O
768
+ O O O O O O O O
769
+ O O O O O O O
770
+ O O O O O O O O O O O O O O
771
+ O O B-ORG O O O
772
+ O O O O O O O O
773
+ O O O O O O O O
774
+ O O O O O O O O O O
775
+ B-ORG O O O O
776
+ O O O O
777
+ O O O O O O
778
+ O O O O O
779
+ O O O O O
780
+ O O O O O O O O O O O
781
+ O O
782
+ O O O
783
+ O O O O O O O O O O O O O O O O O
784
+ O O
785
+ O O O O O O O O O O O O
786
+ O O O O O O O O
787
+ O O O O O B-ORG O O O O O O O O
788
+ B-LOC O B-ORG I-ORG O
789
+ O O O O O O O
790
+ O O
791
+ O O O O O O
792
+ O O O O O O O O B-PER O O O O O O
793
+ O O O O O
794
+ O O O O O O O
795
+ O O O O O O O O O O O
796
+ O O O O O O
797
+ O O O O O O
798
+ O O O O
799
+ O O O O O O
800
+ O O O B-LOC O
801
+ O O O O O O O O O O
802
+ O O O O O O O O O O O O O O O
803
+ O O O O O O
804
+ O O O O
805
+ O
806
+ O O O
807
+ O O O O O O O O O O O O O O O O
808
+ O O O O O O
809
+ O O O O O O O O
810
+ O O O
811
+ O O O O O O O O O O O O O O O O O O O O O
812
+ O O O O
813
+ B-PER I-PER
814
+ O O
815
+ B-PER O
816
+ O O B-LOC I-LOC O
817
+ O O O O O O O O O O B-PER O O O O
818
+ O O O O O O O B-PER O
819
+ O O O O O O O O O O O O O B-ORG O O O
820
+ O O O O O O O O O O O
821
+ B-PER I-PER O B-PER I-PER I-PER O O O O O O O O O O O O O O O O O O
822
+ O O O O O O O O O O O O O
823
+ O O O O O O O O O O O O O O O O O O O O O O O O O
824
+ O O O O O O O O O O O O O O O O O O O
825
+ O O O
826
+ B-PER
827
+ O
828
+ O O O
829
+ O O O B-PER I-PER
830
+ O O O O O O O O O O
831
+ O O O O O O O O O O
832
+ O O O O O O
833
+ O O O O O O O O O O O
834
+ O O O O O O O O O O O O
835
+ O O O O O O O O O O O O O O
836
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
837
+ O O O O O O O O O O O
838
+ O O O O O O O O O O O O O O O O O O O O O O
839
+ O O O O O O O O O O O O O O O O O O O O O O O O O
840
+ O O O O O O O O O O O O
841
+ O O O O O O O O O O O O O O O O O O O O O
842
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O
843
+ O O O O O O O
844
+ O O O O O O O O O O O O O O O O O
845
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O
846
+ O O O O O O O O O
847
+ B-PER I-PER
848
+ O O O
849
+ O O O O O O O O O O O O O O O O O
850
+ O O O
851
+ B-PER I-PER
852
+ B-PER I-PER
853
+ O O O
854
+ O O
855
+ O O O O O O O O O O O O O O O
856
+ B-PER I-PER I-PER
857
+ O O O
858
+ O O O O O O O O O O B-LOC O O O O O O O O O O O O O
859
+ O O O O O O O O O B-PER O O O O O B-ORG O O O O O O O O O O O O
860
+ O O O B-PER I-PER O O O O O O O O O O O
861
+ O O O O O O O O O
862
+ O O O O O O O O O O
863
+ O O O O O O O O O O O O O O O
864
+ O O O O O O O O O O O O O O O O O O O O O O O B-PER O O O O O O O O O O O O O O O O B-PER I-PER O O B-ORG O
865
+ O O O B-ORG O O O O O O O O O O O O O O
866
+ B-ORG O O O O O O O O O O
867
+ O O O O O O O O
868
+ O
869
+ B-PER I-PER
870
+ O O O O O O O O O O
871
+ B-PER I-PER
872
+ O O O O O O O O O O
873
+ O O O O O O O O O B-ORG O O O O O O O O O O
874
+ O O O O O O O O B-LOC I-LOC O
875
+ O O O O O O O O
876
+ O O O O O O O O B-LOC O
877
+ B-PER I-PER
878
+ B-PER O O O O O O O O
879
+ O O O O O O O O O
880
+ B-PER
881
+ O O O O O O O O O O O O O O O O B-ORG O O O O
882
+ O O O O O O O O O O O O O O O O O O O O O O
883
+ O O
884
+ B-PER I-PER I-PER B-ORG I-ORG I-ORG I-ORG I-ORG O O O O O O O O O O O O I-ORG O O O O O O
885
+ O O O O O
886
+ O O O O
887
+ O O O O O O O O
888
+ O O O O O B-ORG O O
889
+ O O O O O O O O O O O O O O
890
+ O O O O
891
+ O O O O O O O
892
+ O O O O O O O O O O
893
+ O O O O O O O O
894
+ B-PER I-PER O O B-ORG O O O O O O O O O O O O O O O O O O O
895
+ O O O O O O O O O O
896
+ O O O O O O O O O B-ORG O O O O O O O O O O
897
+ O O O O O O O O B-LOC I-LOC O
898
+ O O O O O O O O
899
+ O O O O O O O O B-LOC O
900
+ B-PER I-PER
901
+ O O O
902
+ O O O
903
+ B-PER I-PER O O B-ORG O O O O O O O O O O O O O O O O O O O
904
+ O O O O O
905
+ O O O O
906
+ O O O O O O O O
907
+ O O O O O B-ORG O O
908
+ O O O O O O O O O O O O O O
909
+ O O O O
910
+ O O O O O O O
911
+ O O O O O O O O O O
912
+ O O O O O O O O
913
+ B-PER I-PER O O B-ORG O O O O O O O O O O O O O O O O O O O
914
+ B-PER
915
+ O O O O O O O O O O O O O O O O
916
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
917
+ O O O O O O O O O O O O O O O O O O O O
918
+ O
919
+ B-PER O
920
+ O O O O O O O O O
921
+ B-PER I-PER I-PER
922
+ O O O B-PER I-PER
923
+ O O O
924
+ O O O O O O O O O O O O O O O
925
+ O O O O
926
+ B-PER I-PER I-PER
927
+ O O O B-PER I-PER
928
+ O O O
929
+ O O O O O O O O
930
+ O O O O O O O
931
+ O O O
932
+ B-PER I-PER
933
+ O O O
934
+ O B-PER O O O O O O
935
+ O O
936
+ O O O O O O
937
+ O O O O O O O O O O O O O O O O O O O O
938
+ O O O O O O O O O O
939
+ O O O O O O O O O
940
+ O O
941
+ O O O
942
+ B-PER I-PER
943
+ O O O
944
+ O O O O O O O O B-ORG O O O O O O O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O
945
+ O O O O O O O O O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
946
+ O O O O O O O O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG O O O O
947
+ O O O O O O O O O O B-ORG O O O O O O O O O O O O O O O O O O O O
948
+ O O O O O O O O O O O O O
949
+ O O O O O O O O O O O O O O O O O O
950
+ O O O
951
+ O O O
952
+ O O O
953
+ O O O O
954
+ O O O O
955
+ O
956
+ B-PER I-PER
957
+ O O O
958
+ B-PER I-PER
959
+ O O O
960
+ O O O O O O O O O O B-ORG I-ORG I-LOC O O O O O O O
961
+ O O O O O B-LOC O O O O O O O O
962
+ O O O O O O O O O O O O O
963
+ O O O O O O B-PER I-PER O O O B-ORG I-ORG I-ORG I-ORG O O O B-LOC O B-LOC O O O O O O
964
+ B-PER
965
+ O O O O O O O O O O O
966
+ O O O O
967
+ O O O O O O O O O O O O O O O O O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O
968
+ B-PER
969
+ O O O O O O O O O O O O O
970
+ O
971
+ B-PER O
972
+ O O O O O O
973
+ O O O O O O O O O O O O O
974
+ O O O O O O O O O O O O O O
975
+ O O O O O O O O
976
+ O O O O O O O O O O
977
+ O
978
+ B-PER O
979
+ B-PER I-PER
980
+ O O O
981
+ O O O O B-ORG O B-ORG O B-PER I-PER O O
982
+ O O O O O O O O O O O
983
+ O O O O O O O B-PER I-PER O O O O B-ORG O O O O O O
984
+ B-PER O O O O B-ORG O B-ORG O B-ORG O O O O O O O O O
985
+ O O O O O O O O O O
986
+ O O O O O O O O O O O O O O O O O O O O
987
+ O O O B-PER I-PER O O O O O O O O O O
988
+ O O O
989
+ B-PER I-PER
990
+ O O O
991
+ B-PER O O O O O O O O O O O O O O O O
992
+ O O O O O O O O
993
+ O O O O O O O O O O
994
+ B-ORG I-ORG I-ORG I-ORG I-ORG O O O O O
995
+ B-PER I-PER I-PER O O O O O O O O O O O O O O O O
996
+ B-PER I-PER I-PER O O O B-ORG I-ORG O O O
997
+ O O O O O
998
+ O O O O O O O O O O O O O O O O
999
+ B-PER I-PER O B-ORG
1000
+ O O O
1001
+ O O O O O O B-PER O O B-PER O O O O O O
1002
+ O O O O O O O O O O O O O O O O O
1003
+ O O O O O O O O O O O O O O O O O O O O
1004
+ O O O B-PER O O O O O O O O
1005
+ O O O O O O O O
1006
+ O O
1007
+ B-PER O O O O O O O
1008
+ O O O O O O O O O O O O
1009
+ O O O O O O O O O O O O O O O
1010
+ B-PER O
1011
+ O O O B-PER I-PER O O O O O O O O
1012
+ O O O O O B-ORG I-ORG O O O O
1013
+ B-PER
1014
+ O O O O O O O O O O O
1015
+ O O O O O O O O O O O O O O
1016
+ O O
1017
+ B-PER
1018
+ B-PER O
1019
+ O O O B-PER I-PER O O O O O O O O O O O O O O O O O O O O O O O O O O O
1020
+ O O O O O O O O O O
1021
+ O O
1022
+ B-PER
1023
+ O O B-PER I-PER O O O O O O O O O
1024
+ O O O O O O O
1025
+ B-PER I-PER B-ORG I-ORG I-ORG O O O O B-LOC O B-LOC O B-LOC O O O O O O O O O O O O O
1026
+ O O
1027
+ B-PER
1028
+ B-PER O
1029
+ O O O O O O O O O O O O O O O O O O O O O O O B-LOC O O O O O O O O O O O O O
1030
+ O O O O O O O B-LOC O O O O O O O O O B-ORG I-ORG I-ORG O
1031
+ O O O O O O O O O O O O O O
1032
+ B-PER
1033
+ B-PER O
1034
+ O B-PER O O O O O O O O O O O O O O O O O O O
1035
+ O O O O
1036
+ O O O O O O O O O O O O
1037
+ O O
1038
+ B-PER
1039
+ B-ORG I-ORG I-ORG I-ORG I-ORG I-ORG
1040
+ O B-PER O
1041
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1042
+ O O O O O O O O O O O O O O O O O O O O O O
1043
+ O O O O
1044
+ B-PER I-PER I-PER O O O O B-ORG I-ORG I-ORG I-ORG I-ORG O O O O O O O O O O O O O O O O O O
1045
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1046
+ O O O B-ORG O O O O O O O O O O O O O O
1047
+ O O O O O O O O O O
1048
+ O O O O O O O O O O O O O O O O O
1049
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1050
+ O O
1051
+ B-PER
1052
+ O O O O O O O O O O O O O O O O O O O O O O O
1053
+ O B-PER
1054
+ O O B-PER I-PER O O O
1055
+ O O O O O O O O O O
1056
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG I-ORG I-ORG I-ORG O O O O
1057
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1058
+ O
1059
+ O O B-PER I-PER O O O O O O O O
1060
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
1061
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1062
+ O O O O O
1063
+ O B-PER I-PER O B-ORG I-ORG I-ORG
1064
+ B-PER I-PER
1065
+ O O O B-PER I-PER O O O O O O O O O B-PER O O O O O O O O O O O O O O O O O O O O O O O O O O
1066
+ O O O O B-LOC O O O O O O O O O
1067
+ O O O O O
1068
+ O O O O O
1069
+ O
1070
+ B-PER
1071
+ O O O O
1072
+ O O O O O
1073
+ O O O B-PER O B-PER O O
1074
+ O O O O O O O O
1075
+ O O O O B-PER I-PER O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG I-ORG I-ORG I-ORG O
1076
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1077
+ B-PER
1078
+ O
1079
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1080
+ O
1081
+ O O O O
1082
+ O O O O O O
1083
+ O
1084
+ O
1085
+ O O O
1086
+ B-PER
1087
+ O
1088
+ O
1089
+ O O O
1090
+ O B-LOC O O O
1091
+ O O O O O B-LOC O O O O O O O O O O O O O O O O O O O O
1092
+ B-LOC O O B-PER I-PER I-PER O O O O B-PER I-PER I-PER O O O O O O O O O O
1093
+ O O O B-PER O O O O O O O O O B-LOC O O O O O B-ORG I-ORG I-ORG I-ORG I-ORG O O O
1094
+ O B-LOC O
1095
+ B-PER O B-PER
1096
+ O
1097
+ O O O
1098
+ O O
1099
+ O O O O
1100
+ B-PER O
1101
+ O
1102
+ O O O O O O O O O O O O O O O O O O
1103
+ O B-PER I-PER
1104
+ O O O O O O O O O O O O O
1105
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O
1106
+ O B-PER I-PER
1107
+ O
1108
+ B-PER I-PER O O O O O
1109
+ O O O O O O O
1110
+ O B-PER I-PER
1111
+ O
1112
+ O O O O O O O
1113
+ O O O O O O O O O O O O O O O O O O O O O O O O O
1114
+ O B-PER
1115
+ O
1116
+ O O O O O O O
1117
+ O O O O O O O O
1118
+ O B-PER I-PER
1119
+ O
1120
+ O O O O O O O O O O
1121
+ O O O O O O O O O
1122
+ O B-PER I-PER
1123
+ O
1124
+ O O O O O O O O O O O O O
1125
+ O B-PER I-PER I-PER
1126
+ O
1127
+ O O O O O O O O O O O O O O O O O O O O O O
1128
+ O B-PER I-PER
1129
+ O
1130
+ O O O O O O O O O O O O O O O O O O O
1131
+ O B-PER I-PER
1132
+ O
1133
+ O O O O O O O O O O O O O
1134
+ O B-PER I-PER
1135
+ O
1136
+ O O O O O O O O O O O O O O O
1137
+ O B-PER I-PER I-PER
1138
+ O
1139
+ O O O O O O
1140
+ O O O O O O O O
1141
+ O O O O O O O O
1142
+ O B-PER I-PER
1143
+ O
1144
+ O O O O O O O O O O O O O O O O O
1145
+ O B-PER I-PER
1146
+ O
1147
+ O O O O O O O O O O O O O O O O O O O O O O O O O
1148
+ O B-PER I-PER
1149
+ O
1150
+ O O O O O O O O O O O O O O O O O O O O O
1151
+ O B-PER I-PER
1152
+ O
1153
+ O O O O
1154
+ O O O O
1155
+ B-ORG I-ORG O O O O O O
1156
+ O
1157
+ O O O
1158
+ O O
1159
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1160
+ O O O O O O O O O O O O O O O O O O O O
1161
+ O
1162
+ B-PER
1163
+ O O O
1164
+ O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER I-PER I-PER I-PER O O O O O O O O O O O O O O O O O O O O O O O O
1165
+ O O O O O O O O O O O O O O
1166
+ O
1167
+ O O O O O O O O O O O
1168
+ O
1169
+ O O O O O O O O O O O O O O O O O O O
1170
+ O O O O O O O O O O O O O O O O O O O O
1171
+ O O O O O O O O O O O O O O
1172
+ O O O O O O O O
1173
+ O O O O O O
1174
+ O O O O O O O O O O O O
1175
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1176
+ O
1177
+ O O O O O O O O O O O O O O O O O
1178
+ O O O O O
1179
+ O O O O O O O O O O O O O O O O
1180
+ O O O O O O O O O O O O O O O O O O O O O O O
1181
+ O O O B-PER I-PER O O O O O B-LOC O B-LOC O
1182
+ O O B-PER O O O
1183
+ O O O
1184
+ O O O O O O O O O O
1185
+ O O O O O O O O O O O O O
1186
+ O O O O O O O O O O O O O O O
1187
+ O O O O O O O O O O O O O
1188
+ O O O O O O O O O O O O O O
1189
+ O O O O O O O O O O O O O O O
1190
+ O O O O O O O
1191
+ O O O O O O O
1192
+ O O O O O O O O O O O O O O
1193
+ O O O O O
1194
+ O O O O O O O O O O O O O O O O O O O
1195
+ O O O O O O O O O
1196
+ O O O O O O O O O O O
1197
+ O O O O O O O O O O
1198
+ O O O O O O O
1199
+ O O O O O O O O O
1200
+ O O O O O
1201
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1202
+ O
1203
+ O O O B-PER O O O O
1204
+ O O O
1205
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1206
+ O O O O O O O O O O O O O
1207
+ O O O O O O O O O O O O O O O O O O
1208
+ O O O
1209
+ B-PER O O O
1210
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG I-ORG I-ORG I-ORG I-ORG O O O O O O O O
1211
+ B-ORG I-ORG I-ORG O
1212
+ O O O B-PER O O O O
1213
+ O O
1214
+ B-ORG I-ORG O O B-ORG O O O O O O O O O O O O O
1215
+ O O O O O O O O O O O O O O O O O O O
1216
+ O O O O O O O O O O O O O O O O O B-ORG I-ORG O O O O O O O O O O B-LOC O
1217
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
1218
+ O O O O O O O O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O
1219
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1220
+ O O O O O O O O O O O O O O O O O O O O O O O
1221
+ O O O O O O O O O O O O O O O O B-ORG I-ORG O O O O O O O
1222
+ O O O O O O O O
1223
+ O O
1224
+ B-PER I-PER O
1225
+ O O O O O O O O O O
1226
+ O
1227
+ O B-ORG O O O O O O O O O O O O O
1228
+ O B-LOC O B-LOC O O
1229
+ O O O O O O O O O O O O O O O O O O O O B-LOC I-LOC O O O O O O O O O O O O O O O O O O O O O O O O B-ORG I-ORG O
1230
+ O O O B-LOC I-LOC O O O O O O O O O O O O O B-LOC I-LOC O O O O O O O O
1231
+ O O O O O O O O O O O O O O O O O O O B-LOC O O O O O O O O O O O O O O
1232
+ O O O
1233
+ O
1234
+ B-PER O O O
1235
+ B-PER I-PER O O O O O O O O B-LOC O O O O O O O O O O B-LOC I-LOC O
1236
+ O O O O O B-LOC O
1237
+ O O O O O O O O O
1238
+ O O O O O O O O O O O O O O O O
1239
+ O O O O O O O B-LOC I-LOC O O O
1240
+ O B-PER O O O O O O O O O O O O O O O O O O O O O O B-PER I-PER I-PER O O O O O O
1241
+ O O O O O B-PER O O O O O O O O O O O O O O
1242
+ O O O O O O O O
1243
+ O B-PER O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER I-PER O O O O O O O
1244
+ O O O O O B-PER O O O O O O O O O O O O
1245
+ O O O O O O O B-LOC O B-ORG I-ORG I-ORG O O O
1246
+ O O O
1247
+ O O B-ORG I-ORG
1248
+ B-ORG I-ORG I-ORG O O O O O O O O O O O O O O O B-ORG O O O O O O O O O O O O
1249
+ O O I-ORG O
1250
+ O O O O O O B-ORG O B-ORG O O O O O O O
1251
+ B-ORG O O O O O O O O B-ORG O B-ORG I-ORG O B-ORG O B-ORG O O B-ORG O O O O O O
1252
+ B-ORG O O O O O O O B-ORG O O O O O O O O O
1253
+ O O O
1254
+ O O O O B-ORG O O O O O O O O O O O O B-ORG I-ORG O O
1255
+ O O O O O O O O O O O O B-ORG O O B-ORG I-ORG O O O O O O O B-ORG O O O O O
1256
+ O O O O O O O O O O O O O O O O O O O
1257
+ O O O O O O O O O B-ORG O O O O B-ORG O O O O O O O O O O O O O O O
1258
+ O O
1259
+ O
1260
+ O O O O O O O O O O O
1261
+ O O O
1262
+ O O O
1263
+ O O O
1264
+ O O O B-ORG I-ORG I-ORG I-ORG I-ORG I-ORG O O O O O O O O O O O O B-LOC O O O O O O
1265
+ O O O O O O O O O O O O O O O O O O O O O O O B-LOC O O O O O B-PER O O O
1266
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1267
+ O O O O O O O O O B-ORG O O O O O O O O O O O O O
1268
+ O O O O O O O O
1269
+ O O I-ORG I-ORG O O O O O O O O O O O O B-PER I-PER O B-PER I-PER O
1270
+ O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG O
1271
+ O O O O O O O O B-ORG O O O O O O O O O O O B-ORG I-ORG O O O O O O
1272
+ O O O O O O O B-LOC I-LOC O O O O O O O O O O O O O O O O O B-ORG O O O O O O O O O O O O O B-PER I-PER O B-ORG O O O O
1273
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
1274
+ O O
1275
+ O
1276
+ O O O O O O O O O O O
1277
+ O O O
1278
+ O O O
1279
+ B-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG O O B-ORG O O O B-LOC I-ORG O
1280
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1281
+ O O O O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O
1282
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1283
+ O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG O B-PER I-PER O O B-ORG O O O O O O B-PER I-PER O
1284
+ O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1285
+ B-ORG O O O O O O O O O O O O O O O O O O O O O O O O
1286
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1287
+ O O O O O O O O O O O O O B-ORG O O O O
1288
+ O
1289
+ O O O O O O O O O O O
1290
+ O O O
1291
+ O O O O O O O O O B-LOC O O O O O O O O B-PER O O O B-PER I-PER O O O O O B-LOC O
1292
+ O O O O O O O O O O O O B-LOC O B-LOC I-LOC O
1293
+ B-LOC O O O O O O O B-LOC I-LOC O O O O B-PER O O O O O O B-LOC O O O O O O O
1294
+ B-ORG O B-PER I-PER
1295
+ B-LOC O B-PER I-PER I-PER O O O O O B-PER I-PER O O O O O B-LOC O
1296
+ B-PER O O B-LOC O O O B-ORG I-ORG I-ORG I-ORG I-ORG O B-ORG O O O O
1297
+ O O B-PER O O O O O O O O O O O O O O O O O O O O O O O O
1298
+ O O
1299
+ O
1300
+ O O O O O O O O O O O
1301
+ B-PER I-PER O O O O O
1302
+ O O O O O O O O O O O O O O O O O O O O O
1303
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1304
+ O O O O B-PER O O O O O O O O O O
1305
+ O O O O O O
1306
+ O O O O O O O O O O O O O O O O O O O O O O O O
1307
+ O O O O O O O O B-PER O O O O O O O O O O O O O
1308
+ O O O O O O O O O O O O
1309
+ O O O O O B-PER O O O O O O O O O O O O O O O O O O O
1310
+ O O O O O O O O O O O
1311
+ O O O O O O O O O O O O O B-PER I-PER O O O O O O O O O O O O O O
1312
+ O O O O B-PER O O
1313
+ O O O
1314
+ O O O O O O O O O O O O O
1315
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1316
+ O O O O O O
1317
+ O O O O O B-ORG I-ORG I-ORG O O O O O O O
1318
+ O B-ORG O B-LOC O O O O
1319
+ O O B-ORG O O O O O O B-LOC O O O O O O O O O O O
1320
+ O O O
1321
+ O B-ORG O O O
1322
+ O O O O O O O O O O O O O O O O O O O
1323
+ O O O
1324
+ O O O
1325
+ B-ORG B-ORG O O O O O O O O O O O O O O O O O O O O O B-ORG O O O O O
1326
+ O O O O O O O O O O O O O O O O
1327
+ O O O O O O O O O O O O O O O O O O O B-ORG O O O O O O O O O O O O O
1328
+ O
1329
+ O O
1330
+ O O O O O O O O O
1331
+ O O O O O O
1332
+ O O B-ORG O
1333
+ O O O O O O
1334
+ O O
1335
+ O O O O O O O O O O O O O O O O O
1336
+ O O
1337
+ O
1338
+ O O O O O O O O O
1339
+ O O O O O
1340
+ O O O O O O
1341
+ O O O O O O O O O O O O O
1342
+ O O O O O O O O O O O O
1343
+ O O O O O O O O B-ORG O
1344
+ O O O O O O O B-LOC I-ORG O O O O O O O
1345
+ O O O O O O O O
1346
+ O O O O O O O O O O O O
1347
+ O O O O O O O O O O O O O O O O O
1348
+ B-PER O O O O O O O O O
1349
+ O O O O O O
1350
+ O O O O O O O O O O O
1351
+ O O O O O O O O O O
1352
+ O O O O O O O O O O O O O O O O
1353
+ O O O
1354
+ O O O O O O O O O O O O O O O O O O O O O O
1355
+ O O O O O O O O O O O O O O
1356
+ O O O O O O O O
1357
+ O O O O O O O O
1358
+ O O O O O O O O
1359
+ O O O O O O
1360
+ O O O O O O O O O O O O O O O O
1361
+ O O O O O O O O O O O O O O O O O O O O O O
1362
+ O O
1363
+ O O O O O O O O B-LOC O
1364
+ B-ORG I-ORG O O O O O O O
1365
+ O O O O O O O O O O O O O O
1366
+ O O O O O O O O O O O O O O B-ORG I-ORG O O
1367
+ B-LOC O O O
1368
+ B-LOC O O O O O O O O O O O O O O O
1369
+ O O O O O O
1370
+ O O O O
1371
+ O O O
1372
+ O O O O O O O O O O O O O O O O O O
1373
+ O O O O O
1374
+ B-PER O O O O O O O O O O O O O O O O
1375
+ O O O O
1376
+ O O O O O O O O O O
1377
+ B-PER O O O O O O O O O O O O O O O O O O O O
1378
+ O O
1379
+ O O O O O O O O O O
1380
+ O O
1381
+ O O O O O O O O O O O
1382
+ O O O O O O O O O O O O O O O O O O O O
1383
+ O O O O O O O O O O O O O O O O O O O O O O O O O
1384
+ O O O O O O O O
1385
+ O O O O O O
1386
+ O O
1387
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1388
+ O O O
1389
+ O O O O O O O
1390
+ O O O
1391
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1392
+ O O O O O O O
1393
+ O
1394
+ O O O O O O O B-LOC O O O O O O O O O O O
1395
+ O O O O O O O O O O B-LOC O B-LOC I-LOC O
1396
+ O O O O O O O O O O
1397
+ O O O
1398
+ O O O O O O O O O O O O O O O O O O O O O O
1399
+ O O O O O O O O O O O O O O O O
1400
+ O O O O O O O O O O O O O O O O
1401
+ O O
1402
+ O O O O O O O O O O O O O O O O O O O O O
1403
+ O O O O O O O O O O O O O O O
1404
+ O O O O O O O O O O O O O
1405
+ O O O O O
1406
+ O O O O O O O O O O O
1407
+ O O O O O O O
1408
+ O O O O
1409
+ O O O O O O O O O O O O O
1410
+ O O O O O O O O O O O O O O O O O O O O O
1411
+ O O O O O O O O O O O O O O O O O O O
1412
+ O O O O O O O O
1413
+ O O O B-LOC O O O O O O O
1414
+ O O O O O O O O O
1415
+ O O O O O O O O O O O O O
1416
+ O O O O O O O O O O O O
1417
+ O O O
1418
+ B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1419
+ O O O O
1420
+ O O O O O
1421
+ O O O O O O O O
1422
+ O O O O O O O O O
1423
+ O O O
1424
+ O O O
1425
+ O O O B-ORG I-ORG I-ORG O O O O
1426
+ O O O O O
1427
+ O O O O O O O O
1428
+ O O O O O O O
1429
+ O O O O O O O O O B-LOC O O O O O O O O O O O
1430
+ O O O O O O O O O B-LOC O O O O
1431
+ O O O O O O O
1432
+ O O O O
1433
+ O O O O O
1434
+ O O O O O O O O O O O
1435
+ O O O O O O O
1436
+ O O O O O O
1437
+ O O O O
1438
+ O O O O O O O O O O O O O O O O O O O O O O
1439
+ O B-PER I-PER O O O O O
1440
+ O O O O O O O
1441
+ O O O O O O O O O O O O O B-LOC I-LOC O O
1442
+ O O O O O O O O O O O O O
1443
+ O O B-ORG O
1444
+ O O O
1445
+ B-ORG I-ORG O O O O O O O O O O O O
1446
+ O O O O O O O O O O O O O O O O
1447
+ O O O O
1448
+ O O O O
1449
+ O O O B-ORG O O O O O O
1450
+ B-ORG O O
1451
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1452
+ O O O O O O O O O O O
1453
+ O O O
1454
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
1455
+ O O O
1456
+ O O O O O O O O O O O O O O
1457
+ O
1458
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1459
+ O O
1460
+ O O O O O O O O O O
1461
+ O O O O O O O O O O O
1462
+ O O O O O O O O O
1463
+ O O
1464
+ O O O O O O O O O O O O O O O O O O O O O O O O B-PER O O O O O O O O O O O
1465
+ O O O O O O O O O O
1466
+ O O O O O O
1467
+ O O O O O O O O O O O O O O
1468
+ O
1469
+ O O O O O O O O
1470
+ B-PER O O O O O O O O O O
1471
+ O O B-LOC
1472
+ O O O O O O O O O O O O O O B-ORG I-ORG O
1473
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1474
+ O O O
1475
+ O O O
1476
+ O O O O O O O
1477
+ O O O O O O O O O O B-LOC O
1478
+ O O O O O O O O B-LOC O O O O O O O O O
1479
+ O O O O O O O O O O
1480
+ O O O O O O
1481
+ O O O O O O O O O O O O O O O
1482
+ O O O O O O O O O O O O O O O O O O O
1483
+ O O O O O O O O O O O O O O O O
1484
+ O O O O O O O O O
1485
+ O O O O O O O O O O O
1486
+ O O O O O O O O O O O O O O O O O O
1487
+ O O O O O
1488
+ O O O O O O O O O O O O
1489
+ O O O O O O O O O O
1490
+ O O O O O O O O O O O O O O O O O O O
1491
+ O O O O O O
1492
+ O O O O O O O
1493
+ O O I-ORG I-ORG I-ORG O B-ORG I-ORG I-ORG O O O O O O O O O O O O O
1494
+ O O O O O O
1495
+ O B-PER O O O O O
1496
+ O
1497
+ O O O O O O O O O
1498
+ O O B-LOC O O O O O O O
1499
+ O O O O O O
1500
+ B-ORG I-ORG O O O O O O O O O O O O O O O
1501
+ O O O O O O O O O O O O O O O O O O O O O O
1502
+ O O O O O
1503
+ O O O O O
1504
+ O O O O O O O O O O O O O O O O O
1505
+ O O
1506
+ O O B-ORG I-ORG I-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1507
+ O O O O O O O O O
1508
+ O O O O O O O O O O O
1509
+ O O O O O O O O O O
1510
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
1511
+ O O O O O O
1512
+ O O
1513
+ O O O O O
1514
+ O O O O
1515
+ O B-ORG I-ORG I-ORG I-ORG I-ORG
1516
+ O O O
1517
+ O O O O O O O O O O O O O O O O O O O O O O
1518
+ O O O O O O O O O O O O O O O O O O
1519
+ O O O
1520
+ O O O O O O O O B-LOC I-LOC O O
1521
+ O O O O O O
1522
+ O O O O B-PER O
1523
+ O O O O
1524
+ O O O O
1525
+ O O O O O O O O O O O O O O O
1526
+ O O O O O O O O
1527
+ O O O O O O O O O O O O O O O O O O O O O O O
1528
+ O O O O O O O
1529
+ O O O O O O O O O O O O O O
1530
+ O O O O O O O O O O O O O O O O B-LOC O O O O O O O
1531
+ O O
1532
+ O O O O O O O O O O O O O O O O O O
1533
+ O O O O O O O O O O O O O O O O O O O
1534
+ O O O O O O O O O O O O
1535
+ B-PER O O O O O O O O O O O O O O O O O
1536
+ O O O O O O O O O O O O O O O O O O O O O O B-PER O O O O O O O
1537
+ O O O O O O
1538
+ O O O O O O O
1539
+ O O
1540
+ O B-PER O O O O O O O O O O O O O O O O
1541
+ O O O O O O O O O O
1542
+ O O O O B-LOC I-LOC O O O O O O
1543
+ O O O O O
1544
+ O O O O O O O O O O O O O O O O O O O O O
1545
+ O O
1546
+ O O O O O O O O O
1547
+ O O O O O O O O
1548
+ O O O O O O O O
1549
+ O O O O O O O O O
1550
+ O O
1551
+ O O O B-PER O
1552
+ O O O O O O O O O B-LOC I-LOC I-LOC O
1553
+ O O O O
1554
+ O O
1555
+ O O O O O O O O O O O O O O O
1556
+ O O O O O O O O
1557
+ O O O O O
1558
+ O O O O
1559
+ O O O O O O
1560
+ O O O O O O O O O O
1561
+ O O O
1562
+ O O O O O O O O O O O O O O O
1563
+ O O O O B-LOC I-LOC I-LOC I-LOC B-PER I-PER O
1564
+ O O O O
1565
+ O O O O B-LOC
1566
+ O O O O O O O O O O O O O O O O O O
1567
+ O O O O O O O O O O O O O O O O O O
1568
+ B-PER
1569
+ O O O O O O B-PER O
1570
+ O O O O O O O
1571
+ O O O O O O O O
1572
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
1573
+ O O O O O O O O O O O O O O
1574
+ B-PER O B-LOC
1575
+ O O O
1576
+ O O O O O O O O O O
1577
+ O O
1578
+ O O O O
1579
+ O O O O B-PER O O O O O O O O O O O O O O O O
1580
+ O O O O O O O O O O O O O O O O O
1581
+ O O O O O O O O
1582
+ O O O O O O
1583
+ O O O O O
1584
+ O O O O O O O O O O O O O O O O
1585
+ O O O O O O O O O O
1586
+ O O B-LOC I-LOC I-LOC O
1587
+ O O O B-LOC O O O O O O O O O O
1588
+ B-PER
1589
+ O O O O O B-PER O
1590
+ O O O O O O O O O O O O O
1591
+ O O O O O O O O O O O O O O O O O O O O O O
1592
+ O O O O O O O
1593
+ O O O O O B-LOC O O O O O O O
1594
+ O O
1595
+ O O O O O O B-ORG O O O O O O O
1596
+ O O O O O O O
1597
+ B-PER
1598
+ O O O O B-PER
1599
+ O O O O O O B-PER O O O O O O O O O O O O
1600
+ O O O O O O O O O O O O O O O O O O O O O O O O
1601
+ O O O
1602
+ O O O O O O O O O O
1603
+ O O O O O O O O O O
1604
+ B-PER O O O O O O O O O O O O O O O O O O O O O O O O O
1605
+ O O O O O O O O O O O O O O O O O O O O
1606
+ O O O O
1607
+ O O O O O O O O
1608
+ O O O O
1609
+ O O O B-ORG I-ORG O O O O O O
1610
+ O O O O O O O O O O O
1611
+ O O O O O
1612
+ O O O O O O O O O O O O O O
1613
+ O O O O O O O
1614
+ O O O O O O O O O O O
1615
+ O O O O O O O
1616
+ B-PER O O O O O O O
1617
+ O O O O O O O O O O O O O O O O O
1618
+ O O O
1619
+ O B-PER
1620
+ B-PER I-PER O
1621
+ O O
1622
+ O O O O O O O O O O O O
1623
+ O O O O O O O
1624
+ O O O O O O O O O O O O O
1625
+ O O O O O
1626
+ O O O O O O O O O O O O O O O O O
1627
+ O O O O O O O O O O O O O
1628
+ O O O O
1629
+ O O O O
1630
+ O O O O O O O O O O O O O O O O
1631
+ O O O O O O O O O O O O
1632
+ O O O O O O O O O O O O O O O O O O O O O O O
1633
+ B-ORG I-ORG
1634
+ O O O O O O O O O O O O O O O O O O O O O O O
1635
+ O O O O
1636
+ O O O O O O
1637
+ O O O O O O O O O O O B-PER O O O O O O
1638
+ O O O O O O O O O O O O O O O O O O O
1639
+ O O O O O O O O
1640
+ O O O
1641
+ O O O O
1642
+ O O O O O B-LOC I-LOC I-LOC O
1643
+ O O O O B-LOC O B-LOC O
1644
+ O O O O O O O O O O O O O
1645
+ O O O
1646
+ O O B-ORG I-ORG O
1647
+ O O O O
1648
+ O O O O O
1649
+ O O O O O O O O O O O O O O B-ORG I-ORG O O O O O O O O O O
1650
+ O O O O O O O O O B-ORG I-ORG O O O O O O O O O O O B-ORG I-ORG
1651
+ O O O O O O O O O O O O O O O O O
1652
+ O O
1653
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1654
+ O O O O O O O O O O O O O
1655
+ O O O B-ORG O
1656
+ O O
1657
+ O O O
1658
+ O O O
1659
+ O O O O O O O O O O O O O
1660
+ O O O
1661
+ O O O O O O O O O O
1662
+ O O O O O O O
1663
+ O O O O O
1664
+ O O O O O O O
1665
+ O O B-ORG I-ORG
1666
+ O O O O
1667
+ B-PER O O O O O O O O O O O O O O O O O
1668
+ O O O O O O O O
1669
+ O O O O O O O O O O O O O O O O O
1670
+ O O O O O
1671
+ O O O O O
1672
+ O O O O O O O O B-ORG I-ORG O O O O O O O O O O O
1673
+ O O O O O O O O O O O O O O O O O
1674
+ O O O O O O O O O
1675
+ O O O O O O O O O O O O O O
1676
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1677
+ O O O O O O O
1678
+ O O
1679
+ O B-LOC I-LOC
1680
+ O O O O O
1681
+ B-PER O B-PER O O O
1682
+ O O O O O O O O O O O O O
1683
+ O O O O O O O O O
1684
+ O O O O O O O O
1685
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1686
+ O O O O
1687
+ O O O O
1688
+ B-ORG O O O O O O O O O O O O O O O O O
1689
+ O O O O
1690
+ O O O O O O O O O O O O O O O
1691
+ O O O O O O
1692
+ O O O O O O O O O O O O O O O O O O
1693
+ O O O O O O
1694
+ O O O O
1695
+ O O O O O O O O
1696
+ O O O O O O O
1697
+ O O
1698
+ O O O O O O O O O O O O O O O O O O O
1699
+ O B-PER O O O O O O O O
1700
+ O O O B-ORG I-ORG O O O O O O O O O O O O O O O O O O
1701
+ B-ORG I-ORG I-ORG
1702
+ O O O O O O O O O O O
1703
+ O O O O O O O O O O O O O O B-ORG I-ORG O
1704
+ O
1705
+ O O O O O O O O O O O O O O O O O O O O O O O O O O
1706
+ O O O O O O O O O O O O O O O O O O
1707
+ O O O O O O
1708
+ O O O O B-LOC I-LOC O O O O O O O
1709
+ O O O O
1710
+ O O O O O
1711
+ O O O
1712
+ O O O O
1713
+ O O O O O O
1714
+ O O O
1715
+ O O O
1716
+ O O O O
1717
+ O O O O O O O O O O O O O
1718
+ O O O
1719
+ O O O
1720
+ O O O O O O O O
1721
+ O O O O
1722
+ O O O O O O
1723
+ O O O O
1724
+ O O O O O O O O O O
1725
+ O O O O O O O O O O O O O O
1726
+ O O O O O O O O O O B-LOC O
1727
+ O O O
1728
+ O O O O O O O O O O O O O O B-ORG O O
1729
+ O O O O O O O O O O O O O
1730
+ O O O O O O O O O
1731
+ O O O O O O O O O O O O O O O O O O
1732
+ O O O
1733
+ O O O O O O O O O O O O
1734
+ O O O O O O O O O O O O O O O O O O O O O
1735
+ O O O O O O O O O O O O O O O O O O O I-LOC O
1736
+ O O
1737
+ O O O O O O O
1738
+ O O O O O O O O O O O O O O O O O
1739
+ O O O O O O O O O O O O O O
1740
+ O O O O O O
1741
+ O O O O O O
1742
+ O O O O O
1743
+ O O O O O O
1744
+ O O O O O O O B-LOC
1745
+ O O O O O B-LOC I-LOC I-LOC O O O
1746
+ O O O O O O O O O O O O O O O O
1747
+ O O
1748
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1749
+ O O O O O O
1750
+ O O O B-PER O O O O O O O O O
1751
+ O O O O O O O O O O O O O O O
1752
+ O O O O O O O O O O O
1753
+ O O O O O O O O O O O O O O
1754
+ O B-PER O O O O
1755
+ O O O O O O O O O O O
1756
+ O O O O O O O O O O O O O O O O O O
1757
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O
1758
+ O O O O O B-LOC I-LOC O
1759
+ O O O
1760
+ O O O O O O O O O O O O O O O O O O O O O
1761
+ O O O O O
1762
+ O O O
1763
+ O O O O O O O O O O O O O O O O O O O O O O O O O
1764
+ O O O O O O B-LOC O O O B-LOC O O O O O
1765
+ O O O O O O O
1766
+ O O O O O O
1767
+ O O O B-LOC
1768
+ O O O O B-ORG I-ORG O O O
1769
+ O O O O O O O O O O O O
1770
+ O O O
1771
+ O O O O O O O O O O O O O O O
1772
+ O O O O O O O O O O O O O O O O O O O O O O
1773
+ O O O O O O
1774
+ O O O O O O
1775
+ O O O O O O O O O O B-LOC O
1776
+ O O O O O O O O O O O O O
1777
+ O O O O O O
1778
+ O O O O O O
1779
+ O O O O O O O O
1780
+ O O O O O O O O O O O
1781
+ O O O O O O O O O O O O
1782
+ O O O O
1783
+ O O O O O O O O O O O O O O O O O O
1784
+ O O O O O O O O O
1785
+ O O O O O O O O O O O O O O O O
1786
+ O O O
1787
+ O O O O O
1788
+ O O O O O
1789
+ O O O O O O O O O O B-LOC I-LOC O
1790
+ O O O O O O O O O O O O
1791
+ O O O O
1792
+ O O O O O O
1793
+ O O O O O O O
1794
+ O O
1795
+ O O O O O O
1796
+ O O O O O O O O O O O O O O
1797
+ O O O O O O
1798
+ O O O O O O O
1799
+ O O O
1800
+ O O O O O O O O O B-LOC O
1801
+ O B-LOC O
1802
+ O O O O
1803
+ O O O O
1804
+ O O O O O O
1805
+ O O O O O O O O
1806
+ O O O O O O
1807
+ O O O O O O
1808
+ O O O O O O O O O O O O O O O O O O O
1809
+ O O O
1810
+ O O O O O O O
1811
+ O O
1812
+ O O O O O O O O O
1813
+ O O O O O O O O O O O O
1814
+ O O O O O O O O O O O O O O O O O O O
1815
+ O O O
1816
+ O O O B-ORG I-ORG I-ORG O O O O O O O O O
1817
+ O O O O O O O O O O O O O O O O O O O O
1818
+ O O O O O O O O O O O
1819
+ O
1820
+ O O O O O
1821
+ O O O O O O
1822
+ O O O
1823
+ O O O O O O O
1824
+ O O O O O O O O O O
1825
+ O O O O O O O O O O O O O O O O O O O O O
1826
+ O O O O O O O O O O O B-LOC I-LOC O
1827
+ O O O O O O O O O
1828
+ B-PER O O
1829
+ O O O O O
1830
+ O O O O O O
1831
+ O O O O O B-PER O O O O O O O
1832
+ O O O O O O O O O
1833
+ O O O O O O O O O O O O O O
1834
+ O O O O O O O
1835
+ O O O B-PER I-PER O O O O O O O
1836
+ O O O O O O O O O B-LOC O
1837
+ O
1838
+ B-PER O O O O O O O O O
1839
+ O O O
1840
+ O O O O O O O O O O O O O B-LOC O
1841
+ O O O O O
1842
+ O O O O O O O O
1843
+ O O O O
1844
+ O O O
1845
+ O B-ORG O
1846
+ O O O B-ORG O O O O O O B-ORG O O O O O O O O O O B-ORG O
1847
+ O O O O O O O B-ORG O O O O O O O O B-ORG O O
1848
+ O O O O O O O O O O O O
1849
+ O O O O O O O O
1850
+ O O O O O O O O O O O O O O O O
1851
+ O O O O O O O O O O O O O O O
1852
+ O O O B-ORG I-ORG O O O O
1853
+ O O O O O O O O O O O O O O O B-ORG I-ORG I-ORG I-ORG I-ORG O O
1854
+ O O O
1855
+ O O O O O O O
1856
+ O O O O O O O O O O O O
1857
+ O O O O O O O
1858
+ O O
1859
+ B-PER I-PER O O O O O
1860
+ O O O O
1861
+ O O O O O O O O O O O
1862
+ O O O O O O O O O O O O O O O O O O O O
1863
+ O O O O
1864
+ O B-ORG I-ORG O O O O O B-PER O B-PER O O O O O B-PER I-PER O O O O O O O B-ORG O O O B-PER I-PER O O O O O O O O O O O O O O O
1865
+ O O O O O O O O
1866
+ O O O O O B-PER I-PER I-PER O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER O B-PER O B-PER O O O O O O O O O O O O O O O O O O O O O O B-PER O B-PER O O O O O
1867
+ B-PER O O O O O O O B-PER O B-PER O O B-PER O O
1868
+ B-PER O O O O O O O O O B-PER O B-PER O O O O O O O O O O O
1869
+ B-ORG O O O O O O O B-PER O B-PER O O
1870
+ B-PER O O O O O O O B-PER O O O O O B-PER O O O O O O O O O O O O O O O O O O O O O
1871
+ B-ORG O O O O O O O B-PER O B-PER O O O O O O O O
1872
+ O O O O O O O O O O O O O O O O O O O B-PER I-PER I-PER O O
1873
+ O O O O O O O O O O O O O O
1874
+ O B-PER O O O O O O O O O O O
1875
+ B-LOC O B-LOC O O
1876
+ B-LOC O O O O B-PER O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1877
+ B-LOC O O O O O O O O B-LOC O O O O O O O O B-LOC O O O O O O B-ORG I-ORG O
1878
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER I-PER O O O O O B-ORG I-ORG I-ORG I-ORG I-ORG I-ORG O O O
1879
+ O O O O O O O O O O O O O O O
1880
+ O O O O O O O O
1881
+ O O O O O O O O O O B-PER O O O O O O O O O O O O
1882
+ O O O O O O O O O O O O O O O O O B-PER O B-PER O B-PER O O O
1883
+ B-PER I-PER O O O B-LOC O
1884
+ B-PER I-PER I-PER O O O B-LOC O
1885
+ B-PER I-PER O O O B-LOC O
1886
+ B-PER I-PER I-PER O O O B-LOC O
1887
+ B-PER I-PER O O O B-LOC I-LOC
1888
+ B-PER I-PER I-PER O O O B-LOC O
1889
+ B-PER I-PER O O O B-LOC O
1890
+ B-PER I-PER O O O B-LOC
1891
+ B-PER I-PER O O O B-LOC O
1892
+ B-PER I-PER I-PER O O O B-LOC O
1893
+ B-PER I-PER I-PER O O O B-LOC I-LOC
1894
+ B-PER I-PER I-PER O O O B-LOC O
1895
+ B-PER I-PER I-PER O O O B-LOC I-LOC
1896
+ B-PER I-PER O O O B-LOC O
1897
+ B-PER I-PER O O O O O B-PER I-PER O B-LOC I-LOC
1898
+ B-PER I-PER O O O B-LOC I-LOC
1899
+ B-PER I-PER O O O B-LOC O
1900
+ B-PER I-PER I-PER O O O B-LOC O
1901
+ B-PER I-PER O O O B-LOC I-LOC O O O O O O O O O O O O O B-LOC O O O O O B-PER I-PER O O O B-LOC O
1902
+ B-PER I-PER O O O B-LOC O B-LOC O
1903
+ B-PER I-PER O O O B-LOC O
1904
+ B-PER I-PER O O O B-LOC O
1905
+ B-PER I-PER I-PER O O O B-LOC O
1906
+ B-PER I-PER O O O B-LOC O B-LOC O
1907
+ B-PER I-PER I-PER O O O B-LOC O
1908
+ B-PER I-PER O O O B-LOC O
1909
+ B-PER I-PER I-PER O O O B-LOC O
1910
+ B-PER I-PER I-PER O B-PER I-PER O O O B-LOC O
1911
+ B-PER I-PER I-PER O O O B-LOC O
1912
+ B-PER I-PER O O O O O O O B-LOC O
1913
+ O O O O B-PER O O O O O O O O O O O O O O O O O O O B-PER I-PER I-PER I-PER O
1914
+ O O O O O O O O O O O O O O O O
1915
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1916
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1917
+ B-PER I-PER O O O O O O O O O O O O O O O O O O B-LOC O
1918
+ O O O O O O
1919
+ O O O O O O O O O O O O
1920
+ O O O O O O O O O O O B-LOC O
1921
+ O O O O O O O O O O O O O
1922
+ O O O O O B-LOC O O
1923
+ O O O O O O O O O O O
1924
+ O B-LOC O O O O O O O O O O O O O B-ORG I-ORG O O O O O O O
1925
+ B-PER O O B-ORG I-ORG I-ORG O O O O O O O O O O B-ORG O O O O O O B-LOC O O O O O O O O O O O O O O
1926
+ O O O O O O O O O B-ORG O B-LOC O O O O B-ORG O O O O O O O O O O O O
1927
+ O O O O B-LOC O O O O O O B-ORG O O O O O O O O O B-LOC O O O O
1928
+ B-LOC O O O O O O O O O O B-ORG O O O O O O O O
1929
+ B-ORG O O O B-PER I-PER O O O O O O O O B-ORG O O O O O O O O O O O O O O O O O
1930
+ O O O O O O O O O O O O O O O O B-ORG I-ORG O O O O
1931
+ O O O O O O O B-ORG I-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1932
+ O O O O O O O O O O O O O O O O O B-PER I-PER O B-ORG I-ORG I-ORG I-ORG O O
1933
+ O
1934
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG O B-ORG O O O O O O O O O O O
1935
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG O O O O O B-LOC O
1936
+ O O O O
1937
+ O O O O O O O O O
1938
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1939
+ O O O O O O O O O O O O O O O O O
1940
+ B-LOC O O O O O O O O O O O
1941
+ O B-LOC I-LOC O O O O O O O
1942
+ O O O O O O O
1943
+ O O O O O O
1944
+ O O O O O B-ORG O O O O O O O O O O O O O O O O O O O O
1945
+ O O O O O O O B-ORG I-ORG I-ORG I-ORG O O O O O O O
1946
+ O O O O O O O O O O B-LOC O O O O O O O O O O O O O O O O
1947
+ O O O O O O O O O O O O O
1948
+ O O O O O O O B-LOC O O O O O
1949
+ O O O O O
1950
+ O O O O O O O O O
1951
+ O O O O O O O O O O O O O O O O O O O
1952
+ O O O O O
1953
+ O O O O O O O O
1954
+ O O O O O O O
1955
+ O O O O O O O O O O O O O O O O
1956
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1957
+ O O O O O O B-ORG O O O O O
1958
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1959
+ O O O O O O O O O
1960
+ O O O O O O O O O O
1961
+ O O O O O O O O O O O O O O O O O O O O O O O O O
1962
+ O O O O O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O
1963
+ O O O O O O O
1964
+ O O O O O O O O
1965
+ O O O O O O O
1966
+ O O O O O O
1967
+ O O O O O O O O
1968
+ B-PER I-PER O O O O O O O O O O O O B-PER I-ORG I-PER I-PER I-ORG O
1969
+ O O O O O O O O O B-PER O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1970
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1971
+ O O O O O O O O B-PER O B-PER O O O O O O
1972
+ O O O O O O O O O O O B-LOC I-LOC O O O O O O O O O O O O O
1973
+ O O O O O O O O O O
1974
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1975
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1976
+ O O O O O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O
1977
+ O O O O O O O O O O O O
1978
+ O O
1979
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1980
+ O O O O O O O O O O O O
1981
+ O O O O O O O O O B-PER O B-PER O O O O O O O O O O O O O O O O O O B-PER O O O O O O O O O B-LOC O O O O O
1982
+ O O O O O B-PER O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-LOC O O O O O O O O O O O O O O O O B-ORG I-ORG O B-ORG I-ORG O O
1983
+ O O O O O O B-ORG O O O O
1984
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1985
+ O O O O O
1986
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O
1987
+ O O O O B-ORG O O B-PER I-PER O O O O O O O O O O B-LOC O O O O
1988
+ O O O O O O O O O
1989
+ O B-ORG I-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O
1990
+ O O O O O O O O O O O O B-LOC O O O O O O B-ORG O O
1991
+ O O O O O O O O O O O O O O O O O O B-PER O B-PER O O O O O O O O B-LOC O O O O
1992
+ O O B-ORG O O B-ORG O
1993
+ O O B-ORG O O O O O O O O O O O O O O O O O O O O
1994
+ O O B-ORG O O B-PER I-PER I-PER O
1995
+ O O O O O O O O O O B-LOC O O O O O O O O O O O O O O O B-LOC O O O O O O
1996
+ B-ORG O O O O O O O O O O O O O O O O B-LOC O O O O O O O O O O O O O O O O O O O O O O O O O O
1997
+ O O O O O O O B-LOC O O O O O O O O O O O O O O O B-LOC O
1998
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
1999
+ O O O O O O B-LOC O O
2000
+ B-LOC O O O O O O O O O B-LOC O O O O O O O O O O O O O O O O O O O O O
2001
+ O O O B-LOC O O O O B-PER O O O O O O O O O O O O O
2002
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O
2003
+ O O
2004
+ O O O O O O O O O O O
2005
+ O O O O O O O B-LOC O O O O O O O B-PER I-PER O O O
2006
+ O O O O O B-PER O O O B-PER O
2007
+ B-PER O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER O
2008
+ O O O O O O O O O O O O O O O O O
2009
+ O O B-PER O O O O O O O O O O O O O O
2010
+ O O O O O O O O O O O O O O
2011
+ O O O O O O O O
2012
+ O O O O B-PER O O O O O O O O B-LOC O
2013
+ B-PER O O O O O B-LOC O O O O O O O B-LOC O O O O O O O O O O O
2014
+ B-PER O O O B-PER I-PER O O O O O O B-ORG I-ORG I-ORG O O O O O O O O O O O B-LOC O O B-LOC O O O O O B-PER I-PER O O O O O B-PER O O O O B-LOC I-LOC I-LOC O O
2015
+ O O O O O O O O O O O O O O O B-ORG I-ORG I-ORG O O O O O B-ORG I-ORG I-ORG I-ORG I-ORG I-ORG O O O O O O O B-PER I-PER O O O O O O O O O O
2016
+ O O O O O O O O B-PER O O O B-LOC O
2017
+ B-PER O O O O O O O O O O O O O O O B-LOC O O O O
2018
+ O O O O O
2019
+ O O O O B-ORG I-ORG I-ORG O O O O O O B-ORG I-ORG I-ORG O B-LOC O O O O O O
2020
+ B-PER O O O O O B-ORG I-ORG I-ORG O O B-LOC O O O O O O O O O O B-LOC O
2021
+ O O O O B-ORG I-ORG O O O O O O O O O O O O O O B-LOC I-LOC O O
2022
+ O B-ORG O O O O O O O O O B-LOC O B-ORG I-ORG I-ORG O O O O O O O O O O B-PER I-PER O
2023
+ B-PER O O O O O O O O O
2024
+ O O B-PER O B-PER O O B-PER O
2025
+ O O O O B-PER O B-PER O O O O O
2026
+ O O O O O O O O O O O B-ORG O O O O O O B-LOC O O O O B-PER I-PER O O O O O O
2027
+ O O O O O O O O O O O
2028
+ B-PER O B-PER I-PER O O O O O O O O O B-ORG I-ORG I-ORG O O O O O O
2029
+ B-PER O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER I-PER O O O O O O O O O O O O B-ORG O O O O O O O O
2030
+ O O O B-PER O O O O O O O O O O O
2031
+ B-PER O O O O O O O O O B-PER I-PER O O O O O O O O O B-LOC O O O O O O O O B-PER I-PER O B-LOC O O O B-LOC O
2032
+ O O O O O B-LOC O O O O O O O O O O
2033
+ O O O O O O O
2034
+ O O O O O O O O O O
2035
+ O O O O O O O B-PER I-PER O O O O B-PER I-PER O
2036
+ O O O O O O O O O O B-ORG O O O O O O O O O O O
2037
+ B-PER O B-PER O O O O O O O O O O O O O O O B-PER I-PER O
2038
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
2039
+ O O O O O O O O O O O O
2040
+ O O O O O O O O O O O O O B-PER O O O O
2041
+ O O O O O O
2042
+ B-PER O O O O O O
2043
+ O O O O O O O O O O
2044
+ O O O O O O O O O O B-ORG I-ORG I-ORG O O I-ORG O O O O O O O O O O O O O B-ORG I-ORG I-ORG I-ORG O O O O O O O O O O O O O O O B-PER I-PER I-PER O O
2045
+ O O O O O O O
2046
+ B-PER I-PER I-PER I-PER I-PER O O O O O O O O O O O B-ORG I-ORG I-ORG O O O O O O
2047
+ O O O O B-PER O O B-LOC O O B-PER O O O O O O O O O O O B-ORG I-ORG I-ORG O O O O O O O O O
2048
+ O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG I-ORG I-ORG O
2049
+ O O O O O O O B-PER O O O O B-LOC O O O O O O O O
2050
+ O O O O O O O O O O
2051
+ B-ORG I-ORG I-ORG O B-LOC O O O O O O O O O O O O O O O O O B-PER I-PER I-PER O
2052
+ O O O O O O O O O O O O O O O O O B-ORG O O O O O O O O O O
2053
+ O B-PER O O O O O O O O O O O O O O O O O O O O O O O O B-LOC O O O O O O
2054
+ O O O O O O O O O B-ORG I-ORG I-ORG I-ORG I-ORG I-ORG O O B-PER I-PER I-PER I-PER O O O O O O B-LOC I-LOC O O B-LOC O O O O
2055
+ O O O O B-ORG I-ORG I-ORG O O O O O O O O O O O O O B-PER I-PER O O O O O O O O
2056
+ B-PER O O O O O O O O O O O O B-LOC O O O O O O O O O O O O O
2057
+ O O O O O O O O O O B-LOC O B-LOC O
2058
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-PER O
2059
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
2060
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
2061
+ O O O O O O O O O O O O B-LOC O O B-LOC O O O O O O O O O O O O O O O O O
2062
+ O O O O O O O O O O O B-LOC O O B-LOC O
2063
+ O O O O O O B-ORG I-ORG I-ORG O O B-LOC O O O O O O O
2064
+ O O O O O O O O O B-ORG I-ORG I-ORG O O O O O O O O O O O O B-LOC O O O O B-ORG I-ORG I-ORG I-ORG O O O O O O O O O B-PER I-PER O O O O O O O O O B-LOC O O O
2065
+ O B-ORG I-ORG I-ORG O O B-PER I-PER I-PER O O O O O O O O O O O O O O O O O O O O O O
2066
+ O O O O O O O O O B-PER O O O
2067
+ O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O B-ORG I-ORG I-ORG I-ORG O
2068
+ O O B-ORG I-ORG I-ORG O O O O O B-PER O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
2069
+ B-ORG I-ORG I-ORG O O B-ORG I-ORG I-ORG I-ORG O O O O O O O O B-LOC O O O O
2070
+ O O O O O B-ORG O O O O O O O O O O O O O O O O O O O O O O O O O O O O B-LOC O O O O O O O O O O O
2071
+ O O B-ORG O O O O O O O O O O O O O O O O B-LOC O O O O O O O O O O B-LOC O
2072
+ O O O O O O O O
2073
+ O O O O O O O O O O O O O O O O O O B-LOC O O O O
2074
+ O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O O
2075
+ O O O O O O O O O O O O O O O O O B-LOC O
2076
+ O O O O O O O O O O O O B-ORG O O O O O O O O O O O O O O O O O O B-LOC O O B-LOC O O O B-LOC O O B-ORG I-ORG O O B-LOC O
2077
+ O O O O O O O O O O O O O O O O O B-LOC O O O O O O B-PER O O O O O
2078
+
pytorch_model.bin ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:659823b85a8c85d47642d69ba17cd02fac8d38f1dd64e7ad9a674ddac9a88e74
3
+ size 2235532275
special_tokens_map.json ADDED
@@ -0,0 +1,15 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "bos_token": "<s>",
3
+ "cls_token": "<s>",
4
+ "eos_token": "</s>",
5
+ "mask_token": {
6
+ "content": "<mask>",
7
+ "lstrip": true,
8
+ "normalized": false,
9
+ "rstrip": false,
10
+ "single_word": false
11
+ },
12
+ "pad_token": "<pad>",
13
+ "sep_token": "</s>",
14
+ "unk_token": "<unk>"
15
+ }
tokenizer.json ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f2c509a525eb51aebb33fb59c24ee923c1d4c1db23c3ae81fe05ccf354084f7b
3
+ size 17082758
tokenizer_config.json ADDED
@@ -0,0 +1,20 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "add_prefix_space": true,
3
+ "bos_token": "<s>",
4
+ "clean_up_tokenization_spaces": true,
5
+ "cls_token": "<s>",
6
+ "eos_token": "</s>",
7
+ "mask_token": {
8
+ "__type": "AddedToken",
9
+ "content": "<mask>",
10
+ "lstrip": true,
11
+ "normalized": true,
12
+ "rstrip": false,
13
+ "single_word": false
14
+ },
15
+ "model_max_length": 512,
16
+ "pad_token": "<pad>",
17
+ "sep_token": "</s>",
18
+ "tokenizer_class": "XLMRobertaTokenizer",
19
+ "unk_token": "<unk>"
20
+ }
train_results.json ADDED
@@ -0,0 +1,8 @@
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "epoch": 5.0,
3
+ "train_loss": 0.026263209812495174,
4
+ "train_runtime": 785.6494,
5
+ "train_samples": 12544,
6
+ "train_samples_per_second": 79.832,
7
+ "train_steps_per_second": 4.99
8
+ }
trainer_state.json ADDED
@@ -0,0 +1,67 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "best_metric": null,
3
+ "best_model_checkpoint": null,
4
+ "epoch": 5.0,
5
+ "global_step": 3920,
6
+ "is_hyper_param_search": false,
7
+ "is_local_process_zero": true,
8
+ "is_world_process_zero": true,
9
+ "log_history": [
10
+ {
11
+ "epoch": 0.64,
12
+ "learning_rate": 2.6173469387755103e-05,
13
+ "loss": 0.0854,
14
+ "step": 500
15
+ },
16
+ {
17
+ "epoch": 1.28,
18
+ "learning_rate": 2.2346938775510205e-05,
19
+ "loss": 0.0409,
20
+ "step": 1000
21
+ },
22
+ {
23
+ "epoch": 1.91,
24
+ "learning_rate": 1.8520408163265304e-05,
25
+ "loss": 0.0289,
26
+ "step": 1500
27
+ },
28
+ {
29
+ "epoch": 2.55,
30
+ "learning_rate": 1.4693877551020408e-05,
31
+ "loss": 0.0187,
32
+ "step": 2000
33
+ },
34
+ {
35
+ "epoch": 3.19,
36
+ "learning_rate": 1.086734693877551e-05,
37
+ "loss": 0.0147,
38
+ "step": 2500
39
+ },
40
+ {
41
+ "epoch": 3.83,
42
+ "learning_rate": 7.0408163265306125e-06,
43
+ "loss": 0.0083,
44
+ "step": 3000
45
+ },
46
+ {
47
+ "epoch": 4.46,
48
+ "learning_rate": 3.2142857142857143e-06,
49
+ "loss": 0.0056,
50
+ "step": 3500
51
+ },
52
+ {
53
+ "epoch": 5.0,
54
+ "step": 3920,
55
+ "total_flos": 6628339113716736.0,
56
+ "train_loss": 0.026263209812495174,
57
+ "train_runtime": 785.6494,
58
+ "train_samples_per_second": 79.832,
59
+ "train_steps_per_second": 4.99
60
+ }
61
+ ],
62
+ "max_steps": 3920,
63
+ "num_train_epochs": 5,
64
+ "total_flos": 6628339113716736.0,
65
+ "trial_name": null,
66
+ "trial_params": null
67
+ }
training_args.bin ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ed9b43382bf255bc17d6fe5da31a6723971dca67c5dd3e5c3c8af22e7bc54faf
3
+ size 4015