varora commited on
Commit
6e46cde
1 Parent(s): b7b2921

changes to hit.py and hit_dataset.json

Browse files
Files changed (2) hide show
  1. hit.py +2 -3
  2. hit_dataset.json +157 -151
hit.py CHANGED
@@ -77,7 +77,7 @@ class NewDataset(datasets.GeneratorBasedBuilder):
77
  # data = datasets.load_dataset('my_dataset', 'second_domain')
78
 
79
  def _info(self):
80
- print("HELOOOOOOOOO")
81
  features = datasets.Features(
82
  {
83
  "gender": datasets.Value("string"),
@@ -104,7 +104,6 @@ class NewDataset(datasets.GeneratorBasedBuilder):
104
  'body_cont_pc': datasets.Array2D(dtype="float32", shape=(None, 3)),
105
  "dataset_name": datasets.Value("string"),
106
  "subject_ID": datasets.Value("string")
107
- # These are the features of your dataset like images, labels ...
108
  }
109
  )
110
  return datasets.DatasetInfo(
@@ -133,7 +132,7 @@ class NewDataset(datasets.GeneratorBasedBuilder):
133
 
134
  gender = self.config.name
135
  #data_urls = _BASE_URL + rel_path
136
- print(gender)
137
 
138
  file_structure_url = "hit_dataset.json"
139
  file_structure = dl_manager.download_and_extract(file_structure_url)
 
77
  # data = datasets.load_dataset('my_dataset', 'second_domain')
78
 
79
  def _info(self):
80
+ # These are the features of your dataset like images, labels ...
81
  features = datasets.Features(
82
  {
83
  "gender": datasets.Value("string"),
 
104
  'body_cont_pc': datasets.Array2D(dtype="float32", shape=(None, 3)),
105
  "dataset_name": datasets.Value("string"),
106
  "subject_ID": datasets.Value("string")
 
107
  }
108
  )
109
  return datasets.DatasetInfo(
 
132
 
133
  gender = self.config.name
134
  #data_urls = _BASE_URL + rel_path
135
+ print(f"Config: {gender}")
136
 
137
  file_structure_url = "hit_dataset.json"
138
  file_structure = dl_manager.download_and_extract(file_structure_url)
hit_dataset.json CHANGED
@@ -1,25 +1,33 @@
1
  {
2
  "male": {
3
  "train": [
4
- "0252.gz",
 
 
 
 
 
 
5
  "0253.gz",
6
- "0254.gz",
7
  "0255.gz",
8
  "0256.gz",
9
  "0257.gz",
10
- "0258.gz",
11
  "0260.gz",
 
12
  "0262.gz",
13
  "0263.gz",
14
  "0264.gz",
15
- "0266.gz",
16
  "0267.gz",
17
- "0269.gz",
18
  "0270.gz",
19
  "0271.gz",
20
  "0272.gz",
 
21
  "0274.gz",
22
  "0275.gz",
 
23
  "0277.gz",
24
  "0278.gz",
25
  "0279.gz",
@@ -28,46 +36,48 @@
28
  "0282.gz",
29
  "0283.gz",
30
  "0284.gz",
 
31
  "0286.gz",
32
  "0287.gz",
33
- "0288.gz",
34
  "0289.gz",
35
  "0290.gz",
36
- "0291.gz",
37
  "0292.gz",
38
  "0293.gz",
39
  "0295.gz",
40
  "0296.gz",
 
41
  "0298.gz",
42
  "0299.gz",
 
43
  "0301.gz",
44
  "0302.gz",
 
45
  "0304.gz",
46
  "0305.gz",
47
  "0306.gz",
48
  "0307.gz",
49
- "0308.gz",
50
  "0309.gz",
51
  "0310.gz",
52
- "0311.gz",
53
  "0312.gz",
54
  "0313.gz",
55
  "0314.gz",
56
- "0315.gz",
57
- "0316.gz",
58
  "0318.gz",
59
  "0319.gz",
 
60
  "0321.gz",
61
  "0322.gz",
62
  "0323.gz",
 
 
 
63
  "0327.gz",
 
 
64
  "0330.gz",
65
  "0331.gz",
66
  "0332.gz",
67
- "0333.gz",
68
  "0334.gz",
69
  "0335.gz",
70
- "0336.gz",
71
  "0337.gz",
72
  "0338.gz",
73
  "0339.gz",
@@ -75,97 +85,90 @@
75
  "0341.gz",
76
  "0342.gz",
77
  "0343.gz",
78
- "0345.gz",
79
  "0346.gz",
80
  "0348.gz",
81
- "0349.gz",
82
- "0350.gz",
83
  "0351.gz",
84
  "0352.gz",
85
  "0353.gz",
86
  "0354.gz",
87
  "0355.gz",
88
- "0357.gz",
 
 
89
  "0360.gz",
 
90
  "0363.gz",
91
- "0364.gz",
92
  "0365.gz",
93
  "0366.gz",
94
  "0367.gz",
95
  "0368.gz",
96
  "0370.gz",
97
- "0372.gz",
98
  "0373.gz",
 
99
  "0375.gz",
100
  "0376.gz",
 
101
  "0379.gz",
102
- "0380.gz",
103
- "0381.gz",
104
  "0382.gz",
105
- "0384.gz",
106
  "0385.gz",
 
107
  "0387.gz",
108
  "0388.gz",
109
  "0389.gz",
110
  "0390.gz",
111
  "0391.gz",
 
112
  "0393.gz",
 
 
113
  "0397.gz",
114
  "0399.gz",
115
- "0401.gz",
116
- "0403.gz",
117
- "0404.gz",
118
- "0405.gz",
119
- "0406.gz",
120
- "0407.gz",
121
- "0408.gz",
122
- "0409.gz",
123
- "0410.gz",
124
- "0411.gz",
125
- "0413.gz",
126
- "0414.gz",
127
- "0416.gz",
128
- "0417.gz",
129
- "0418.gz"
130
  ],
131
  "val": [
132
- "0297.gz",
133
- "0300.gz",
134
- "0303.gz",
135
- "0320.gz",
136
- "0324.gz",
137
- "0325.gz",
138
- "0326.gz",
 
 
139
  "0347.gz",
140
- "0356.gz",
141
- "0359.gz",
142
- "0362.gz",
143
- "0383.gz",
144
- "0386.gz",
145
- "0400.gz",
146
- "0420.gz",
147
- "0421.gz"
148
  ],
149
  "test": [
150
- "0259.gz",
151
- "0265.gz",
152
- "0273.gz",
153
- "0317.gz",
154
- "0344.gz",
 
 
 
155
  "0361.gz",
156
- "0369.gz",
157
- "0374.gz",
158
  "0378.gz",
159
- "0392.gz",
160
- "0394.gz",
161
- "0396.gz",
162
- "0412.gz",
163
- "0415.gz",
164
- "0419.gz"
165
  ]
166
  },
167
  "female": {
168
  "train": [
 
169
  "0001.gz",
170
  "0002.gz",
171
  "0003.gz",
@@ -200,106 +203,114 @@
200
  "0039.gz",
201
  "0040.gz",
202
  "0041.gz",
203
- "0044.gz",
 
204
  "0046.gz",
205
- "0047.gz",
206
- "0050.gz",
207
  "0051.gz",
 
208
  "0053.gz",
209
  "0055.gz",
210
- "0057.gz",
211
  "0058.gz",
 
212
  "0060.gz",
213
  "0061.gz",
214
  "0062.gz",
215
  "0063.gz",
216
  "0064.gz",
217
- "0065.gz",
218
- "0066.gz",
219
  "0069.gz",
220
- "0070.gz",
221
  "0071.gz",
 
222
  "0073.gz",
223
  "0074.gz",
224
  "0075.gz",
225
  "0076.gz",
226
  "0077.gz",
227
- "0078.gz",
228
  "0079.gz",
 
229
  "0081.gz",
230
  "0082.gz",
 
231
  "0084.gz",
232
  "0085.gz",
233
  "0086.gz",
234
  "0087.gz",
235
- "0088.gz",
236
  "0090.gz",
237
- "0092.gz",
238
  "0093.gz",
239
- "0096.gz",
 
240
  "0097.gz",
241
  "0098.gz",
 
242
  "0100.gz",
243
  "0101.gz",
244
  "0102.gz",
245
  "0103.gz",
246
  "0104.gz",
247
- "0105.gz",
248
  "0106.gz",
249
  "0107.gz",
 
 
250
  "0110.gz",
251
- "0111.gz",
252
- "0112.gz",
253
  "0113.gz",
 
 
254
  "0116.gz",
255
- "0117.gz",
256
  "0118.gz",
257
  "0119.gz",
258
- "0121.gz",
259
  "0122.gz",
260
  "0123.gz",
 
261
  "0126.gz",
262
  "0127.gz",
263
  "0128.gz",
264
- "0130.gz",
265
- "0131.gz",
266
  "0132.gz",
267
  "0133.gz",
 
 
268
  "0136.gz",
269
  "0137.gz",
270
  "0138.gz",
271
- "0139.gz",
272
  "0140.gz",
273
  "0141.gz",
274
- "0142.gz",
275
  "0144.gz",
276
  "0145.gz",
277
- "0147.gz",
278
  "0148.gz",
279
  "0149.gz",
 
280
  "0152.gz",
281
  "0153.gz",
 
282
  "0155.gz",
283
  "0156.gz",
284
  "0157.gz",
285
  "0158.gz",
286
  "0159.gz",
287
- "0160.gz",
288
- "0161.gz",
289
  "0162.gz",
290
  "0163.gz",
 
 
291
  "0166.gz",
292
  "0167.gz",
293
  "0168.gz",
294
- "0169.gz",
295
  "0170.gz",
296
  "0171.gz",
297
- "0172.gz",
298
  "0174.gz",
299
  "0175.gz",
300
- "0177.gz",
301
  "0179.gz",
302
  "0180.gz",
 
 
303
  "0183.gz",
304
  "0184.gz",
305
  "0185.gz",
@@ -315,102 +326,97 @@
315
  "0195.gz",
316
  "0196.gz",
317
  "0197.gz",
318
- "0198.gz",
319
  "0199.gz",
 
320
  "0201.gz",
321
  "0202.gz",
322
  "0203.gz",
323
- "0205.gz",
324
  "0206.gz",
325
- "0207.gz",
326
  "0208.gz",
327
  "0209.gz",
328
  "0210.gz",
 
329
  "0212.gz",
 
330
  "0214.gz",
331
  "0215.gz",
332
  "0216.gz",
333
  "0217.gz",
334
- "0218.gz",
335
- "0219.gz",
336
  "0220.gz",
337
- "0221.gz",
338
  "0222.gz",
339
  "0223.gz",
340
- "0227.gz",
341
- "0229.gz",
 
 
342
  "0230.gz",
343
- "0231.gz",
344
  "0232.gz",
345
- "0233.gz",
346
  "0235.gz",
 
347
  "0237.gz",
 
348
  "0239.gz",
 
349
  "0241.gz",
350
  "0242.gz",
351
  "0243.gz",
352
- "0244.gz",
353
- "0245.gz",
354
- "0246.gz",
355
- "0247.gz",
356
- "0248.gz",
357
- "0249.gz",
358
- "0250.gz",
359
- "0251.gz"
360
  ],
361
  "val": [
362
  "0011.gz",
363
  "0023.gz",
364
  "0028.gz",
365
- "0045.gz",
366
- "0049.gz",
367
- "0052.gz",
368
- "0056.gz",
369
- "0059.gz",
370
- "0068.gz",
 
371
  "0091.gz",
372
- "0094.gz",
373
- "0115.gz",
374
- "0129.gz",
375
- "0134.gz",
376
- "0135.gz",
377
- "0146.gz",
378
- "0151.gz",
379
- "0154.gz",
380
- "0164.gz",
381
- "0173.gz",
382
  "0176.gz",
383
- "0181.gz",
384
- "0182.gz",
385
- "0234.gz",
386
- "0240.gz"
387
  ],
388
  "test": [
 
389
  "0006.gz",
390
  "0007.gz",
391
  "0013.gz",
392
- "0043.gz",
393
- "0067.gz",
394
- "0072.gz",
395
- "0080.gz",
396
- "0095.gz",
397
- "0099.gz",
398
- "0108.gz",
399
- "0114.gz",
400
- "0120.gz",
401
- "0125.gz",
402
- "0143.gz",
403
- "0150.gz",
404
- "0165.gz",
405
- "0204.gz",
406
- "0211.gz",
407
- "0213.gz",
408
- "0224.gz",
409
- "0225.gz",
410
- "0228.gz",
411
- "0236.gz",
412
- "0238.gz",
413
- "0000.gz"
414
  ]
415
  }
416
  }
 
1
  {
2
  "male": {
3
  "train": [
4
+ "0245.gz",
5
+ "0246.gz",
6
+ "0247.gz",
7
+ "0248.gz",
8
+ "0249.gz",
9
+ "0250.gz",
10
+ "0251.gz",
11
  "0253.gz",
 
12
  "0255.gz",
13
  "0256.gz",
14
  "0257.gz",
15
+ "0259.gz",
16
  "0260.gz",
17
+ "0261.gz",
18
  "0262.gz",
19
  "0263.gz",
20
  "0264.gz",
21
+ "0265.gz",
22
  "0267.gz",
23
+ "0268.gz",
24
  "0270.gz",
25
  "0271.gz",
26
  "0272.gz",
27
+ "0273.gz",
28
  "0274.gz",
29
  "0275.gz",
30
+ "0276.gz",
31
  "0277.gz",
32
  "0278.gz",
33
  "0279.gz",
 
36
  "0282.gz",
37
  "0283.gz",
38
  "0284.gz",
39
+ "0285.gz",
40
  "0286.gz",
41
  "0287.gz",
 
42
  "0289.gz",
43
  "0290.gz",
 
44
  "0292.gz",
45
  "0293.gz",
46
  "0295.gz",
47
  "0296.gz",
48
+ "0297.gz",
49
  "0298.gz",
50
  "0299.gz",
51
+ "0300.gz",
52
  "0301.gz",
53
  "0302.gz",
54
+ "0303.gz",
55
  "0304.gz",
56
  "0305.gz",
57
  "0306.gz",
58
  "0307.gz",
 
59
  "0309.gz",
60
  "0310.gz",
 
61
  "0312.gz",
62
  "0313.gz",
63
  "0314.gz",
 
 
64
  "0318.gz",
65
  "0319.gz",
66
+ "0320.gz",
67
  "0321.gz",
68
  "0322.gz",
69
  "0323.gz",
70
+ "0324.gz",
71
+ "0325.gz",
72
+ "0326.gz",
73
  "0327.gz",
74
+ "0328.gz",
75
+ "0329.gz",
76
  "0330.gz",
77
  "0331.gz",
78
  "0332.gz",
 
79
  "0334.gz",
80
  "0335.gz",
 
81
  "0337.gz",
82
  "0338.gz",
83
  "0339.gz",
 
85
  "0341.gz",
86
  "0342.gz",
87
  "0343.gz",
88
+ "0344.gz",
89
  "0346.gz",
90
  "0348.gz",
 
 
91
  "0351.gz",
92
  "0352.gz",
93
  "0353.gz",
94
  "0354.gz",
95
  "0355.gz",
96
+ "0356.gz",
97
+ "0358.gz",
98
+ "0359.gz",
99
  "0360.gz",
100
+ "0362.gz",
101
  "0363.gz",
 
102
  "0365.gz",
103
  "0366.gz",
104
  "0367.gz",
105
  "0368.gz",
106
  "0370.gz",
107
+ "0371.gz",
108
  "0373.gz",
109
+ "0374.gz",
110
  "0375.gz",
111
  "0376.gz",
112
+ "0377.gz",
113
  "0379.gz",
 
 
114
  "0382.gz",
115
+ "0383.gz",
116
  "0385.gz",
117
+ "0386.gz",
118
  "0387.gz",
119
  "0388.gz",
120
  "0389.gz",
121
  "0390.gz",
122
  "0391.gz",
123
+ "0392.gz",
124
  "0393.gz",
125
+ "0394.gz",
126
+ "0396.gz",
127
  "0397.gz",
128
  "0399.gz",
129
+ "0400.gz",
130
+ "0401.gz"
 
 
 
 
 
 
 
 
 
 
 
 
 
131
  ],
132
  "val": [
133
+ "0288.gz",
134
+ "0291.gz",
135
+ "0294.gz",
136
+ "0311.gz",
137
+ "0315.gz",
138
+ "0316.gz",
139
+ "0317.gz",
140
+ "0336.gz",
141
+ "0345.gz",
142
  "0347.gz",
143
+ "0350.gz",
144
+ "0369.gz",
145
+ "0372.gz",
146
+ "0384.gz",
147
+ "0403.gz",
148
+ "0404.gz"
 
 
149
  ],
150
  "test": [
151
+ "0252.gz",
152
+ "0254.gz",
153
+ "0258.gz",
154
+ "0266.gz",
155
+ "0308.gz",
156
+ "0333.gz",
157
+ "0349.gz",
158
+ "0357.gz",
159
  "0361.gz",
160
+ "0364.gz",
 
161
  "0378.gz",
162
+ "0380.gz",
163
+ "0381.gz",
164
+ "0395.gz",
165
+ "0398.gz",
166
+ "0402.gz"
 
167
  ]
168
  },
169
  "female": {
170
  "train": [
171
+ "0000.gz",
172
  "0001.gz",
173
  "0002.gz",
174
  "0003.gz",
 
203
  "0039.gz",
204
  "0040.gz",
205
  "0041.gz",
206
+ "0043.gz",
207
+ "0045.gz",
208
  "0046.gz",
209
+ "0048.gz",
210
+ "0049.gz",
211
  "0051.gz",
212
+ "0052.gz",
213
  "0053.gz",
214
  "0055.gz",
215
+ "0056.gz",
216
  "0058.gz",
217
+ "0059.gz",
218
  "0060.gz",
219
  "0061.gz",
220
  "0062.gz",
221
  "0063.gz",
222
  "0064.gz",
223
+ "0067.gz",
224
+ "0068.gz",
225
  "0069.gz",
 
226
  "0071.gz",
227
+ "0072.gz",
228
  "0073.gz",
229
  "0074.gz",
230
  "0075.gz",
231
  "0076.gz",
232
  "0077.gz",
 
233
  "0079.gz",
234
+ "0080.gz",
235
  "0081.gz",
236
  "0082.gz",
237
+ "0083.gz",
238
  "0084.gz",
239
  "0085.gz",
240
  "0086.gz",
241
  "0087.gz",
242
+ "0089.gz",
243
  "0090.gz",
 
244
  "0093.gz",
245
+ "0094.gz",
246
+ "0095.gz",
247
  "0097.gz",
248
  "0098.gz",
249
+ "0099.gz",
250
  "0100.gz",
251
  "0101.gz",
252
  "0102.gz",
253
  "0103.gz",
254
  "0104.gz",
 
255
  "0106.gz",
256
  "0107.gz",
257
+ "0108.gz",
258
+ "0109.gz",
259
  "0110.gz",
 
 
260
  "0113.gz",
261
+ "0114.gz",
262
+ "0115.gz",
263
  "0116.gz",
 
264
  "0118.gz",
265
  "0119.gz",
266
+ "0120.gz",
267
  "0122.gz",
268
  "0123.gz",
269
+ "0124.gz",
270
  "0126.gz",
271
  "0127.gz",
272
  "0128.gz",
273
+ "0129.gz",
 
274
  "0132.gz",
275
  "0133.gz",
276
+ "0134.gz",
277
+ "0135.gz",
278
  "0136.gz",
279
  "0137.gz",
280
  "0138.gz",
 
281
  "0140.gz",
282
  "0141.gz",
283
+ "0143.gz",
284
  "0144.gz",
285
  "0145.gz",
 
286
  "0148.gz",
287
  "0149.gz",
288
+ "0151.gz",
289
  "0152.gz",
290
  "0153.gz",
291
+ "0154.gz",
292
  "0155.gz",
293
  "0156.gz",
294
  "0157.gz",
295
  "0158.gz",
296
  "0159.gz",
 
 
297
  "0162.gz",
298
  "0163.gz",
299
+ "0164.gz",
300
+ "0165.gz",
301
  "0166.gz",
302
  "0167.gz",
303
  "0168.gz",
 
304
  "0170.gz",
305
  "0171.gz",
306
+ "0173.gz",
307
  "0174.gz",
308
  "0175.gz",
309
+ "0178.gz",
310
  "0179.gz",
311
  "0180.gz",
312
+ "0181.gz",
313
+ "0182.gz",
314
  "0183.gz",
315
  "0184.gz",
316
  "0185.gz",
 
326
  "0195.gz",
327
  "0196.gz",
328
  "0197.gz",
 
329
  "0199.gz",
330
+ "0200.gz",
331
  "0201.gz",
332
  "0202.gz",
333
  "0203.gz",
334
+ "0204.gz",
335
  "0206.gz",
 
336
  "0208.gz",
337
  "0209.gz",
338
  "0210.gz",
339
+ "0211.gz",
340
  "0212.gz",
341
+ "0213.gz",
342
  "0214.gz",
343
  "0215.gz",
344
  "0216.gz",
345
  "0217.gz",
 
 
346
  "0220.gz",
 
347
  "0222.gz",
348
  "0223.gz",
349
+ "0224.gz",
350
+ "0225.gz",
351
+ "0226.gz",
352
+ "0228.gz",
353
  "0230.gz",
 
354
  "0232.gz",
355
+ "0234.gz",
356
  "0235.gz",
357
+ "0236.gz",
358
  "0237.gz",
359
+ "0238.gz",
360
  "0239.gz",
361
+ "0240.gz",
362
  "0241.gz",
363
  "0242.gz",
364
  "0243.gz",
365
+ "0244.gz"
 
 
 
 
 
 
 
366
  ],
367
  "val": [
368
  "0011.gz",
369
  "0023.gz",
370
  "0028.gz",
371
+ "0044.gz",
372
+ "0047.gz",
373
+ "0050.gz",
374
+ "0054.gz",
375
+ "0057.gz",
376
+ "0066.gz",
377
+ "0088.gz",
378
  "0091.gz",
379
+ "0112.gz",
380
+ "0125.gz",
381
+ "0130.gz",
382
+ "0131.gz",
383
+ "0142.gz",
384
+ "0147.gz",
385
+ "0150.gz",
386
+ "0160.gz",
387
+ "0169.gz",
388
+ "0172.gz",
389
  "0176.gz",
390
+ "0177.gz",
391
+ "0227.gz",
392
+ "0233.gz"
 
393
  ],
394
  "test": [
395
+ "0004.gz",
396
  "0006.gz",
397
  "0007.gz",
398
  "0013.gz",
399
+ "0042.gz",
400
+ "0065.gz",
401
+ "0070.gz",
402
+ "0078.gz",
403
+ "0092.gz",
404
+ "0096.gz",
405
+ "0105.gz",
406
+ "0111.gz",
407
+ "0117.gz",
408
+ "0121.gz",
409
+ "0139.gz",
410
+ "0146.gz",
411
+ "0161.gz",
412
+ "0198.gz",
413
+ "0205.gz",
414
+ "0207.gz",
415
+ "0218.gz",
416
+ "0219.gz",
417
+ "0221.gz",
418
+ "0229.gz",
419
+ "0231.gz"
 
420
  ]
421
  }
422
  }