Update files from the datasets library (from 1.18.0)
Browse filesRelease notes: https://github.com/huggingface/datasets/releases/tag/1.18.0
- README.md +16 -6
- tashkeela.py +8 -3
README.md
CHANGED
@@ -6,7 +6,7 @@ language_creators:
|
|
6 |
languages:
|
7 |
- ar
|
8 |
licenses:
|
9 |
-
-
|
10 |
multilinguality:
|
11 |
- monolingual
|
12 |
size_categories:
|
@@ -19,6 +19,7 @@ task_ids:
|
|
19 |
- language-modeling
|
20 |
- other-diacritics-prediction
|
21 |
paperswithcode_id: null
|
|
|
22 |
---
|
23 |
|
24 |
# Dataset Card for Tashkeela
|
@@ -61,7 +62,7 @@ It contains 75 million of fully vocalized words mainly
|
|
61 |
|
62 |
### Supported Tasks and Leaderboards
|
63 |
|
64 |
-
|
65 |
|
66 |
### Languages
|
67 |
|
@@ -71,11 +72,15 @@ The dataset is based on Arabic.
|
|
71 |
|
72 |
### Data Instances
|
73 |
|
74 |
-
|
|
|
|
|
|
|
75 |
|
76 |
### Data Fields
|
77 |
|
78 |
-
|
|
|
79 |
|
80 |
### Data Splits
|
81 |
|
@@ -117,7 +122,11 @@ The dataset does not contain any additional annotations.
|
|
117 |
|
118 |
## Considerations for Using the Data
|
119 |
|
120 |
-
###
|
|
|
|
|
|
|
|
|
121 |
|
122 |
[More Information Needed]
|
123 |
|
@@ -133,10 +142,11 @@ The dataset does not contain any additional annotations.
|
|
133 |
|
134 |
### Licensing Information
|
135 |
|
136 |
-
[
|
137 |
|
138 |
### Citation Information
|
139 |
|
|
|
140 |
```
|
141 |
@article{zerrouki2017tashkeela,
|
142 |
title={Tashkeela: Novel corpus of Arabic vocalized texts, data for auto-diacritization systems},
|
|
|
6 |
languages:
|
7 |
- ar
|
8 |
licenses:
|
9 |
+
- gpl-2-0
|
10 |
multilinguality:
|
11 |
- monolingual
|
12 |
size_categories:
|
|
|
19 |
- language-modeling
|
20 |
- other-diacritics-prediction
|
21 |
paperswithcode_id: null
|
22 |
+
pretty_name: Tashkeela
|
23 |
---
|
24 |
|
25 |
# Dataset Card for Tashkeela
|
|
|
62 |
|
63 |
### Supported Tasks and Leaderboards
|
64 |
|
65 |
+
[More Information Needed]
|
66 |
|
67 |
### Languages
|
68 |
|
|
|
72 |
|
73 |
### Data Instances
|
74 |
|
75 |
+
```
|
76 |
+
{'book': 'zip://Tashkeela-arabic-diacritized-text-utf8-0.3/texts.txt/msa/al-kalema.org/أشكال-التجارب-في-مَثَل-الزارع.htm.txt::https://sourceforge.net/projects/tashkeela/files/latest/download',
|
77 |
+
'text': 'الكلمة\n\n\nصفحه اصلی\nاشترك\nالكتاب المقدس\nجميع المقالات\nالترتيب بالموضوع\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\nهذا المقال على نسخة PDF\n\n\nأشكال التجارب في مَثَل الزارع\n\n\tقد رأينا في مقال " \nوسائل واشكال التجارب" الأشكال التي من الممكن أن تتخذها التجارب (وخاصة الاختبارات التي تأتي من خلال الآلام والاضطهاد وأشراك إطاعة شهوات الإنسان العتيق، الجسد)، نستطيع أيضاً أن نرى هذه الأقسام عاملة في مثال الزارع. هناك مجموعتين في مثال الزارع أنه برغم من سماعهم واستقبالهم للكلمة، إلا أنهم لم يجلبوا ثماراً. والسؤال هو لماذا؟\n\n1. التجارب في القسم الثاني من مثال الزارع\n\nفيما يخص القسم الثاني من مثال الزارع، تخبرنا عنها متى 13: 20- 21 ولوقا 8: 13 \nمتى 13: 20- 21\n" وَالْمَزْرُوعُ عَلَى الأَمَاكِنِ الْمُحْجِرَةِ هُوَ الَّذِي يَسْمَعُ الْكَلِمَةَ، وَحَالاً يَقْبَلُهَا بِفَرَحٍ، وَلكِنْ لَيْسَ لَهُ أَصْلٌ فِي ذَاتِهِ، بَلْ هُوَ إِلَى حِينٍ. فَإِذَا حَدَثَ ضِيقٌ أَوِ اضْطِهَادٌ مِنْ أَجْلِ الْكَلِمَةِ فَحَالاً يَعْثُرُ."\nلوقا 8: 13\n" وَالَّذِينَ عَلَى الصَّخْرِ هُمُ الَّذِينَ مَتَى سَمِعُوا يَقْبَلُونَ الْكَلِمَةَ بِفَرَحٍ، وَهؤُلاَءِ لَيْسَ لَهُمْ أَصْلٌ، فَيُؤْمِنُونَ إِلَى حِينٍ، وَفِي وَقْتِ التَّجْرِبَةِ يَرْتَدُّونَ."\n\nكما نرى، الناس في هذا القسم سمعوا الكلمة وحالاً قبلوها بفرح! بمعنى آخر، لقد كانوا متحمسين جداً تجاه الكلمة. ثم جاءت التجارب والاختبارات في شكل ضيق واضطهاد من أجل الكلمة، أي أنه بسبب الكلمة، اضطهد هؤلاء الناس. وعندئذ توقفوا. عوضاً عن أن يحفظوا ويتمسكوا بالكلمة التي قد حدث واستقبلوها بفرح، تراجعوا وسقطوا بعيداً، إن كنت مؤمناً صغيراً مليء بالحماسة تجاه الله، وبالرغم من أنه قد يبدو أنه لا يوجد شيطان من حولك، فهذا لن يستمر إلى الأبد. فالتجارب والاختبارات آتية. ستحتاج إلى أن تحفظ وتتمسك بالإيمان وبالكلمة التي قد حدث واستقبلتها بفرح. كما تقول لنا الكلمة:\nعبرانيين 10: 35- 39\n" فَلاَ تَطْرَحُوا ثِقَتَكُمُ الَّتِي لَهَا مُجَازَاةٌ عَظِيمَةٌ. لأَنَّكُمْ تَحْتَاجُونَ إِلَى الصَّبْرِ، حَتَّى إِذَا صَنَعْتُمْ مَشِيئَةَ اللهِ تَنَالُونَ الْمَوْعِدَ. لأَنَّهُ بَعْدَ قَلِيل جِدًّا «سَيَأْتِي الآتِي وَلاَ يُبْطِئُ. أَمَّا الْبَارُّ فَبِالإِيمَانِ يَحْيَا، وَإِنِ ارْتَدَّ لاَ تُسَرُّ بِهِ نَفْسِي». وَأَمَّا نَحْنُ فَلَسْنَا مِنَ الارْتِدَادِ لِلْهَلاَكِ، بَلْ مِنَ الإِيمَانِ لاقْتِنَاءِ النَّفْسِ."\n\nوالضيق قد يأخذ أشكالاً عديدة. رأيت أناساً يسقطون، تاركين الإيمان لأن آبائهم أو أقاربهم وأصدقائهم قد عارضوهم ورفضوهم بسبب إيمانهم. بالطبع قد يأخذ الاضطهاد أشكالاً أكثر من ذلك أيضاً، مثل أن تلقى في سجن أو أن تعذب لأجل إيمانك. قد يسبب الموت كذلك، كما حدث مع اسطفانوس ويعقوب أخو يوحنا. وتقول الكلمة من أجلك ومن أجل كل الذين حوكموا:\nرومية 16: 19- 20\n" لأَنَّ طَاعَتَكُمْ ذَاعَتْ إِلَى الْجَمِيعِ، فَأَفْرَحُ أَنَا بِكُمْ، وَأُرِيدُ أَنْ تَكُونُوا حُكَمَاءَ لِلْخَيْرِ وَبُسَطَاءَ لِلشَّرِّ. وَإِلهُ السَّلاَمِ سَيَسْحَقُ الشَّيْطَانَ تَحْتَ أَرْجُلِكُمْ سَرِيعًا."\nو بطرس الأولى 5: 8- 10\n" اُصْحُوا وَاسْهَرُوا. لأَنَّ إِبْلِيسَ خَصْمَكُمْ كَأَسَدٍ زَائِرٍ، يَجُولُ مُلْتَمِسًا مَنْ يَبْتَلِعُهُ هُوَ. فَقَاوِمُوهُ، رَاسِخِينَ فِي الإِيمَانِ، عَالِمِينَ أَنَّ نَفْسَ هذِهِ الآلاَمِ تُجْرَى عَلَى إِخْوَتِكُمُ الَّذِينَ فِي الْعَالَمِ. وَإِلهُ كُلِّ نِعْمَةٍ الَّذِي دَعَانَا إِلَى مَجْدِهِ الأَبَدِيِّ فِي الْمَسِيحِ يَسُوعَ، بَعْدَمَا تَأَلَّمْتُمْ يَسِيرًا، هُوَ يُكَمِّلُكُمْ، وَيُثَبِّتُكُمْ، وَيُقَوِّيكُمْ، وَيُمَكِّنُكُمْ."\n\nتمسك بالإيمان حتى النهاية. ضع حياتك ووضعك بين يدي الله وكن مستعداً لمواجهة أي شيء قد يحدث، أجل وحتى السخرية والعذاب. الله معك، سيقويك وسيعينك تماماً مثلما فعل مع يسوع في بستان جسثيماني. وتماماً مثلما فعل مع بولس في السجن عندما اضطهد من قِبَل اليهود (أعمال الرسل 23: 11). وكما قال بولس في كورنثوس الثانية 1: 7:" عَالِمِينَ أَنَّكُمْ كَمَا أَنْتُمْ شُرَكَاءُ فِي الآلاَمِ، كَذلِكَ فِي التَّعْزِيَةِ أَيْضًا." فالعزاء الآتي من الله يوازن أي سخرية أو أي عذاب قد يأتي إلينا من أي إنسان.\n\n2. التجارب في القسم الثالث من مثال الزارع\n\nبخصوص القسم الثالث من مثال الزارع، فنقرأ عنه في مرقس 4: 18- 19\n\n" وَهؤُلاَءِ هُمُ الَّذِينَ زُرِعُوا بَيْنَ الشَّوْكِ: هؤُلاَءِ هُمُ الَّذِينَ يَسْمَعُونَ الْكَلِمَةَ، وَهُمُومُ هذَا الْعَالَمِ وَغُرُورُ الْغِنَى وَشَهَوَاتُ سَائِرِ الأَشْيَاءِ تَدْخُلُ وَتَخْنُقُ الْكَلِمَةَ فَتَصِيرُ بِلاَ ثَمَرٍ."\nو لوقا 8: 14\n" وَالَّذِي سَقَطَ بَيْنَ الشَّوْكِ هُمُ الَّذِينَ يَسْمَعُونَ، ثُمَّ يَذْهَبُونَ فَيَخْتَنِقُونَ مِنْ هُمُومِ الْحَيَاةِ وَغِنَاهَا وَلَذَّاتِهَا، وَلاَ يُنْضِجُونَ ثَمَرًا."\n\nهؤلاء قد سمعوا الكلمة وفهموها ولكنهم صاروا بلا ثمر، وما هو السبب؟ السبب هو لأنهم تركوا أبواب قلوبهم مفتوحة لأشواك " وَهُمُومُ هذَا الْعَالَمِ وَغُرُورُ الْغِنَى وَشَهَوَاتُ سَائِرِ الأَشْيَاءِ" (مرقس 4: 19)، والتي تدخل فتخنق الكلمة، كما رأينا يعقوب دائماً ما يقول:\nيعقوب 1: 13- 15\n" لاَ يَقُلْ أَحَدٌ إِذَا جُرِّبَ: «إِنِّي أُجَرَّبُ مِنْ قِبَلِ اللهِ»، لأَنَّ اللهَ غَيْرُ مُجَرَّبٍ بِالشُّرُورِ، وَهُوَ لاَ يُجَرِّبُ أَحَدًا. وَلكِنَّ كُلَّ وَاحِدٍ يُجَرَّبُ إِذَا انْجَذَبَ وَانْخَدَعَ مِنْ شَهْوَتِهِ. ثُمَّ الشَّهْوَةُ إِذَا حَبِلَتْ تَلِدُ خَطِيَّةً، وَالْخَطِيَّةُ إِذَا كَمَلَتْ تُنْتِجُ مَوْتًا."\nوتيموثاوس الأولى 6: 9 تقول لنا\n" وَأَمَّا الَّذِينَ يُرِيدُونَ أَنْ يَكُونُوا أَغْنِيَاءَ، فَيَسْقُطُونَ فِي تَجْرِبَةٍ وَفَخٍّ وَشَهَوَاتٍ كَثِيرَةٍ غَبِيَّةٍ وَمُضِرَّةٍ، تُغَرِّقُ النَّاسَ فِي الْعَطَبِ وَالْهَلاَكِ."\n\nيجب أن نلاحظ شيئاً هنا: أن تأثير هموم الحياة هو نفس التأثير الذي لتجارب الغنى وشهوات الأشياء ��لأخرى. فهموم الحياة أيضاً لا تجلب الثمار، إذاً فإن اردت أن تكون مسيحياً مثمراً، أي مسيحي حقيقي وليس فقط مسيحي اسمي، فيجب عليك أن تزيل أشواك الهموم والغنى وملذات الحياة وأن تمنعهم من العودة مرة أخرى. تحتاج إلى أن تفعل شيئاً، تحتاج إلى أن تتغير والله سيعينك في هذا إن كنت حقاً تريده. التجارب في القسم الثالث من مثال الزارع لا تأتي من خلال الاضطهاد والآلام عن طريق الشيطان. ولكن هنا تأخذ التجارب صوراً أكثر مكراً والتي مع هذا تتطلب مقاومتنا. الاهتمام بما يهتم به هذا العالم ("هموم هذا العالم")، الرغبة في الغنى أو اشتهاء الأشياء الأخرى هي أمور خطيرة جداً. إنها أشواك يجب إزالتها. كما رأينا بولس يقول:\nرومية 13: 14\n" بَلِ الْبَسُوا الرَّبَّ يَسُوعَ الْمَسِيحَ، وَلاَ تَصْنَعُوا تَدْبِيرًا لِلْجَسَدِ لأَجْلِ الشَّهَوَاتِ."\n\n" لاَ تَصْنَعُوا تَدْبِيرًا لِلْجَسَدِ" والتي تعني أنه يجب علينا أن لا نهتم بالجسد وشهواته. ولكن عوضاً عن ذلك ينبغي لنا أن نطعم أنفسنا بلبن الكلمة الصافي الذي ننمو بواستطه (بطرس الأولى 2: 2).\n\n\nتاسوس كيولاشوجلو'}
|
78 |
+
```
|
79 |
|
80 |
### Data Fields
|
81 |
|
82 |
+
- `book` (str): Book filename.
|
83 |
+
- `text` (str): Text of the book.
|
84 |
|
85 |
### Data Splits
|
86 |
|
|
|
122 |
|
123 |
## Considerations for Using the Data
|
124 |
|
125 |
+
### Social Impact of Dataset
|
126 |
+
|
127 |
+
[More Information Needed]
|
128 |
+
|
129 |
+
### Discussion of Biases
|
130 |
|
131 |
[More Information Needed]
|
132 |
|
|
|
142 |
|
143 |
### Licensing Information
|
144 |
|
145 |
+
[GNU General Public License, version 2 (GPLv2)](https://opensource.org/licenses/GPL-2.0).
|
146 |
|
147 |
### Citation Information
|
148 |
|
149 |
+
The dataset was published on this [paper](https://www.sciencedirect.com/science/article/pii/S2352340917300112#!):
|
150 |
```
|
151 |
@article{zerrouki2017tashkeela,
|
152 |
title={Tashkeela: Novel corpus of Arabic vocalized texts, data for auto-diacritization systems},
|
tashkeela.py
CHANGED
@@ -41,6 +41,10 @@ _CITATION = """\
|
|
41 |
}
|
42 |
"""
|
43 |
|
|
|
|
|
|
|
|
|
44 |
_DOWNLOAD_URL = "https://sourceforge.net/projects/tashkeela/files/latest/download"
|
45 |
|
46 |
|
@@ -76,7 +80,8 @@ class Tashkeela(datasets.GeneratorBasedBuilder):
|
|
76 |
}
|
77 |
),
|
78 |
supervised_keys=None,
|
79 |
-
homepage=
|
|
|
80 |
citation=_CITATION,
|
81 |
)
|
82 |
|
@@ -86,7 +91,7 @@ class Tashkeela(datasets.GeneratorBasedBuilder):
|
|
86 |
datasets.SplitGenerator(
|
87 |
name=datasets.Split.TRAIN,
|
88 |
gen_kwargs={
|
89 |
-
"directory": os.path.join(arch_path, "Tashkeela-arabic-diacritized-text-utf8-0.3
|
90 |
},
|
91 |
),
|
92 |
]
|
@@ -96,4 +101,4 @@ class Tashkeela(datasets.GeneratorBasedBuilder):
|
|
96 |
|
97 |
for id_, file_name in enumerate(sorted(glob.glob(os.path.join(directory, "**.txt")))):
|
98 |
with open(file_name, encoding="UTF-8") as f:
|
99 |
-
yield str(id_), {"book": file_name, "text": f.read()}
|
|
|
41 |
}
|
42 |
"""
|
43 |
|
44 |
+
_HOMEPAGE = "https://sourceforge.net/projects/tashkeela/"
|
45 |
+
|
46 |
+
_LICENSE = "GPLv2"
|
47 |
+
|
48 |
_DOWNLOAD_URL = "https://sourceforge.net/projects/tashkeela/files/latest/download"
|
49 |
|
50 |
|
|
|
80 |
}
|
81 |
),
|
82 |
supervised_keys=None,
|
83 |
+
homepage=_HOMEPAGE,
|
84 |
+
license=_LICENSE,
|
85 |
citation=_CITATION,
|
86 |
)
|
87 |
|
|
|
91 |
datasets.SplitGenerator(
|
92 |
name=datasets.Split.TRAIN,
|
93 |
gen_kwargs={
|
94 |
+
"directory": os.path.join(arch_path, "Tashkeela-arabic-diacritized-text-utf8-0.3", "texts.txt")
|
95 |
},
|
96 |
),
|
97 |
]
|
|
|
101 |
|
102 |
for id_, file_name in enumerate(sorted(glob.glob(os.path.join(directory, "**.txt")))):
|
103 |
with open(file_name, encoding="UTF-8") as f:
|
104 |
+
yield str(id_), {"book": file_name, "text": f.read().strip()}
|