Hugging Face's logo

Datasets:
larryvrh
/
WikiMatrix-v1-Ja_Zh-filtered

Tasks:
Translation
Modalities:
Text
Formats:
parquet
Languages:
Japanese
Chinese
Size:
100K - 1M
Libraries:
Datasets
pandas
License:
Dataset card Viewer Files Community
2
larryvrh commited on
Commit
4919d31
•
1 Parent(s): 8c26357

Fix urls in README.md

Browse files
Files changed (1) hide show
  1. README.md +9 -9
README.md CHANGED
@@ -23,23 +23,23 @@ size_categories:
23
  - 100K<n<1M
24
  ---
25
 
26
- Filtered and modified version of Japanese/Chinese language pair data from WikiMatrix v1 (https://opus.nlpl.eu/WikiMatrix.php).
27
 
28
  Process steps:
29
  1. Basic regex based filtering / length checking to remove abnormal pairs.
30
- 2. Semantic similarity filtering with a threshold value of 0.6, based on sentence-transformers/LaBSE (https://huggingface.co/sentence-transformers/LaBSE).
31
- 3. Convert all Traditional Chinese sentences into Simplified Chinese with zhconv (https://github.com/gumblex/zhconv).
32
  ------
33
- 经过过滤和修改的日语/中文语言对数据，来自WikiMatrix v1（https://opus.nlpl.eu/WikiMatrix.php）。
34
 
35
  处理步骤：
36
  1. 基本的基于正则表达式的过滤/长度检查，以删除异常对。
37
- 2. 基于sentence-transformers/LaBSE（https://huggingface.co/sentence-transformers/LaBSE）的语义相似性过滤，阈值为0.6。
38
- 3. 使用zhconv（https://github.com/gumblex/zhconv）将所有繁体中文句子转换为简体中文。
39
  ------
40
- 以下はフィルタリングされ修正された日本語/中国語のペアデータです。データ元はWikiMatrix v1（https://opus.nlpl.eu/WikiMatrix.php）です。
41
 
42
  処理手順：
43
  1. 正規表現に基づくフィルタリング/長さのチェックを行い、異常なペアを削除します。
44
- 2. sentence-transformers/LaBSE（https://huggingface.co/sentence-transformers/LaBSE）に基づくセマンティック類似性フィルタリングを行い、閾値は0.6です。
45
- 3. zhconv（https://github.com/gumblex/zhconv）を使って、すべての繁体字中国語の文を簡体字中国語に変換します。
 
23
  - 100K<n<1M
24
  ---
25
 
26
+ Filtered and modified version of Japanese/Chinese language pair data from [WikiMatrix v1](https://opus.nlpl.eu/WikiMatrix.php).
27
 
28
  Process steps:
29
  1. Basic regex based filtering / length checking to remove abnormal pairs.
30
+ 2. Semantic similarity filtering with a threshold value of 0.6, based on [sentence-transformers/LaBSE](https://huggingface.co/sentence-transformers/LaBSE).
31
+ 3. Convert all Traditional Chinese sentences into Simplified Chinese with [zhconv](https://github.com/gumblex/zhconv).
32
  ------
33
+ 经过过滤和修改的日语/中文语言对数据，来自[WikiMatrix v1](https://opus.nlpl.eu/WikiMatrix.php)。
34
 
35
  处理步骤：
36
  1. 基本的基于正则表达式的过滤/长度检查，以删除异常对。
37
+ 2. 基于[sentence-transformers/LaBSE](https://huggingface.co/sentence-transformers/LaBSE)的语义相似性过滤，阈值为0.6。
38
+ 3. 使用[zhconv](https://github.com/gumblex/zhconv)将所有繁体中文句子转换为简体中文。
39
  ------
40
+ 以下はフィルタリングされ修正された日本語/中国語のペアデータです。データ元は[WikiMatrix v1](https://opus.nlpl.eu/WikiMatrix.php)です。
41
 
42
  処理手順：
43
  1. 正規表現に基づくフィルタリング/長さのチェックを行い、異常なペアを削除します。
44
+ 2. [sentence-transformers/LaBSE](https://huggingface.co/sentence-transformers/LaBSE)に基づくセマンティック類似性フィルタリングを行い、閾値は0.6です。
45
+ 3. [zhconv](https://github.com/gumblex/zhconv)を使って、すべての繁体字中国語の文を簡体字中国語に変換します。