Update README.md

README.md

@@ -21,4 +21,25 @@ language:
 - zh
 size_categories:
 - 100K<n<1M
----
+---
+
+Filtered and modified version of Japanese/Chinese language pair data from WikiMatrix v1 (https://opus.nlpl.eu/WikiMatrix.php).
+
+Process steps:
+1. Basic regex based filtering / length checking to remove abnormal pairs.
+2. Semantic similarity filtering with a threshold value of 0.6, based on sentence-transformers/LaBSE (https://huggingface.co/sentence-transformers/LaBSE).
+3. Convert all Traditional Chinese sentences into Simplified Chinese with zhconv (https://github.com/gumblex/zhconv).
+------
+经过过滤和修改的日语/中文语言对数据，来自WikiMatrix v1（https://opus.nlpl.eu/WikiMatrix.php）。
+
+处理步骤：
+1. 基本的基于正则表达式的过滤/长度检查，以删除异常对。
+2. 基于sentence-transformers/LaBSE（https://huggingface.co/sentence-transformers/LaBSE）的语义相似性过滤，阈值为0.6。
+3. 使用zhconv（https://github.com/gumblex/zhconv）将所有繁体中文句子转换为简体中文。
+------
+以下はフィルタリングされ修正された日本語/中国語のペアデータです。データ元はWikiMatrix v1（https://opus.nlpl.eu/WikiMatrix.php）です。
+
+処理手順：
+1. 正規表現に基づくフィルタリング/長さのチェックを行い、異常なペアを削除します。
+2. sentence-transformers/LaBSE（https://huggingface.co/sentence-transformers/LaBSE）に基づくセマンティック類似性フィルタリングを行い、閾値は0.6です。
+3. zhconv（https://github.com/gumblex/zhconv）を使って、すべての繁体字中国語の文を簡体字中国語に変換します。