Update README.md

README.md

@@ -75,6 +75,89 @@ total: 3.93 GiB
 
 ### Data Splits
 
-|             |    train |
-| ----------- | -------- |
-| num of data | 11376263 |
+|            |    train |
+| ---------- | -------- |
+| # of texts | 11376263 |
+
+
+## Note
+
+### Height, Width
+
+모든 데이터를 살펴본 것은 아니지만, 이미지의 가로가 `HEIGHT`로, 세로가 `WIDTH`로 되어있는 것 같습니다.
+
+```pycon
+>>> dataset["train"][98]
+{'SAMPLE_ID': 2937471001780,
+ 'URL': 'https://image.ajunews.com/content/image/2019/04/12/20190412175643597949.png',
+ 'TEXT': '인천시교육청, 인천 시군구발전협의회  임원진과의 간담회 개최',
+ 'HEIGHT': 640,
+ 'WIDTH': 321,
+ 'LICENSE': '?',
+ 'LANGUAGE': 'ko',
+ 'NSFW': 'UNLIKELY',
+ 'similarity': 0.33347243070602417}
+```
+
+[image](https://image.ajunews.com/content/image/2019/04/12/20190412175643597949.png)
+
+### Code used to generate
+
+```py
+import csv
+import re
+
+from datasets import load_dataset
+from tqdm import tqdm
+
+
+pattern = re.compile(r"[가-힣]")
+
+
+def quote(s: str) -> str:
+    s = s.replace('"""', "")
+    return s
+
+
+def filter_func(example) -> bool:
+    lang = example.get("LANGUAGE")
+    text = example.get("TEXT")
+    if not isinstance(lang, str) or not isinstance(text, str):
+        return False
+    return lang == "ko" or pattern.search(text) is not None
+
+
+file = open("./laion2B-mulit_korean_subset.csv", "w", encoding="utf-8", newline="")
+
+ds = load_dataset("laion/laion2B-multi", split="train", streaming=True)
+dsf = ds.filter(filter_func)
+header = [
+    "SAMPLE_ID",
+    "URL",
+    "TEXT",
+    "HEIGHT",
+    "WIDTH",
+    "LICENSE",
+    "LANGUAGE",
+    "NSFW",
+    "similarity",
+]
+writer = csv.DictWriter(file, fieldnames=header, delimiter="\t")
+writer.writeheader()
+
+try:
+    for data in tqdm(dsf):
+        data["TEXT"] = quote(data.get("TEXT", ""))
+        if data["TEXT"]:
+            writer.writerow(data)
+finally:
+    file.close()
+
+print("Done!")
+```
+
+이후에 `HEIGHT`나 `WIDTH`가 None인 데이터를 제거하고 업로드하였습니다.
+
+### img2dataset
+
+[img2dataset](https://github.com/rom1504/img2dataset)을 사용하여 URL로된 이미지들을 데이터셋형태로 만들 수 있습니다.