Daominhwysi/vietnamese_handwritten

Hướng Dẫn Chuẩn Bị Dữ Liệu

Tải và Giải Nén Dữ Liệu

import requests
import zipfile
import os

url = 'https://huggingface.co/datasets/Daominhwysi/VNonDB/resolve/main/vn_handwritten_images.zip?download=true'
file_name = 'vn_handwritten_images.zip'

response = requests.get(url, stream=True)

if response.status_code == 200:
    with open(file_name, 'wb') as file:
        for chunk in response.iter_content(chunk_size=8192):
            file.write(chunk)
    print(f'Tải xuống thành công: {file_name}')
else:
    print(f'Không thể tải xuống file. Mã lỗi: {response.status_code}')

zip_file_path = '/content/vn_handwritten_images.zip'
extract_to_dir = '/content/datasets'

if not os.path.exists(extract_to_dir):
    os.makedirs(extract_to_dir)

with zipfile.ZipFile(zip_file_path, 'r') as zip_ref:
    zip_ref.extractall(extract_to_dir)

print(f'Giải nén thành công vào thư mục: {extract_to_dir}')

Đọc Dữ Liệu Nhãn

Đọc Dữ Liệu từ labels.json (CinamonAI)

import json
import pandas as pd
import logging

try:
    with open('/content/datasets/cinamonai/labels.json', 'r') as file:
        labels = json.load(file)
    df_1 = pd.DataFrame(list(labels.items()), columns=['file_name', 'label'])
except Exception as e:
    logging.error(f"Lỗi khi tải nhãn: {e}")

df_1['file_name'] = df_1['file_name'].apply(lambda x: f'/content/datasets/cinamonai/data/{x}.jpeg')

df_1.head()

Đọc Dữ Liệu từ labels.json (VNonDB)

import json
import pandas as pd
import logging

try:
    with open('/content/datasets/vnondb/labels.json', 'r') as file:
        labels = json.load(file)
    df_2 = pd.DataFrame(list(labels.items()), columns=['file_name', 'label'])
except Exception as e:
    logging.error(f"Lỗi khi tải nhãn: {e}")

df_2['file_name'] = df_2['file_name'].apply(lambda x: f'/content/datasets/vnondb/outputs_image/{x}.jpeg')

df_2.head()

Hiển Thị Ảnh và Nhãn

Hiển Thị Ảnh từ df_1

import pandas as pd
import random
from PIL import Image
import matplotlib.pyplot as plt

random_row = df_1.sample(n=1).iloc[0]
file_path = random_row['file_name']
image = Image.open(file_path).convert('RGB')
plt.figure(figsize=(20, 10))
plt.imshow(image)
plt.axis('off')
plt.show()

print(f"Labeled as: {random_row['label']}")

Hiển Thị Ảnh từ df_2

import pandas as pd
import random
from PIL import Image
import matplotlib.pyplot as plt

random_row = df_2.sample(n=1).iloc[0]
file_path = random_row['file_name']
image = Image.open(file_path).convert('RGB')
plt.figure(figsize=(20, 10))
plt.imshow(image)
plt.axis('off')
plt.show()

print(f"Labeled as: {random_row['label']}")

Kết hợp 2 DatasetDataset

df = pd.concat([df_1, df_2], ignore_index=True)
df.head()