|
--- |
|
license: mit |
|
--- |
|
# Hướng Dẫn Chuẩn Bị Dữ Liệu |
|
|
|
## Tải và Giải Nén Dữ Liệu |
|
|
|
```python |
|
import requests |
|
import zipfile |
|
import os |
|
|
|
url = 'https://huggingface.co/datasets/Daominhwysi/VNonDB/resolve/main/vn_handwritten_images.zip?download=true' |
|
file_name = 'vn_handwritten_images.zip' |
|
|
|
response = requests.get(url, stream=True) |
|
|
|
if response.status_code == 200: |
|
with open(file_name, 'wb') as file: |
|
for chunk in response.iter_content(chunk_size=8192): |
|
file.write(chunk) |
|
print(f'Tải xuống thành công: {file_name}') |
|
else: |
|
print(f'Không thể tải xuống file. Mã lỗi: {response.status_code}') |
|
|
|
zip_file_path = '/content/vn_handwritten_images.zip' |
|
extract_to_dir = '/content/datasets' |
|
|
|
if not os.path.exists(extract_to_dir): |
|
os.makedirs(extract_to_dir) |
|
|
|
with zipfile.ZipFile(zip_file_path, 'r') as zip_ref: |
|
zip_ref.extractall(extract_to_dir) |
|
|
|
print(f'Giải nén thành công vào thư mục: {extract_to_dir}') |
|
``` |
|
|
|
## Đọc Dữ Liệu Nhãn |
|
|
|
### Đọc Dữ Liệu từ `labels.json` (CinamonAI) |
|
|
|
```python |
|
import json |
|
import pandas as pd |
|
import logging |
|
|
|
try: |
|
with open('/content/datasets/cinamonai/labels.json', 'r') as file: |
|
labels = json.load(file) |
|
df_1 = pd.DataFrame(list(labels.items()), columns=['file_name', 'label']) |
|
except Exception as e: |
|
logging.error(f"Lỗi khi tải nhãn: {e}") |
|
|
|
df_1['file_name'] = df_1['file_name'].apply(lambda x: f'/content/datasets/cinamonai/data/{x}.jpeg') |
|
|
|
df_1.head() |
|
``` |
|
|
|
### Đọc Dữ Liệu từ `labels.json` (VNonDB) |
|
|
|
```python |
|
import json |
|
import pandas as pd |
|
import logging |
|
|
|
try: |
|
with open('/content/datasets/vnondb/labels.json', 'r') as file: |
|
labels = json.load(file) |
|
df_2 = pd.DataFrame(list(labels.items()), columns=['file_name', 'label']) |
|
except Exception as e: |
|
logging.error(f"Lỗi khi tải nhãn: {e}") |
|
|
|
df_2['file_name'] = df_2['file_name'].apply(lambda x: f'/content/datasets/vnondb/outputs_image/{x}.jpeg') |
|
|
|
df_2.head() |
|
``` |
|
|
|
## Hiển Thị Ảnh và Nhãn |
|
|
|
### Hiển Thị Ảnh từ `df_1` |
|
|
|
```python |
|
import pandas as pd |
|
import random |
|
from PIL import Image |
|
import matplotlib.pyplot as plt |
|
|
|
random_row = df_1.sample(n=1).iloc[0] |
|
file_path = random_row['file_name'] |
|
image = Image.open(file_path).convert('RGB') |
|
plt.figure(figsize=(20, 10)) |
|
plt.imshow(image) |
|
plt.axis('off') |
|
plt.show() |
|
|
|
print(f"Labeled as: {random_row['label']}") |
|
``` |
|
|
|
### Hiển Thị Ảnh từ `df_2` |
|
|
|
```python |
|
import pandas as pd |
|
import random |
|
from PIL import Image |
|
import matplotlib.pyplot as plt |
|
|
|
random_row = df_2.sample(n=1).iloc[0] |
|
file_path = random_row['file_name'] |
|
image = Image.open(file_path).convert('RGB') |
|
plt.figure(figsize=(20, 10)) |
|
plt.imshow(image) |
|
plt.axis('off') |
|
plt.show() |
|
|
|
print(f"Labeled as: {random_row['label']}") |
|
``` |
|
## Kết hợp 2 DatasetDataset |
|
``` |
|
df = pd.concat([df_1, df_2], ignore_index=True) |
|
df.head() |
|
``` |