Datasets:
image
imagewidth (px) 256
10.7k
| text
stringlengths 5
2k
| width
int32 256
10.7k
| height
int32 256
10.4k
|
---|---|---|---|
소닉기어 에어폰5 휴대용 스테레오 블루투스 헤드폰 | 256 | 256 |
|
배우 이제훈이 항일 작품에 연달아 출연한 이유 #아이캔스피크 | 452 | 256 |
|
중국 제조자 광고를 위한 옥외 풀 컬러 LED 디지털 Signage | 256 | 256 |
|
8.8oz 밝은 파란색 호리호리한 숙녀 청바지 (HYQ90-01) | 341 | 256 |
|
닭 경영관리 | 256 | 359 |
|
금강제화상품권20만(10만X2장)/랜드로바/구두티켓 | 256 | 256 |
|
PVC 지면을%s 튼튼한 자동 접착 밑받침 | 256 | 256 |
|
소니 하이엔드 액션캠 AS100V | 458 | 256 |
|
BT326 C타입 to 3.5mm오디오 동시 연결 젠더 컨버터 | 256 | 256 |
|
외국인 바이어들, 미국 부동산에 등 돌린다…왜? | 384 | 256 |
|
C35 별 LED 전구 보충 빛 0.6W LED 글로벌 전구 | 256 | 256 |
|
[30%다운쿠폰]오르지오 ORGIO 유기농 황설탕 7kg~10kg/ 올바른 먹거리 과일즙/올리브오일 | 256 | 256 |
|
더 많은 것 300의 디자인 LED 플라스틱 가구 LED 정원 입방체 의자 | 256 | 256 |
|
아이패드 에어 3세대 iPad Air 3 10.5 LTE 64GB 골드 MV0F2KH/A | 256 | 256 |
|
카파 D2100 소형 액자형 벽탁상겸용 디지털시계 | 256 | 256 |
|
T61P型压力变送器 | 320 | 256 |
|
픽 모듈 미끄럼방지 강아지매트 1p 5colors | 256 | 256 |
|
꽃 아트 데코 3D 홈 벽지 콘템포라리 벽 취재 , 캔버스 자료 접착제가 필요 벽화 , 룸 Wallcovering 협력 | 256 | 256 |
|
이신범 한국LPG산업협회 신임 회장 | 256 | 319 |
|
슈엣뜨 샤폐(CHOUETTE SAPE) (유니섹스) 파이프맨 로고 스웻셔츠 C418SW001-BK | 256 | 286 |
|
호스 및 피팅 유압 압착 기계 | 256 | 344 |
|
프랑스 리옹에서 열린 EVS32 차데모 부스에 마련된 시그넷이브이의 초급속 충전기. | 256 | 341 |
|
(온1500) SK그룹, 쿠알라룸푸르서 글로벌 전략회의… 최태원 회장 주재 | 394 | 256 |
|
썰매 대결부터 김밥 놀이까지! 여배우들이 꽁꽁 언 한탄강에서 노는 법 | 452 | 256 |
|
김남국 국회의원20200629.jpg | 386 | 256 |
|
키치 기모 체크 잠옷 파자마세트 | 256 | 256 |
|
[반려동물 산업과 제도 뜯어보기] | 864 | 256 |
|
다이어리~친오빠 녹취까지…사라진 장자연 기록들 | 460 | 256 |
|
스티그마타 포스터 | 256 | 373 |
|
英경찰, 화물차 컨테이너에서 시신 39구 발견…운전사 체포 | 384 | 256 |
|
고품질 상업적인 아BS Barstool 바 의자 (LL-BC022) | 318 | 256 |
|
백색 무지크라프트 트위스트 종이쇼핑백(중) 50매 | 256 | 256 |
|
10.1 인치 차 사진기 스캐닝 기능 TFT 디지털 모니터 시스템 | 256 | 256 |
|
중국 공급자에게서 고품질 피자 자동 판매기 | 256 | 256 |
|
WRC 7 FIA 월드 랠리 챔피언십 | 547 | 256 |
|
어린이 자치회(임원단) 학교 앞 꽃 가꾸기 | 277 | 256 |
|
2019 어코드 하이브리드 센터페시아 컨트롤다이얼 5매 | 256 | 256 |
|
올해 여름휴가는 2017 서울오토살롱으로 | 256 | 497 |
|
파키스탄에서 박해로 죽은 동료의 장례식장. ⓒ오픈도어선교회 | 372 | 256 |
|
[대전] 2018 장윤정 라이브 콘서트 | 256 | 319 |
|
[키즈파람] 원아모집현수막031 | 256 | 256 |
|
[아미캠프] 밀리터리 바람막이 자켓 ACU 픽셀 군용 | 256 | 256 |
|
XB-006(수리) 실리콘 주니어 수모 수영모 | 256 | 256 |
|
침실 가구 Fb915를 위한 방수 뜨개질을 한 직물 덮개를 가진 자연적인 유액 두창 봄 매트리스 | 256 | 320 |
|
엔진에 의하여 사용되는 윤활 기름 여과 기계 (TYA) | 256 | 261 |
|
금속 프레임 (SK-AC2000T-2P-N)에 있는 2 관 에어 컨디셔너 보온장치 접촉 스위치 | 256 | 256 |
|
시저 14세이상 닭고기 현미와 야채 캔 100g | 256 | 256 |
|
【JBL 美國 中置喇叭】STUDIO 120C(英大公司貨) | 256 | 256 |
|
새 모델 형식 보석 크라운 디자인 반지 은 925 | 256 | 256 |
|
북유럽 디자인 | 256 | 372 |
|
Montebelle - 青花瓷印花盖袖旗袍 | 256 | 256 |
|
H002款前掀盖熟食柜 PSG-2000X | 378 | 256 |
|
[PT99990096] 삼성 와블 세탁기 13키로 | 256 | 256 |
|
G200球泡燈 | 282 | 256 |
|
소니 정품 HDR-CX405 광학30배줌 Full-HD 핸디캠 k | 256 | 256 |
|
가든 드레스 (RED) | 256 | 256 |
|
2021 전한길 한국사 기출 OX | 256 | 363 |
|
[따블리에]유아동 미술가운, 미술 전신복 | 427 | 256 |
|
日니가타 원전서 화재…방사능 누출은 없어 | 384 | 256 |
|
한국형 히든 챔피언을 만나다 | 864 | 256 |
|
black | 307 | 256 |
|
[부일]BSS-640T/33kg/높이640x380x410(mm)서류보관금고 문서보관용금고 기업 사무실 서재금고 가정용금고 버튼식금고 화일금고 보험회사서류금고 귀 | 256 | 256 |
|
dc打造《小丑与小丑女》电影 《疯蠢爱》导演执导 | 385 | 256 |
|
23번째 확진자의 방문으로 임시 휴업에 들어간 롯데백화점 본점. | 408 | 256 |
|
0126_유자차(복음자리)_가격인상안내_상단공지_600.jpg | 441 | 256 |
|
ID 3002436 | 꽃 테두리 | 높은 해상도 그림 | CLIPARTO | 256 | 256 |
|
시네리터러시(Cineliteracy) | 256 | 363 |
|
애견 이발기 바리깡 고양이 강아지 용품 고탄소강 TMG5 | 256 | 256 |
|
상무스타치과병원, LX공사 광주전남지역본부와 진료 협약 | 341 | 256 |
|
전술상 군 방탄 조끼 방탄복 | 256 | 256 |
|
관광서비스 중국어(CD1장포함) | 256 | 351 |
|
천안함 10주년 기념 문화제 'MEMORY 2010' 후원인 모집 | 432 | 256 |
|
월곶문화센터 2층 공간, 특정단체 입주 내정? | 455 | 256 |
|
한복 Hanbok : Korean traditional clothes[dress] | 256 | 382 |
|
쾌활한 행복한 가족의 건강한 생활 방식은 신선한 과일과 식료품을 냉장고에 넣습니다. 나이든 남편과 아내가 슈퍼마켓에서 도착한 후 식료품 종이 봉지에서 야채를 꺼냅니다. | 384 | 256 |
|
프라임 일한/한일사전(Prime Dictionary J-K/K-J) | 256 | 256 |
|
제5회 대한민국 지방자치 정책대상 | 864 | 256 |
|
[해외]PROKMIN Wireless Doorbell Electrical Smart Wireless Doorbell Outdoor Doorbells Chime 55 Music 2 Button 3 Receiver EU / PROKMIN Wireless Doorbell Electrical Smart Wireless Doorbell Outdoor Doorbells Chime 55 Music 2 Button 3 Receive... | 256 | 256 |
|
7/14/2013에 Cheng Hui C.님이 Intelligentsia Coffee에서 찍은 사진 | 256 | 256 |
|
마케터의문장_평면.jpg | 256 | 366 |
|
와플 기계 샌드위치팬 메이커 크로플 홈베이킹 브런치팬 | 455 | 256 |
|
스타캐시 for TWICE(트와이스) icon | 256 | 256 |
|
애슬리트(ATHLETE) 남성 고탄력 기능성 스포츠티 MDAT01 앤디 반팔 티셔츠 | 256 | 363 |
|
강원FC, 경남에 2-1 역전승… 7경기 연속 무패 행진 | 256 | 256 |
|
정점식 측근 "우호적 기사 써달라" 기자 매수 의혹 | 363 | 256 |
|
김영삼 대통령 3·1절 기념식 참석 | 394 | 256 |
|
고품질 중국 A1040m FUJI 광전자적인 센서 Fx-7 | 386 | 256 |
|
이비스 호텔 베이징 티엔탄 이스트 게이트 스테이션 | 455 | 256 |
|
쥬라기캅스's Poster | 256 | 366 |
|
지난 8월8일 아프가니스탄 카불에서 아슈라프 가니 후보(왼쪽)가 압둘라 압둘라 대선 후보와 통합정부 구성을 위해 노력하기로 합의했다고 밝히고 있다. | 389 | 256 |
|
데이터 보안 디지털 정보 기술 배경 문제 스톡 콘텐츠 | 484 | 256 |
|
마운트존 광유계진공펌프오일 hiren77p 피스톤 타입… | 455 | 256 |
|
절제의신 시황방송 17년01월17일(화) | 341 | 256 |
|
탑 브랜드 럭셔리 pagani 디자인 남자 시계 크로노 그래프 방수 가죽 쿼츠 시계 남자 패션 스포츠 군사 손목 시계-에서수정 시계부터 시계 의 그룹 1 | 256 | 256 |
|
효과적인 Heat&Cooling 니켈에 의하여 놋쇠로 만들어지는 격판덮개 열교환기 | 256 | 256 |
|
[중고] Lifehouse - Stanley Climbfall | 256 | 256 |
|
갭갭 해변 | 341 | 256 |
|
머슬팜 컴배트 단백질 보충제 2.72kg 프로틴 코스트코 | 256 | 256 |
|
아이캔노트_Screenshot (3) | 475 | 256 |
|
궁핍해진 공항, 돈잔치하는 공항 골프장 | 256 | 350 |
End of preview. Expand
in Dataset Viewer.
laion2b_multi_korean_subset_with_image
img2dataset을 통해 다운로드에 성공한 Bingsu/laion2B-multi-korean-subset 이미지를 정리한 데이터셋입니다.
이미지는 9,800,137장입니다.
이미지는 짧은 쪽 길이가 256이 되도록 리사이즈 되었으며, 품질 100인 webp파일로 다운로드 되었습니다.
Usage
1. datasets
>>> from datasets import load_dataset
>>> dataset = load_dataset("Bingsu/laion2b_multi_korean_subset_with_image", streaming=True, split="train")
>>> dataset.features
{'image': Image(decode=True, id=None),
'text': Value(dtype='string', id=None),
'width': Value(dtype='int32', id=None),
'height': Value(dtype='int32', id=None)}
>>> next(iter(dataset))
{'image': <PIL.WebPImagePlugin.WebPImageFile image mode=RGB size=256x256>,
'text': '소닉기어 에어폰5 휴대용 스테레오 블루투스 헤드폰',
'width': 256,
'height': 256}
2. webdataset
이 데이터셋은 webdataset으로 사용할 수 있도록 구성되어있습니다. 데이터를 다운로드하지 않고 스트리밍으로 처리한다면 1번 방법보다 훨씬 빠릅니다.
!! 아래 방법은 Windows에서는 에러가 발생합니다.
>>> import webdataset as wds
>>> url = "https://huggingface.co/datasets/Bingsu/laion2b_multi_korean_subset_with_image/resolve/main/data/{00000..02122}.tar"
>>> dataset = wds.WebDataset(url).shuffle(1000).decode("pil").to_tuple("webp", "json")
>>> next(iter(dataset))
...
이 글을 작성하는 현재(22-10-18), webp이미지의 자동 디코딩을 지원하지 않고 있기 때문에(PR #215), 직접 디코딩해야 합니다.
import io
import webdataset as wds
from PIL import Image
def preprocess(data):
webp, jsn = data
img = Image.open(io.BytesIO(webp))
out = {
"image": img,
"text": jsn["caption"],
"width": jsn["width"],
"height": jsn["height"]
}
return out
url = "https://huggingface.co/datasets/Bingsu/laion2b_multi_korean_subset_with_image/resolve/main/data/{00000..02122}.tar"
dataset = wds.WebDataset(url).shuffle(1000).decode("pil").to_tuple("webp", "json").map(preprocess)
>>> next(iter(dataset))
{'image': <PIL.WebPImagePlugin.WebPImageFile image mode=RGB size=427x256>,
'text': '[따블리에]유아동 미술가운, 미술 전신복',
'width': 427,
'height': 256}
Note
다운로드에 실패한 이미지는 건너뛰어져있기 때문에 파일 이름은 완전히 연속적이지는 않습니다.
각각의 json 파일은 다음처럼 되어있습니다.
{
"caption": "\ub514\uc790\uc778 \uc53d\ud0b9\uacfc \ub514\uc9c0\ud138 \ud2b8\ub79c\uc2a4\ud3ec\uba54\uc774\uc158",
"url": "https://image.samsungsds.com/kr/insights/dt1.jpg?queryString=20210915031642",
"key": "014770069",
"status": "success",
"error_message": null,
"width": 649,
"height": 256,
"original_width": 760,
"original_height": 300,
"exif": "{}"
}
txt파일은 json파일의 "caption"을 담고 있습니다.
- Downloads last month
- 1,862