Spaces:
Runtime error
Runtime error
Minor fix for ZeroGPU (#2)
Browse files- Minor fix for ZeroGPU (4a015bec4086a00db45448189c2a4494e124a2fd)
Co-authored-by: hysts <hysts@users.noreply.huggingface.co>
app.py
CHANGED
@@ -55,6 +55,7 @@ pipe = load_evo_ukiyoe(device)
|
|
55 |
pipe.scheduler = EulerDiscreteScheduler.from_config(
|
56 |
pipe.scheduler.config, use_karras_sigmas=True,
|
57 |
)
|
|
|
58 |
# pipe.unet.to(memory_format=torch.channels_last)
|
59 |
# pipe.vae.to(memory_format=torch.channels_last)
|
60 |
# # Compile the UNet and VAE.
|
@@ -77,7 +78,6 @@ def generate(
|
|
77 |
randomize_seed: bool = False,
|
78 |
progress=gr.Progress(track_tqdm=True),
|
79 |
):
|
80 |
-
pipe.to(device)
|
81 |
seed = int(randomize_seed_fn(seed, randomize_seed))
|
82 |
generator = torch.Generator().manual_seed(seed)
|
83 |
|
@@ -143,4 +143,4 @@ with gr.Blocks(css=css) as demo:
|
|
143 |
Sakana AIは、本モデルの使用によって生じた直接的または間接的な損失に対して、結果に関わらず、一切の責任を負いません。
|
144 |
利用者は、本モデルの使用に伴うリスクを十分に理解し、自身の判断で使用することが必要です。""")
|
145 |
|
146 |
-
demo.queue().launch()
|
|
|
55 |
pipe.scheduler = EulerDiscreteScheduler.from_config(
|
56 |
pipe.scheduler.config, use_karras_sigmas=True,
|
57 |
)
|
58 |
+
pipe.to(device=device, dtype=torch.float16)
|
59 |
# pipe.unet.to(memory_format=torch.channels_last)
|
60 |
# pipe.vae.to(memory_format=torch.channels_last)
|
61 |
# # Compile the UNet and VAE.
|
|
|
78 |
randomize_seed: bool = False,
|
79 |
progress=gr.Progress(track_tqdm=True),
|
80 |
):
|
|
|
81 |
seed = int(randomize_seed_fn(seed, randomize_seed))
|
82 |
generator = torch.Generator().manual_seed(seed)
|
83 |
|
|
|
143 |
Sakana AIは、本モデルの使用によって生じた直接的または間接的な損失に対して、結果に関わらず、一切の責任を負いません。
|
144 |
利用者は、本モデルの使用に伴うリスクを十分に理解し、自身の判断で使用することが必要です。""")
|
145 |
|
146 |
+
demo.queue().launch()
|