gguf-my-repo-2

Running

gguf-my-repo-2 / start.sh

Upload 7 files

0b1e565 verified 3 months ago

104 Bytes

	cd llama.cpp
	LLAMA_CUDA=1 make -j llama-quantize llama-gguf-split llama-imatrix

	cd ..
	python app.py