Update utils/statement_evaluation_command.py
Browse files
utils/statement_evaluation_command.py
CHANGED
@@ -6,8 +6,8 @@ _api = os.environ.get("HUGGINGFACEHUB_API_TOKEN")
|
|
6 |
def get_response(prompt: str):
|
7 |
llm = HuggingFaceEndpoint(
|
8 |
repo_id="CineAI/FreeThinker3B",
|
9 |
-
max_length=
|
10 |
temperature=0.5,
|
11 |
-
|
12 |
)
|
13 |
return llm.invoke(prompt)
|
|
|
6 |
def get_response(prompt: str):
|
7 |
llm = HuggingFaceEndpoint(
|
8 |
repo_id="CineAI/FreeThinker3B",
|
9 |
+
max_length=1024,
|
10 |
temperature=0.5,
|
11 |
+
token=_api,
|
12 |
)
|
13 |
return llm.invoke(prompt)
|