Datasets:
Update README.md
Browse files
README.md
CHANGED
@@ -101,6 +101,7 @@ from datasets import load_dataset
|
|
101 |
from evaluate import load
|
102 |
|
103 |
os.environ["HF_ALLOW_CODE_EVAL"] = "1"
|
|
|
104 |
ds = load_dataset("kogi-jwu/jhumaneval")['test']
|
105 |
code_eval = load("code_eval")
|
106 |
|
@@ -111,7 +112,7 @@ for d in ds:
|
|
111 |
# FIXME: 参照コードをそのまま入れているが、予測コードに置き換えるべき
|
112 |
candidates.append([d['prompt']+d['canonical_solution']])
|
113 |
# テストケースを実行可能な形式にする
|
114 |
-
text_cases.append([d['test']+f"\n\ncheck({d['entry_point']})\n"
|
115 |
|
116 |
pass_at_k, results = code_eval.compute(references=test_cases, predictions=candidates, k=[1])
|
117 |
print(pass_at_k)
|
|
|
101 |
from evaluate import load
|
102 |
|
103 |
os.environ["HF_ALLOW_CODE_EVAL"] = "1"
|
104 |
+
|
105 |
ds = load_dataset("kogi-jwu/jhumaneval")['test']
|
106 |
code_eval = load("code_eval")
|
107 |
|
|
|
112 |
# FIXME: 参照コードをそのまま入れているが、予測コードに置き換えるべき
|
113 |
candidates.append([d['prompt']+d['canonical_solution']])
|
114 |
# テストケースを実行可能な形式にする
|
115 |
+
text_cases.append([d['test']+f"\n\ncheck({d['entry_point']})\n"])
|
116 |
|
117 |
pass_at_k, results = code_eval.compute(references=test_cases, predictions=candidates, k=[1])
|
118 |
print(pass_at_k)
|