Xnhyacinth's picture
Upload HarnessMix codegen train and held-out eval data
01a492e verified
Raw
History Blame Contribute Delete
4.3 kB
import subprocess
import sys
from pathlib import Path
cases = [{'input': '4\nXOOO\nXXOO\nOOOO\nXXXX\nXOOO\nXOOO\nXOXO\nXOXX\n', 'output': 'Yes\n'}, {'input': '2\nXX\nOO\nXO\nOX\n', 'output': 'No\n'}, {'input': '1\nO\nO\n', 'output': 'Yes\n'}, {'input': '1\nX\nO\n', 'output': 'No\n'}, {'input': '2\nOX\nXX\nOX\nXX\n', 'output': 'Yes\n'}, {'input': '2\nOX\nXO\nXO\nOX\n', 'output': 'Yes\n'}, {'input': '2\nOX\nOX\nXX\nOX\n', 'output': 'No\n'}, {'input': '2\nOO\nOO\nOO\nOO\n', 'output': 'Yes\n'}, {'input': '2\nOX\nOX\nXO\nXO\n', 'output': 'Yes\n'}, {'input': '10\nXXXOOOOXOX\nOOOXXXOXXO\nXOXXXXOOXX\nXOOOXXOXOO\nOOXOOOOOOX\nXXXXOXOOOO\nXXXOOXOXOX\nOOOOXOXOXX\nXOXXOXOOXO\nOOOOOXOOOO\nXXXOOOOXOX\nOOOXXXOXXO\nXOXXXXOOXX\nXOOOXXOXOO\nOOXOOOOOOX\nXXXXOXOOOO\nXXXOOXOXOX\nOOOOXOXOXX\nXOXXOXOOXO\nOOOOOXOOOO\n', 'output': 'Yes\n'}, {'input': '10\nXXOXXOXOOX\nOOOOXOOXXO\nOXXXOOXOOO\nOOXOOOOOOO\nXXXOXOXXXX\nOXXXXOXXOO\nOXXXXOOXXX\nXXOXXOXOXO\nOOOXOOOOOO\nXOOXOOOOXX\nXOOXOOOOXX\nOOOXOOOOOO\nXXOXXOXOXO\nOXXXXOOXXX\nOXXXXOXXOO\nXXXOXOXXXX\nOOXOOOOOOO\nOXXXOOXOOO\nOOOOXOOXXO\nXXOXXOXOOX\n', 'output': 'Yes\n'}, {'input': '10\nXXOOOOOXXO\nOXOOXOOXXO\nXOOXOXXXXO\nOXXXXOXOXO\nXXXOXXOXOO\nOXOOOOOXOX\nXOXOXOOOXO\nOXXXOOOOOX\nXXOOOOOXOO\nXOXXXOOXXX\nXXOXOXOXOX\nOXXOXXXOXX\nXOXXOXXOOO\nXOXOOOXXOO\nXOOXOXXOXO\nOOOOOXOXOO\nOXOOOOXXOO\nXXOOXXOXXX\nXOOXOOXXXX\nXOXOXOOOOO\n', 'output': 'No\n'}, {'input': '10\nXOOXOXXXXX\nXOXXOXOXXX\nOOOXOXOOOX\nOOOXXXOOXX\nOXOXXOXOXO\nOXXOXOOOOO\nOXOOXXOXXO\nOOXOXXXXOX\nXOXXXXOOXX\nXOOOOXXOOX\nXXXOOOXXXX\nOXOXOXXOXX\nOOXXOOOOXX\nXOXOOXOOOX\nXXXXOOXXXX\nOXXXXXXOOO\nOXOOOXXXXX\nOXXOXOOOXO\nOOOXXXOOOO\nXXOOOOOOXX\n', 'output': 'Yes\n'}, {'input': '10\nXXOOXOOOXO\nXXOXXXXXXX\nXOOOXOOXXX\nOXOOOXXXXO\nXOOOOOOOOO\nXXOXXXXOOX\nOOOXOXOOOX\nXOXOOXOOXO\nOOXOOXOXXO\nXOXOXOXXOO\nOOOXXOOXXO\nOXXOOOOXOX\nXXOOOOXXXO\nXOOOXOXOXO\nOXXXXOXOXO\nXOOOXOOXXX\nOOOXXOOOXO\nXXXOOOOOOO\nOOOOXOXOXX\nXOXOXXOXXX\n', 'output': 'No\n'}, {'input': '10\nXOOOOXOOOX\nOOOOOOOXXX\nOXOOOXXOXO\nOOXXXOOXOX\nOOXXOOOXXO\nXXXXOXOXXX\nXXXOOXOOOO\nXXXXOOXXXO\nOXXXXXXOXX\nXXXOOOXOXO\nXOOOXOOOOX\nXXXOOOOOOO\nOXOXXOOOXO\nXOXOOXXXOO\nOXXOOOXXOO\nXXXOXOXXXX\nOOOOXOOXXX\nOXXXOOXXXX\nXXOXXXXXXO\nOXOXOOOXXX\n', 'output': 'Yes\n'}, {'input': '10\nXOXXOXXOOX\nOXXOXOXXXX\nXXOOXOXOOO\nOXOOOOXOOO\nOOOOOOOXOX\nXXOXXOOXOX\nXOXOXOOOOX\nOXOXOOXXOX\nXOXOXOXXXO\nOOXOXXXXXX\nOOXOOXXXXX\nXOXOXOXXXO\nOXOXOOXXOX\nXOXXXOOOOX\nXXOXXOOXOX\nOOOOOOOXOX\nOXOOOOXOOO\nXXOOXOXOOO\nOXXOXOXXXX\nXOXOOXXOOX\n', 'output': 'No\n'}, {'input': '10\nXXXOXOOXXX\nOOXXOXXOXO\nOOOOXOOXOX\nXOOXOXOOXX\nXOXXOXOOXX\nOOOXXOXOXX\nOOOXOOOOXO\nOOXOOXXOXX\nXXOXOOXOOX\nOXXXOOXOXX\nXXOXOOXXXO\nXOOXOOXOXX\nXXOXXOOXOO\nOXOOOOXOOO\nXXOXOXXOOO\nXXOOXOXXOX\nXXOOXOXOOX\nXOXOOXOOOO\nOXOXXOXXOO\nXXXOOXOXXX\n', 'output': 'Yes\n'}, {'input': '10\nXOXXXXXXXX\nOOOOXXXOXO\nXOXXXXOOXX\nXXXOXXXXXO\nOXXXXOXOOO\nOOOOOXOXXX\nXOOOXOOXXX\nXOOOXXXXOO\nOXOOXOXXOX\nOXOXXOXXOX\nXXOXXOOXOX\nOOOXXOXXXX\nXXXXXOXOOX\nXXXOOXXOXO\nOOXOXOXXXX\nXXXXOXXXXX\nXOOOOXOXOX\nOOOXOXXXXX\nXXOOOXXOOO\nOOXXOOXOOX\n', 'output': 'No\n'}, {'input': '10\nXXXOOOOOXO\nXXOXOOXOXX\nXOXXXXXXXO\nXOXOXOOXXX\nXXOOXXOXXO\nOOOOOOOOXX\nOOXOXXOOXX\nXXXXOXXOOO\nXOXOXXXOXX\nOXXOXXOOOO\nOXOXOXXOXO\nXXXXXXXOXO\nOOXXXOOOOO\nOXXOOOOXXO\nOOXOXOXXXX\nOOXXXOXOXX\nOXXOOOOXOO\nXOXXOOXXXX\nXXOOXOOXOX\nXXXXXOOXXO\n', 'output': 'Yes\n'}, {'input': '10\nXXOXOOOOXX\nXOXXXOXOXO\nOXXXOOXOOO\nXXOXOOXXOX\nXXOXXOXXOO\nOOOXXXXOXO\nOXXXOXOXOO\nOXOXXXXXXX\nXXXOOXXXXX\nXXOOXOOXXO\nXOOOOXXOXX\nXXXXOXXXOX\nOXOXOOOXXO\nOOXXXXXXXX\nXOXOXXOOXO\nOXXXXOOOXX\nOXXXXXXXXO\nXXXXOXXOOO\nXXXOXOOOXX\nOXXXOOXOOX\n', 'output': 'No\n'}]
solution = Path(__file__).with_name("solution.py")
for index, case in enumerate(cases):
proc = subprocess.run(
[sys.executable, str(solution)],
input=case["input"],
text=True,
stdout=subprocess.PIPE,
stderr=subprocess.PIPE,
timeout=10,
)
if proc.returncode != 0:
raise AssertionError(f"case {index} exited {proc.returncode}: {proc.stderr}")
got = proc.stdout.strip()
expected = case["output"].strip()
if got.split() != expected.split():
raise AssertionError(
f"case {index} output mismatch\nexpected={expected!r}\ngot={got!r}\nstderr={proc.stderr}"
)
print('deepcoder_primeintellect_io')