import argparse import os def get_args(): parser = argparse.ArgumentParser(description="ChatQA-HF") ## model parser.add_argument('--model-id', type=str, default='', help='model id') parser.add_argument('--model-folder', type=str, default='', help='path to the folder containing the model') parser.add_argument('--model-name', type=str, default='', help='name of the model') ## dataset path parser.add_argument('--data-folder', type=str, default='', help='path to the datafolder of ChatRAG Bench') parser.add_argument('--output-folder', type=str, default='', help='path to the datafolder of ChatRAG Bench') parser.add_argument('--eval-dataset', type=str, default='') parser.add_argument('--doc2dial-path', type=str, default='doc2dial/test.json') parser.add_argument('--convfinqa-path', type=str, default='convfinqa/test.json') parser.add_argument('--quac-path', type=str, default='quac/test.json') parser.add_argument('--qrecc-path', type=str, default='qrecc/test.json') parser.add_argument('--doqa-cooking-path', type=str, default='doqa_cooking/test.json') parser.add_argument('--doqa-travel-path', type=str, default='doqa_travel/test.json') parser.add_argument('--doqa-movies-path', type=str, default='doqa_movies/test.json') parser.add_argument('--hybridial-path', type=str, default='hybridial/test.json') parser.add_argument('--inscit-path', type=str, default='inscit/test.json') ## others parser.add_argument('--out-seq-len', type=int, default=64) parser.add_argument('--num-ctx', type=int, default=5) parser.add_argument('--max-tokens', type=int, default=64) parser.add_argument('--expected-samples', type=int, default=500, help='expected number of samples in dataset for completion check') parser.add_argument('--stop-strings', type=str, nargs='+', default=["<|endoftext|>", "", "User"], help='stop strings for generation') parser.add_argument('--device', type=str, default='cpu', help='device to run on: cpu or cuda') parser.add_argument('--limit', type=int, default=None, help='limit the number of samples to process') args = parser.parse_args() return args def get_args_scores(): parser = argparse.ArgumentParser(description="ChatRAG Evaluation Scores") # Directory paths parser.add_argument('--results-dir', type=str, required=True, help='Directory containing model prediction results (subdirectories for each model)') parser.add_argument('--data-path', type=str, required=True, help='Path to ground truth data directory containing JSON files') parser.add_argument('--output-csv', type=str, default=None, help='Output CSV file path (default: /scores.csv)') # Dataset options parser.add_argument('--datasets', type=str, nargs='+', default=['doc2dial', 'quac', 'qrecc', 'topiocqa', 'inscit', 'coqa', 'hybridial', 'sqa', 'doqa_cooking', 'doqa_travel', 'doqa_movies', 'convfinqa'], help='List of datasets to evaluate') # Dataset file paths (relative to data-path) parser.add_argument('--doc2dial-path', type=str, default='doc2dial/test.json') parser.add_argument('--convfinqa-path', type=str, default='convfinqa/test.json') parser.add_argument('--quac-path', type=str, default='quac/test.json') parser.add_argument('--qrecc-path', type=str, default='qrecc/test.json') parser.add_argument('--doqa-cooking-path', type=str, default='doqa_cooking/test.json') parser.add_argument('--doqa-travel-path', type=str, default='doqa_travel/test.json') parser.add_argument('--doqa-movies-path', type=str, default='doqa_movies/test.json') parser.add_argument('--hybridial-path', type=str, default='hybridial/test.json') parser.add_argument('--inscit-path', type=str, default='inscit/test.json') args = parser.parse_args() return args