source
string
source_config
string
source_split
string
source_task
string
prompt_id
string
prompt
string
golden_answer
string
candidate_model
string
target_score
float64
raw_score
float64
score_type
string
prompt_tokens
string
completion_tokens
string
observed_cost
float64
base_model_id
string
provider
string
model_family
string
usable_as_candidate_model
bool
input_price_per_1m
float64
output_price_per_1m
float64
context_window
float64
max_output_tokens
float64
model_size_b
float64
supports_text
bool
supports_vision
bool
supports_audio
bool
supports_tool_calling
bool
latency_ms_p50
float64
latency_ms_p95
float64
throughput_tokens_per_s
float64
mmlu_pro
float64
gpqa
float64
humaneval
float64
gsm8k
float64
ifeval
float64
arena_elo
float64
input_price_per_1m_is_missing
int64
output_price_per_1m_is_missing
int64
context_window_is_missing
int64
max_output_tokens_is_missing
int64
model_size_b_is_missing
int64
supports_tool_calling_is_missing
int64
latency_ms_p50_is_missing
int64
latency_ms_p95_is_missing
int64
throughput_tokens_per_s_is_missing
int64
mmlu_pro_is_missing
int64
gpqa_is_missing
int64
humaneval_is_missing
int64
gsm8k_is_missing
int64
ifeval_is_missing
int64
arena_elo_is_missing
int64
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.25
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '月月相会']
null
claude-v1
0
0
routerbench_score
null
null
0.001504
claude-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
65.72
68.69
68.445
65.08
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.25
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '月月相会']
null
claude-v2
0
0
routerbench_score
null
null
0.004024
claude-v2
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
62.81
68.69
68.445
66.26
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.25
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '月月相会']
null
gpt-3.5-turbo-1106
0
0
routerbench_score
null
null
0.000209
gpt-3.5-turbo-1106
OpenAI
GPT
true
0.5
1.5
16,385
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
64.71
67.17
84.755
60.48
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.25
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '月月相会']
null
gpt-4-1106-preview
1
1
routerbench_score
null
null
0.00806
gpt-4-1106-preview
OpenAI
GPT
true
10
30
128,000
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
81.19
67.17
84.755
65.88
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.25
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '月月相会']
null
meta/code-llama-instruct-34b-chat
0
0
routerbench_score
null
null
0.000212
CodeLlama-34B-Instruct
Meta
Code Llama
true
0.05
0.08
100,000
8,192
34
true
false
false
false
459.475
918.95
1,760.24
0.48
27.515
64.35
45.66
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.25
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '月月相会']
null
meta/llama-2-70b-chat
0
0
routerbench_score
null
null
0.000242
Llama-2-70B-Chat
Meta
Llama 2
true
0.05
0.08
4,096
4,096
70
true
false
false
false
459.475
918.95
1,760.24
2.68
27.515
64.35
52.3
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.25
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '月月相会']
null
mistralai/mistral-7b-chat
0
0
routerbench_score
null
null
0.000031
Mistral-7B-Instruct-v0.3
Mistral AI
Mistral
true
0.25
0.25
32,000
4,000
7
true
false
false
false
1,720
3,440
647.94
25.43
52.02
68.445
41.15
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.25
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '月月相会']
null
mistralai/mixtral-8x7b-chat
0
0
routerbench_score
null
null
0.000161
Mixtral-8x7B-Instruct-v0.1
Mistral AI
Mixtral
true
0.7
0.7
32,000
4,000
46.7
true
false
false
false
1,720
3,440
647.94
63.51
33.97
84.45
51.9
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.25
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '月月相会']
null
zero-one-ai/Yi-34B-Chat
0
0
routerbench_score
null
null
0.000195
Yi-34B-Chat
01.AI
Yi
true
0.5
1.5
131,072
12,288
34
true
false
false
false
1,720
3,440
647.94
65.85
52.02
68.445
54.81
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.26
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '要是一离开,火就冒出来。']
null
WizardLM/WizardLM-13B-V1.2
0
0
routerbench_score
null
null
0.000072
WizardLM/WizardLM-13B-V1.2
WizardLM
WizardLM
true
0.5
1.5
131,072
12,288
13
true
false
false
false
1,720
3,440
647.94
44.65
52.02
68.445
50.63
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.26
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '要是一离开,火就冒出来。']
null
claude-instant-v1
0
0
routerbench_score
null
null
0.000091
claude-instant-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
59.64
68.69
68.445
62.72
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.26
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '要是一离开,火就冒出来。']
null
claude-v1
0
0
routerbench_score
null
null
0.003672
claude-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
65.72
68.69
68.445
65.08
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.26
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '要是一离开,火就冒出来。']
null
claude-v2
0
0
routerbench_score
null
null
0.004752
claude-v2
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
62.81
68.69
68.445
66.26
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.26
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '要是一离开,火就冒出来。']
null
gpt-3.5-turbo-1106
0
0
routerbench_score
null
null
0.000207
gpt-3.5-turbo-1106
OpenAI
GPT
true
0.5
1.5
16,385
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
64.71
67.17
84.755
60.48
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.26
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '要是一离开,火就冒出来。']
null
gpt-4-1106-preview
0
0
routerbench_score
null
null
0.0102
gpt-4-1106-preview
OpenAI
GPT
true
10
30
128,000
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
81.19
67.17
84.755
65.88
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.26
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '要是一离开,火就冒出来。']
null
meta/code-llama-instruct-34b-chat
0
0
routerbench_score
null
null
0.000095
CodeLlama-34B-Instruct
Meta
Code Llama
true
0.05
0.08
100,000
8,192
34
true
false
false
false
459.475
918.95
1,760.24
0.48
27.515
64.35
45.66
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.26
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '要是一离开,火就冒出来。']
null
meta/llama-2-70b-chat
0
0
routerbench_score
null
null
0.000254
Llama-2-70B-Chat
Meta
Llama 2
true
0.05
0.08
4,096
4,096
70
true
false
false
false
459.475
918.95
1,760.24
2.68
27.515
64.35
52.3
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.26
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '要是一离开,火就冒出来。']
null
mistralai/mistral-7b-chat
0
0
routerbench_score
null
null
0.00005
Mistral-7B-Instruct-v0.3
Mistral AI
Mistral
true
0.25
0.25
32,000
4,000
7
true
false
false
false
1,720
3,440
647.94
25.43
52.02
68.445
41.15
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.26
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '要是一离开,火就冒出来。']
null
mistralai/mixtral-8x7b-chat
0
0
routerbench_score
null
null
0.000113
Mixtral-8x7B-Instruct-v0.1
Mistral AI
Mixtral
true
0.7
0.7
32,000
4,000
46.7
true
false
false
false
1,720
3,440
647.94
63.51
33.97
84.45
51.9
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.26
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '要是一离开,火就冒出来。']
null
zero-one-ai/Yi-34B-Chat
1
1
routerbench_score
null
null
0.000262
Yi-34B-Chat
01.AI
Yi
true
0.5
1.5
131,072
12,288
34
true
false
false
false
1,720
3,440
647.94
65.85
52.02
68.445
54.81
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.27
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '好的开端']
null
WizardLM/WizardLM-13B-V1.2
0
0
routerbench_score
null
null
0.000155
WizardLM/WizardLM-13B-V1.2
WizardLM
WizardLM
true
0.5
1.5
131,072
12,288
13
true
false
false
false
1,720
3,440
647.94
44.65
52.02
68.445
50.63
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.27
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '好的开端']
null
claude-instant-v1
0
0
routerbench_score
null
null
0.000078
claude-instant-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
59.64
68.69
68.445
62.72
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.27
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '好的开端']
null
claude-v1
0
0
routerbench_score
null
null
0.003448
claude-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
65.72
68.69
68.445
65.08
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.27
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '好的开端']
null
claude-v2
0
0
routerbench_score
null
null
0.002248
claude-v2
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
62.81
68.69
68.445
66.26
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.27
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '好的开端']
null
gpt-3.5-turbo-1106
0
0
routerbench_score
null
null
0.000183
gpt-3.5-turbo-1106
OpenAI
GPT
true
0.5
1.5
16,385
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
64.71
67.17
84.755
60.48
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.27
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '好的开端']
null
gpt-4-1106-preview
0
0
routerbench_score
null
null
0.00503
gpt-4-1106-preview
OpenAI
GPT
true
10
30
128,000
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
81.19
67.17
84.755
65.88
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.27
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '好的开端']
null
meta/code-llama-instruct-34b-chat
0
0
routerbench_score
null
null
0.000097
CodeLlama-34B-Instruct
Meta
Code Llama
true
0.05
0.08
100,000
8,192
34
true
false
false
false
459.475
918.95
1,760.24
0.48
27.515
64.35
45.66
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.27
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '好的开端']
null
meta/llama-2-70b-chat
0
0
routerbench_score
null
null
0.000176
Llama-2-70B-Chat
Meta
Llama 2
true
0.05
0.08
4,096
4,096
70
true
false
false
false
459.475
918.95
1,760.24
2.68
27.515
64.35
52.3
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.27
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '好的开端']
null
mistralai/mistral-7b-chat
0
0
routerbench_score
null
null
0.000025
Mistral-7B-Instruct-v0.3
Mistral AI
Mistral
true
0.25
0.25
32,000
4,000
7
true
false
false
false
1,720
3,440
647.94
25.43
52.02
68.445
41.15
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.27
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '好的开端']
null
mistralai/mixtral-8x7b-chat
0
0
routerbench_score
null
null
0.000122
Mixtral-8x7B-Instruct-v0.1
Mistral AI
Mixtral
true
0.7
0.7
32,000
4,000
46.7
true
false
false
false
1,720
3,440
647.94
63.51
33.97
84.45
51.9
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.27
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '好的开端']
null
zero-one-ai/Yi-34B-Chat
0
0
routerbench_score
null
null
0.000188
Yi-34B-Chat
01.AI
Yi
true
0.5
1.5
131,072
12,288
34
true
false
false
false
1,720
3,440
647.94
65.85
52.02
68.445
54.81
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.28
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '四面栅栏,请勿入内。']
null
WizardLM/WizardLM-13B-V1.2
0
0
routerbench_score
null
null
0.000139
WizardLM/WizardLM-13B-V1.2
WizardLM
WizardLM
true
0.5
1.5
131,072
12,288
13
true
false
false
false
1,720
3,440
647.94
44.65
52.02
68.445
50.63
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.28
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '四面栅栏,请勿入内。']
null
claude-instant-v1
0
0
routerbench_score
null
null
0.000154
claude-instant-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
59.64
68.69
68.445
62.72
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.28
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '四面栅栏,请勿入内。']
null
claude-v1
0
0
routerbench_score
null
null
0.00332
claude-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
65.72
68.69
68.445
65.08
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.28
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '四面栅栏,请勿入内。']
null
claude-v2
0
0
routerbench_score
null
null
0.003056
claude-v2
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
62.81
68.69
68.445
66.26
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.28
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '四面栅栏,请勿入内。']
null
gpt-3.5-turbo-1106
0
0
routerbench_score
null
null
0.000201
gpt-3.5-turbo-1106
OpenAI
GPT
true
0.5
1.5
16,385
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
64.71
67.17
84.755
60.48
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.28
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '四面栅栏,请勿入内。']
null
gpt-4-1106-preview
0
0
routerbench_score
null
null
0.00709
gpt-4-1106-preview
OpenAI
GPT
true
10
30
128,000
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
81.19
67.17
84.755
65.88
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.28
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '四面栅栏,请勿入内。']
null
meta/code-llama-instruct-34b-chat
0
0
routerbench_score
null
null
0.000139
CodeLlama-34B-Instruct
Meta
Code Llama
true
0.05
0.08
100,000
8,192
34
true
false
false
false
459.475
918.95
1,760.24
0.48
27.515
64.35
45.66
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.28
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '四面栅栏,请勿入内。']
null
meta/llama-2-70b-chat
0
0
routerbench_score
null
null
0.000191
Llama-2-70B-Chat
Meta
Llama 2
true
0.05
0.08
4,096
4,096
70
true
false
false
false
459.475
918.95
1,760.24
2.68
27.515
64.35
52.3
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.28
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '四面栅栏,请勿入内。']
null
mistralai/mistral-7b-chat
0
0
routerbench_score
null
null
0.00004
Mistral-7B-Instruct-v0.3
Mistral AI
Mistral
true
0.25
0.25
32,000
4,000
7
true
false
false
false
1,720
3,440
647.94
25.43
52.02
68.445
41.15
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.28
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '四面栅栏,请勿入内。']
null
mistralai/mixtral-8x7b-chat
0
0
routerbench_score
null
null
0.000163
Mixtral-8x7B-Instruct-v0.1
Mistral AI
Mixtral
true
0.7
0.7
32,000
4,000
46.7
true
false
false
false
1,720
3,440
647.94
63.51
33.97
84.45
51.9
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.28
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '四面栅栏,请勿入内。']
null
zero-one-ai/Yi-34B-Chat
0
0
routerbench_score
null
null
0.000196
Yi-34B-Chat
01.AI
Yi
true
0.5
1.5
131,072
12,288
34
true
false
false
false
1,720
3,440
647.94
65.85
52.02
68.445
54.81
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.29
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '添一笔,找不到;少一笔,天上飘。']
null
WizardLM/WizardLM-13B-V1.2
0
0
routerbench_score
null
null
0.000123
WizardLM/WizardLM-13B-V1.2
WizardLM
WizardLM
true
0.5
1.5
131,072
12,288
13
true
false
false
false
1,720
3,440
647.94
44.65
52.02
68.445
50.63
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.29
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '添一笔,找不到;少一笔,天上飘。']
null
claude-instant-v1
0
0
routerbench_score
null
null
0.000091
claude-instant-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
59.64
68.69
68.445
62.72
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.29
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '添一笔,找不到;少一笔,天上飘。']
null
claude-v1
0
0
routerbench_score
null
null
0.003984
claude-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
65.72
68.69
68.445
65.08
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.29
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '添一笔,找不到;少一笔,天上飘。']
null
claude-v2
0
0
routerbench_score
null
null
0.004248
claude-v2
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
62.81
68.69
68.445
66.26
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.29
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '添一笔,找不到;少一笔,天上飘。']
null
gpt-3.5-turbo-1106
0
0
routerbench_score
null
null
0.000275
gpt-3.5-turbo-1106
OpenAI
GPT
true
0.5
1.5
16,385
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
64.71
67.17
84.755
60.48
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.29
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '添一笔,找不到;少一笔,天上飘。']
null
gpt-4-1106-preview
0
0
routerbench_score
null
null
0.01053
gpt-4-1106-preview
OpenAI
GPT
true
10
30
128,000
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
81.19
67.17
84.755
65.88
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.29
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '添一笔,找不到;少一笔,天上飘。']
null
meta/code-llama-instruct-34b-chat
0
0
routerbench_score
null
null
0.000099
CodeLlama-34B-Instruct
Meta
Code Llama
true
0.05
0.08
100,000
8,192
34
true
false
false
false
459.475
918.95
1,760.24
0.48
27.515
64.35
45.66
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.29
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '添一笔,找不到;少一笔,天上飘。']
null
meta/llama-2-70b-chat
0
0
routerbench_score
null
null
0.000188
Llama-2-70B-Chat
Meta
Llama 2
true
0.05
0.08
4,096
4,096
70
true
false
false
false
459.475
918.95
1,760.24
2.68
27.515
64.35
52.3
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.29
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '添一笔,找不到;少一笔,天上飘。']
null
mistralai/mistral-7b-chat
0
0
routerbench_score
null
null
0.000058
Mistral-7B-Instruct-v0.3
Mistral AI
Mistral
true
0.25
0.25
32,000
4,000
7
true
false
false
false
1,720
3,440
647.94
25.43
52.02
68.445
41.15
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.29
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '添一笔,找不到;少一笔,天上飘。']
null
mistralai/mixtral-8x7b-chat
0
0
routerbench_score
null
null
0.000134
Mixtral-8x7B-Instruct-v0.1
Mistral AI
Mixtral
true
0.7
0.7
32,000
4,000
46.7
true
false
false
false
1,720
3,440
647.94
63.51
33.97
84.45
51.9
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.29
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '添一笔,找不到;少一笔,天上飘。']
null
zero-one-ai/Yi-34B-Chat
0
0
routerbench_score
null
null
0.000322
Yi-34B-Chat
01.AI
Yi
true
0.5
1.5
131,072
12,288
34
true
false
false
false
1,720
3,440
647.94
65.85
52.02
68.445
54.81
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.3
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '没心思']
null
WizardLM/WizardLM-13B-V1.2
0
0
routerbench_score
null
null
0.000041
WizardLM/WizardLM-13B-V1.2
WizardLM
WizardLM
true
0.5
1.5
131,072
12,288
13
true
false
false
false
1,720
3,440
647.94
44.65
52.02
68.445
50.63
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.3
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '没心思']
null
claude-instant-v1
0
0
routerbench_score
null
null
0.000111
claude-instant-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
59.64
68.69
68.445
62.72
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.3
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '没心思']
null
claude-v1
0
0
routerbench_score
null
null
0.005168
claude-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
65.72
68.69
68.445
65.08
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.3
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '没心思']
null
claude-v2
0
0
routerbench_score
null
null
0.002912
claude-v2
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
62.81
68.69
68.445
66.26
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.3
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '没心思']
null
gpt-3.5-turbo-1106
0
0
routerbench_score
null
null
0.000246
gpt-3.5-turbo-1106
OpenAI
GPT
true
0.5
1.5
16,385
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
64.71
67.17
84.755
60.48
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.3
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '没心思']
null
gpt-4-1106-preview
0
0
routerbench_score
null
null
0.001
gpt-4-1106-preview
OpenAI
GPT
true
10
30
128,000
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
81.19
67.17
84.755
65.88
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.3
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '没心思']
null
meta/code-llama-instruct-34b-chat
0
0
routerbench_score
null
null
0.000129
CodeLlama-34B-Instruct
Meta
Code Llama
true
0.05
0.08
100,000
8,192
34
true
false
false
false
459.475
918.95
1,760.24
0.48
27.515
64.35
45.66
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.3
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '没心思']
null
meta/llama-2-70b-chat
0
0
routerbench_score
null
null
0.000231
Llama-2-70B-Chat
Meta
Llama 2
true
0.05
0.08
4,096
4,096
70
true
false
false
false
459.475
918.95
1,760.24
2.68
27.515
64.35
52.3
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.3
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '没心思']
null
mistralai/mistral-7b-chat
0
0
routerbench_score
null
null
0.000042
Mistral-7B-Instruct-v0.3
Mistral AI
Mistral
true
0.25
0.25
32,000
4,000
7
true
false
false
false
1,720
3,440
647.94
25.43
52.02
68.445
41.15
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.3
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '没心思']
null
mistralai/mixtral-8x7b-chat
0
0
routerbench_score
null
null
0.000122
Mixtral-8x7B-Instruct-v0.1
Mistral AI
Mixtral
true
0.7
0.7
32,000
4,000
46.7
true
false
false
false
1,720
3,440
647.94
63.51
33.97
84.45
51.9
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.3
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '没心思']
null
zero-one-ai/Yi-34B-Chat
0
0
routerbench_score
null
null
0.000267
Yi-34B-Chat
01.AI
Yi
true
0.5
1.5
131,072
12,288
34
true
false
false
false
1,720
3,440
647.94
65.85
52.02
68.445
54.81
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.30
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '石头上的水']
null
WizardLM/WizardLM-13B-V1.2
0
0
routerbench_score
null
null
0.000105
WizardLM/WizardLM-13B-V1.2
WizardLM
WizardLM
true
0.5
1.5
131,072
12,288
13
true
false
false
false
1,720
3,440
647.94
44.65
52.02
68.445
50.63
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.30
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '石头上的水']
null
claude-instant-v1
0
0
routerbench_score
null
null
0.00015
claude-instant-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
59.64
68.69
68.445
62.72
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.30
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '石头上的水']
null
claude-v1
0
0
routerbench_score
null
null
0.002864
claude-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
65.72
68.69
68.445
65.08
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.30
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '石头上的水']
null
claude-v2
0
0
routerbench_score
null
null
0.006032
claude-v2
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
62.81
68.69
68.445
66.26
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.30
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '石头上的水']
null
gpt-3.5-turbo-1106
0
0
routerbench_score
null
null
0.000177
gpt-3.5-turbo-1106
OpenAI
GPT
true
0.5
1.5
16,385
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
64.71
67.17
84.755
60.48
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.30
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '石头上的水']
null
gpt-4-1106-preview
0
0
routerbench_score
null
null
0.0076
gpt-4-1106-preview
OpenAI
GPT
true
10
30
128,000
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
81.19
67.17
84.755
65.88
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.30
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '石头上的水']
null
meta/code-llama-instruct-34b-chat
0
0
routerbench_score
null
null
0.000088
CodeLlama-34B-Instruct
Meta
Code Llama
true
0.05
0.08
100,000
8,192
34
true
false
false
false
459.475
918.95
1,760.24
0.48
27.515
64.35
45.66
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.30
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '石头上的水']
null
meta/llama-2-70b-chat
0
0
routerbench_score
null
null
0.000138
Llama-2-70B-Chat
Meta
Llama 2
true
0.05
0.08
4,096
4,096
70
true
false
false
false
459.475
918.95
1,760.24
2.68
27.515
64.35
52.3
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.30
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '石头上的水']
null
mistralai/mistral-7b-chat
0
0
routerbench_score
null
null
0.000054
Mistral-7B-Instruct-v0.3
Mistral AI
Mistral
true
0.25
0.25
32,000
4,000
7
true
false
false
false
1,720
3,440
647.94
25.43
52.02
68.445
41.15
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.30
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '石头上的水']
null
mistralai/mixtral-8x7b-chat
0
0
routerbench_score
null
null
0.000223
Mixtral-8x7B-Instruct-v0.1
Mistral AI
Mixtral
true
0.7
0.7
32,000
4,000
46.7
true
false
false
false
1,720
3,440
647.94
63.51
33.97
84.45
51.9
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.30
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '石头上的水']
null
zero-one-ai/Yi-34B-Chat
0
0
routerbench_score
null
null
0.000216
Yi-34B-Chat
01.AI
Yi
true
0.5
1.5
131,072
12,288
34
true
false
false
false
1,720
3,440
647.94
65.85
52.02
68.445
54.81
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.31
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '一字出口,六个人口。']
null
WizardLM/WizardLM-13B-V1.2
0
0
routerbench_score
null
null
0.000118
WizardLM/WizardLM-13B-V1.2
WizardLM
WizardLM
true
0.5
1.5
131,072
12,288
13
true
false
false
false
1,720
3,440
647.94
44.65
52.02
68.445
50.63
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.31
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '一字出口,六个人口。']
null
claude-instant-v1
0
0
routerbench_score
null
null
0.000084
claude-instant-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
59.64
68.69
68.445
62.72
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.31
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '一字出口,六个人口。']
null
claude-v1
0
0
routerbench_score
null
null
0.002568
claude-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
65.72
68.69
68.445
65.08
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.31
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '一字出口,六个人口。']
null
claude-v2
0
0
routerbench_score
null
null
0.004008
claude-v2
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
62.81
68.69
68.445
66.26
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.31
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '一字出口,六个人口。']
null
gpt-3.5-turbo-1106
0
0
routerbench_score
null
null
0.000282
gpt-3.5-turbo-1106
OpenAI
GPT
true
0.5
1.5
16,385
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
64.71
67.17
84.755
60.48
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.31
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '一字出口,六个人口。']
null
gpt-4-1106-preview
0
0
routerbench_score
null
null
0.00915
gpt-4-1106-preview
OpenAI
GPT
true
10
30
128,000
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
81.19
67.17
84.755
65.88
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.31
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '一字出口,六个人口。']
null
meta/code-llama-instruct-34b-chat
0
0
routerbench_score
null
null
0.000122
CodeLlama-34B-Instruct
Meta
Code Llama
true
0.05
0.08
100,000
8,192
34
true
false
false
false
459.475
918.95
1,760.24
0.48
27.515
64.35
45.66
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.31
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '一字出口,六个人口。']
null
meta/llama-2-70b-chat
0
0
routerbench_score
null
null
0.000224
Llama-2-70B-Chat
Meta
Llama 2
true
0.05
0.08
4,096
4,096
70
true
false
false
false
459.475
918.95
1,760.24
2.68
27.515
64.35
52.3
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.31
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '一字出口,六个人口。']
null
mistralai/mistral-7b-chat
0
0
routerbench_score
null
null
0.000038
Mistral-7B-Instruct-v0.3
Mistral AI
Mistral
true
0.25
0.25
32,000
4,000
7
true
false
false
false
1,720
3,440
647.94
25.43
52.02
68.445
41.15
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.31
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '一字出口,六个人口。']
null
mistralai/mixtral-8x7b-chat
0
0
routerbench_score
null
null
0.00011
Mixtral-8x7B-Instruct-v0.1
Mistral AI
Mixtral
true
0.7
0.7
32,000
4,000
46.7
true
false
false
false
1,720
3,440
647.94
63.51
33.97
84.45
51.9
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.31
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '一字出口,六个人口。']
null
zero-one-ai/Yi-34B-Chat
0
0
routerbench_score
null
null
0.000149
Yi-34B-Chat
01.AI
Yi
true
0.5
1.5
131,072
12,288
34
true
false
false
false
1,720
3,440
647.94
65.85
52.02
68.445
54.81
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.32
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '七星拱月']
null
WizardLM/WizardLM-13B-V1.2
0
0
routerbench_score
null
null
0.000127
WizardLM/WizardLM-13B-V1.2
WizardLM
WizardLM
true
0.5
1.5
131,072
12,288
13
true
false
false
false
1,720
3,440
647.94
44.65
52.02
68.445
50.63
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.32
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '七星拱月']
null
claude-instant-v1
0
0
routerbench_score
null
null
0.000121
claude-instant-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
59.64
68.69
68.445
62.72
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.32
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '七星拱月']
null
claude-v1
0
0
routerbench_score
null
null
0.004184
claude-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
65.72
68.69
68.445
65.08
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.32
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '七星拱月']
null
claude-v2
0
0
routerbench_score
null
null
0.005192
claude-v2
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
62.81
68.69
68.445
66.26
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.32
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '七星拱月']
null
gpt-3.5-turbo-1106
0
0
routerbench_score
null
null
0.000229
gpt-3.5-turbo-1106
OpenAI
GPT
true
0.5
1.5
16,385
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
64.71
67.17
84.755
60.48
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.32
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '七星拱月']
null
gpt-4-1106-preview
0
0
routerbench_score
null
null
0.00946
gpt-4-1106-preview
OpenAI
GPT
true
10
30
128,000
4,096
8
true
false
false
true
1,482.99
2,965.98
647.94
81.19
67.17
84.755
65.88
88.05
1,053.8
0
0
0
0
1
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.32
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '七星拱月']
null
meta/code-llama-instruct-34b-chat
0
0
routerbench_score
null
null
0.000087
CodeLlama-34B-Instruct
Meta
Code Llama
true
0.05
0.08
100,000
8,192
34
true
false
false
false
459.475
918.95
1,760.24
0.48
27.515
64.35
45.66
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.32
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '七星拱月']
null
meta/llama-2-70b-chat
0
0
routerbench_score
null
null
0.000276
Llama-2-70B-Chat
Meta
Llama 2
true
0.05
0.08
4,096
4,096
70
true
false
false
false
459.475
918.95
1,760.24
2.68
27.515
64.35
52.3
80.4
1,160.65
1
1
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.32
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '七星拱月']
null
mistralai/mistral-7b-chat
0
0
routerbench_score
null
null
0.000022
Mistral-7B-Instruct-v0.3
Mistral AI
Mistral
true
0.25
0.25
32,000
4,000
7
true
false
false
false
1,720
3,440
647.94
25.43
52.02
68.445
41.15
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.32
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '七星拱月']
null
mistralai/mixtral-8x7b-chat
0
0
routerbench_score
null
null
0.000177
Mixtral-8x7B-Instruct-v0.1
Mistral AI
Mixtral
true
0.7
0.7
32,000
4,000
46.7
true
false
false
false
1,720
3,440
647.94
63.51
33.97
84.45
51.9
88.05
1,160.65
0
0
0
0
0
0
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.32
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '七星拱月']
null
zero-one-ai/Yi-34B-Chat
0
0
routerbench_score
null
null
0.000245
Yi-34B-Chat
01.AI
Yi
true
0.5
1.5
131,072
12,288
34
true
false
false
false
1,720
3,440
647.94
65.85
52.02
68.445
54.81
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.33
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '空口无实']
null
WizardLM/WizardLM-13B-V1.2
0
0
routerbench_score
null
null
0.000101
WizardLM/WizardLM-13B-V1.2
WizardLM
WizardLM
true
0.5
1.5
131,072
12,288
13
true
false
false
false
1,720
3,440
647.94
44.65
52.02
68.445
50.63
88.05
1,160.65
1
1
1
1
0
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.33
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '空口无实']
null
claude-instant-v1
0
0
routerbench_score
null
null
0.000189
claude-instant-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
59.64
68.69
68.445
62.72
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1
routerbench
0shot
null
Chinese_character_riddles
routerbench:0shot:Chinese_character_riddles.dev.33
['猜字谜,根据我给的描述猜出一个字(请从汉字的字形、发音、意义以及字的拆分组合等角度考虑)。首先提供你的推理,然后提供用英文方括号括[]起来的最终答案。', '空口无实']
null
claude-v1
0
0
routerbench_score
null
null
0.00256
claude-v1
Anthropic
Claude
false
9
45
600,000
48,000
8
true
false
false
true
1,414.685
2,829.37
-217,873.105
65.72
68.69
68.445
65.08
88.05
1,187.4
1
1
1
1
1
1
1
1
1
0
1
1
0
1
1