性能测试矩阵结果

• 生成时间: 2026-03-12 08:11:03
• 场景: backend_search, backend_suggest, embed_text, rerank
• 并发: 1, 5, 10, 20

backend_search

并发	请求数	成功率	吞吐(RPS)	Avg(ms)	P50	P90	P95	P99	Max
1	160	100.0%	7.98	124.89	109.37	162.61	228.06	329.57	345.49
5	161	100.0%	7.89	628.91	541.87	726.7	1271.49	1285.88	1441.02
10	181	100.0%	8.78	1129.23	1100.46	1251.53	1295.88	1320.78	1330.96
20	161	100.0%	7.63	2594.0	2303.96	4681.35	4706.44	4727.58	4783.05

backend_suggest

并发	请求数	成功率	吞吐(RPS)	Avg(ms)	P50	P90	P95	P99	Max
1	3502	100.0%	175.09	5.68	4.36	8.42	8.7	10.43	15.98
5	4168	100.0%	208.1	23.93	21.72	35.72	36.93	42.08	59.53
10	4152	100.0%	207.25	48.05	46.72	55.72	59.45	70.74	127.2
20	4190	100.0%	208.99	95.2	93.51	104.44	110.74	164.22	181.37

embed_text

并发	请求数	成功率	吞吐(RPS)	Avg(ms)	P50	P90	P95	P99	Max
1	966	100.0%	48.27	20.63	20.0	21.14	23.41	30.03	49.8
5	1796	100.0%	89.57	55.55	54.43	66.64	69.62	75.85	109.84
10	2095	100.0%	104.42	95.22	98.74	112.52	117.66	135.94	152.48
20	2393	100.0%	118.7	167.37	169.0	198.66	212.21	251.56	318.7

rerank

并发	请求数	成功率	吞吐(RPS)	Avg(ms)	P50	P90	P95	P99	Max
1	802	100.0%	40.06	24.87	23.0	30.96	37.45	43.98	49.63
5	796	100.0%	39.53	125.7	113.04	178.39	190.02	202.09	218.6
10	853	100.0%	41.89	235.87	224.75	274.4	315.37	383.74	402.27
20	836	100.0%	40.92	481.98	454.32	565.75	723.56	764.15	781.81