Blame view

docs/Usage-Guide.md 12.8 KB
a7920e17   tangwang   项目名称和部署路径修改
1
  # 使用指南 - saas-search
38f530ff   tangwang   文档完善
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
  
  本文档提供完整的使用指南,包括环境准备、服务启动、配置说明、日志查看等。
  
  ## 目录
  
  1. [环境准备](#环境准备)
  2. [服务启动](#服务启动)
  3. [配置说明](#配置说明)
  4. [查看日志](#查看日志)
  5. [测试验证](#测试验证)
  6. [常见问题](#常见问题)
  
  ---
  
  ## 环境准备
  
  ### 系统要求
  
  - **操作系统**: Linux (推荐 CentOS 7+ / Ubuntu 18.04+)
  - **Python**: 3.8+
  - **内存**: 建议 8GB+
  - **磁盘**: 10GB+ (包含模型文件)
  - **Elasticsearch**: 8.x (可通过Docker运行)
  
  ### 安装依赖
  
a7920e17   tangwang   项目名称和部署路径修改
28
29
  #### 1. 安装 Python 依赖与激活环境
  
484adbfe   tangwang   adapt ubuntu; con...
30
  **推荐**:使用项目根目录的 `activate.sh` 激活环境(会加载 `.env`)。目前推荐 venv(`.venv`);Conda 仅作为兼容回退(需要 `CONDA_ROOT`)。详见 `docs/环境配置说明.md`
38f530ff   tangwang   文档完善
31
32
  
  ```bash
a7920e17   tangwang   项目名称和部署路径修改
33
  cd /data/saas-search
484adbfe   tangwang   adapt ubuntu; con...
34
35
36
37
38
39
40
41
42
  ./scripts/create_venv.sh   # 首次创建 venv(只需执行一次)
  source activate.sh
  ```
  
  如果需要本地 embedding / 图像编码(会安装 torch/transformers 等较重依赖):
  
  ```bash
  cd /data/saas-search
  INSTALL_ML=1 ./scripts/create_venv.sh
a7920e17   tangwang   项目名称和部署路径修改
43
  source activate.sh
38f530ff   tangwang   文档完善
44
45
  ```
  
a7920e17   tangwang   项目名称和部署路径修改
46
47
48
49
  首次在新机器创建环境时,可任选其一:
  - `conda env create -f environment.yml`(推荐,与 environment.yml 一致)
  - 或创建 env 后 `pip install -r requirements.txt`
  
38f530ff   tangwang   文档完善
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
  #### 2. 启动Elasticsearch
  
  **方式1: 使用Docker(推荐)**
  
  ```bash
  docker run -d \
    --name elasticsearch \
    -p 9200:9200 \
    -e "discovery.type=single-node" \
    -e "ES_JAVA_OPTS=-Xms2g -Xmx2g" \
    elasticsearch:8.11.0
  ```
  
  **方式2: 本地安装**
  
  参考 [Elasticsearch官方文档](https://www.elastic.co/guide/en/elasticsearch/reference/8.11/install-elasticsearch.html)
  
648cb4c2   tangwang   ES docs
67
  #### 3. 配置环境变量(支持多环境)
38f530ff   tangwang   文档完善
68
  
648cb4c2   tangwang   ES docs
69
  创建 `.env` 文件(以本地 / prod 环境为例):
38f530ff   tangwang   文档完善
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
  
  ```bash
  # MySQL配置
  DB_HOST=120.79.247.228
  DB_PORT=3316
  DB_DATABASE=saas
  DB_USERNAME=saas
  DB_PASSWORD=your_password
  
  # Elasticsearch配置
  ES_HOST=http://localhost:9200
  ES_USERNAME=essa
  ES_PASSWORD=4hOaLaf41y2VuI8y
  
  # Redis配置(可选,用于缓存)
  REDIS_HOST=localhost
  REDIS_PORT=6479
  REDIS_PASSWORD=BMfv5aI31kgHWtlx
  
  # DeepL翻译API(可选)
  DEEPL_AUTH_KEY=c9293ab4-ad25-479b-919f-ab4e63b429ed
  
648cb4c2   tangwang   ES docs
92
93
94
95
96
  # 运行环境(用于区分 prod / uat / test / dev)
  RUNTIME_ENV=prod
  # ES 索引命名空间前缀(用于按环境隔离索引,prod 通常留空)
  ES_INDEX_NAMESPACE=
  
38f530ff   tangwang   文档完善
97
98
99
100
101
102
103
104
105
106
107
108
  # API服务配置
  API_HOST=0.0.0.0
  API_PORT=6002
  ```
  
  ---
  
  ## 服务启动
  
  ### 方式1: 一键启动(推荐)
  
  ```bash
a7920e17   tangwang   项目名称和部署路径修改
109
  cd /data/saas-search
38f530ff   tangwang   文档完善
110
111
112
113
114
115
116
117
118
119
120
121
122
123
  ./run.sh
  ```
  
  这个脚本会自动:
  1. 创建日志目录
  2. 启动后端API服务(后台运行)
  3. 启动前端Web界面(后台运行)
  4. 等待服务就绪
  
  启动完成后,访问:
  - **前端界面**: http://localhost:6003
  - **后端API**: http://localhost:6002
  - **API文档**: http://localhost:6002/docs
  
648cb4c2   tangwang   ES docs
124
  ### 方式2: 分步启动(单环境)
38f530ff   tangwang   文档完善
125
126
127
128
129
130
131
  
  #### 启动后端服务
  
  ```bash
  ./scripts/start_backend.sh
  ```
  
648cb4c2   tangwang   ES docs
132
  后端API会在 http://localhost:6002 启动(使用当前 `.env` 中的 ES_HOST / DB_HOST / RUNTIME_ENV / ES_INDEX_NAMESPACE)
38f530ff   tangwang   文档完善
133
134
135
136
137
138
139
140
141
  
  #### 启动前端服务
  
  ```bash
  ./scripts/start_frontend.sh
  ```
  
  前端界面会在 http://localhost:6003 启动
  
648cb4c2   tangwang   ES docs
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
  ### 方式3: 多环境示例(prod / uat)
  
  假设有两套环境:
  
  - **prod**:正式环境,RUNTIME_ENV=prod,ES_INDEX_NAMESPACE 为空
  - **uat**:联调环境,RUNTIME_ENV=uat,ES_INDEX_NAMESPACE=uat_
  
  可以在项目根目录准备两个配置文件:
  
  - `.env.prod`
  
  ```bash
  RUNTIME_ENV=prod
  ES_INDEX_NAMESPACE=
  ES_HOST=http://prod-es:9200
  DB_HOST=prod-mysql
  ...
  ```
  
  - `.env.uat`
  
  ```bash
  RUNTIME_ENV=uat
  ES_INDEX_NAMESPACE=uat_
  ES_HOST=http://uat-es:9200
  DB_HOST=uat-mysql
  ...
  ```
  
  启动不同环境时:
  
  ```bash
  # 启动 UAT 后端 + 索引服务
  cp .env.uat .env
  ./scripts/start_backend.sh
  ./scripts/start_indexer.sh
  
  # 启动 PROD 后端 + 索引服务
  cp .env.prod .env
  ./scripts/start_backend.sh
  ./scripts/start_indexer.sh
  ```
  
  ### 方式4: 手动启动
38f530ff   tangwang   文档完善
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
  
  #### 启动后端API服务
  
  ```bash
  python -m api.app \
    --host 0.0.0.0 \
    --port 6002 \
    --es-host http://localhost:9200 \
    --reload
  ```
  
  #### 启动前端服务(可选)
  
  ```bash
  # 使用Python简单HTTP服务器
  cd frontend
  python -m http.server 6003
  ```
  
  ### 停止服务
  
  ```bash
  # 停止后端
  kill $(cat logs/backend.pid)
  
  # 停止前端
  kill $(cat logs/frontend.pid)
  
  # 或使用停止脚本
  ./scripts/stop.sh
  ```
  
  ### 服务端口
  
  | 服务 | 端口 | URL |
  |------|------|-----|
  | Elasticsearch | 9200 | http://localhost:9200 |
  | Backend API | 6002 | http://localhost:6002 |
  | Frontend Web | 6003 | http://localhost:6003 |
  | API Docs | 6002 | http://localhost:6002/docs |
  
  ---
  
  ## 配置说明
  
  ### 环境配置文件 (.env)
  
  主要配置项说明:
  
  ```bash
  # Elasticsearch配置
  ES_HOST=http://localhost:9200
  ES_USERNAME=essa
  ES_PASSWORD=4hOaLaf41y2VuI8y
  
  # MySQL配置
  DB_HOST=120.79.247.228
  DB_PORT=3316
  DB_DATABASE=saas
  DB_USERNAME=saas
  DB_PASSWORD=your_password
  
  # Redis配置(可选,用于缓存)
  REDIS_HOST=localhost
  REDIS_PORT=6479
  REDIS_PASSWORD=BMfv5aI31kgHWtlx
  
  # DeepL翻译API
  DEEPL_AUTH_KEY=c9293ab4-ad25-479b-919f-ab4e63b429ed
  
  # API服务配置
  API_HOST=0.0.0.0
  API_PORT=6002
  ```
  
  ### 修改配置
  
  1. 编辑 `.env` 文件
  2. 重启相关服务
  
  ---
  
  ## 查看日志
  
  ### 日志文件位置
  
  日志文件存储在 `logs/` 目录下:
  
  - `logs/backend.log` - 后端服务日志
  - `logs/frontend.log` - 前端服务日志
  - `logs/search_engine.log` - 应用主日志(按天轮转)
  - `logs/errors.log` - 错误日志(按天轮转)
  
  ### 查看实时日志
  
  ```bash
  # 查看后端日志
  tail -f logs/backend.log
  
  # 查看前端日志
  tail -f logs/frontend.log
  
  # 查看应用主日志
  tail -f logs/search_engine.log
  
  # 查看错误日志
  tail -f logs/errors.log
  ```
  
  ### 日志级别
  
  日志级别可以通过环境变量 `LOG_LEVEL` 设置:
  
  ```bash
  # 在 .env 文件中设置
  LOG_LEVEL=DEBUG  # DEBUG, INFO, WARNING, ERROR, CRITICAL
  ```
  
  ### 日志轮转
  
  日志文件按天自动轮转,保留30天的历史日志。
  
  ---
  
  ## 测试验证
  
  ### 1. 健康检查
  
  ```bash
  curl http://localhost:6002/admin/health
  ```
  
  **预期响应**:
  ```json
  {
    "status": "healthy",
    "elasticsearch": "connected"
  }
  ```
  
  ### 2. 索引统计
  
  ```bash
  curl http://localhost:6002/admin/stats
  ```
  
  ### 3. 简单搜索测试
  
  ```bash
  curl -X POST http://localhost:6002/search/ \
    -H "Content-Type: application/json" \
a10a89a3   tangwang   构造测试数据用于测试分类 和 三种...
337
    -H "X-Tenant-ID: 162" \
38f530ff   tangwang   文档完善
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
    -d '{
      "query": "玩具",
      "size": 10
    }'
  ```
  
  或者通过查询参数:
  
  ```bash
  curl -X POST "http://localhost:6002/search/?tenant_id=2" \
    -H "Content-Type: application/json" \
    -d '{
      "query": "玩具",
      "size": 10
    }'
  ```
  
  ### 4. 带过滤器的搜索
  
  ```bash
  curl -X POST http://localhost:6002/search/ \
    -H "Content-Type: application/json" \
a10a89a3   tangwang   构造测试数据用于测试分类 和 三种...
360
    -H "X-Tenant-ID: 162" \
38f530ff   tangwang   文档完善
361
362
363
364
    -d '{
      "query": "玩具",
      "size": 10,
      "filters": {
cadc77b6   tangwang   索引字段名、变量名、API数据结构...
365
        "category.keyword": ["玩具", "益智玩具"]
38f530ff   tangwang   文档完善
366
367
368
369
370
371
372
373
374
375
376
377
      },
      "range_filters": {
        "price": {"gte": 50, "lte": 200}
      }
    }'
  ```
  
  ### 5. 分面搜索测试
  
  ```bash
  curl -X POST http://localhost:6002/search/ \
    -H "Content-Type: application/json" \
a10a89a3   tangwang   构造测试数据用于测试分类 和 三种...
378
    -H "X-Tenant-ID: 162" \
38f530ff   tangwang   文档完善
379
380
381
382
    -d '{
      "query": "玩具",
      "size": 10,
      "facets": [
cadc77b6   tangwang   索引字段名、变量名、API数据结构...
383
384
        {"field": "category.keyword", "size": 15},
        {"field": "vendor.keyword", "size": 15}
38f530ff   tangwang   文档完善
385
386
387
388
389
390
391
392
393
      ]
    }'
  ```
  
  ### 6. 图片搜索测试
  
  ```bash
  curl -X POST http://localhost:6002/search/image \
    -H "Content-Type: application/json" \
a10a89a3   tangwang   构造测试数据用于测试分类 和 三种...
394
    -H "X-Tenant-ID: 162" \
38f530ff   tangwang   文档完善
395
396
397
398
399
400
401
402
403
404
405
406
407
408
    -d '{
      "image_url": "https://oss.essa.cn/example.jpg",
      "size": 10
    }'
  ```
  
  ### 7. 前端界面测试
  
  访问 http://localhost:6003 或 http://localhost:6002/ 进行可视化测试。
  
  **注意**: 所有搜索接口都需要通过 `X-Tenant-ID` 请求头或 `tenant_id` 查询参数指定租户ID。
  
  ---
  
f251cf2d   tangwang   suggestion全量索引程序跑通
409
410
  ## 8. Suggestion 索引与接口使用
  
648cb4c2   tangwang   ES docs
411
  ### 8.1 构建 Suggestion 索引(全量,多环境)
f251cf2d   tangwang   suggestion全量索引程序跑通
412
413
414
415
416
417
  
  Suggestion 索引会从:
  
  - ES 商品索引:`title.{lang}`, `qanchors.{lang}`
  - MySQL 日志表:`shoplazza_search_log.query`(含 `language`、`request_params`
  
648cb4c2   tangwang   ES docs
418
  聚合生成 `{ES_INDEX_NAMESPACE}search_suggestions_tenant_{tenant_id}`
f251cf2d   tangwang   suggestion全量索引程序跑通
419
  
648cb4c2   tangwang   ES docs
420
  在项目根目录执行(以 UAT 环境、tenant_id=162 为例):
f251cf2d   tangwang   suggestion全量索引程序跑通
421
422
  
  ```bash
648cb4c2   tangwang   ES docs
423
424
425
426
427
428
429
  # 1. 切换到 UAT 配置(包含 ES_INDEX_NAMESPACE=uat_)
  cp .env.uat .env
  
  # 2. 启动索引服务(如尚未启动)
  ./scripts/start_indexer.sh
  
  # 3. 为指定租户全量重建 suggestion 索引(会删除旧索引)
f251cf2d   tangwang   suggestion全量索引程序跑通
430
431
432
433
434
435
436
  python main.py build-suggestions \
    --tenant-id 162 \
    --es-host http://localhost:9200 \
    --days 30 \
    --recreate
  ```
  
648cb4c2   tangwang   ES docs
437
438
439
  UAT 环境下,索引名为:`uat_search_suggestions_tenant_162`
  prod 环境下(ES_INDEX_NAMESPACE 为空),索引名为:`search_suggestions_tenant_162`
  
f251cf2d   tangwang   suggestion全量索引程序跑通
440
441
442
443
444
445
446
447
448
449
450
451
452
  可选参数:
  
  - `--days`:回溯日志天数(默认 30)
  - `--batch-size`:扫描商品索引的批大小(默认 500)
  - `--min-query-len`:参与 suggestion 的最小查询长度(默认 1)
  
  > 建议在商品索引构建完成、日志正常写入一段时间后执行一次全量构建,然后按天/小时增加增量构建任务。
  
  ### 8.2 调用 Suggestion 接口
  
  全量构建完成后,可直接通过 `/search/suggestions` 获取自动补全结果:
  
  ```bash
648cb4c2   tangwang   ES docs
453
  # UAT 环境(本地或 UAT 集群)
f251cf2d   tangwang   suggestion全量索引程序跑通
454
455
  curl "http://localhost:6002/search/suggestions?q=iph&size=5&language=en&with_results=true" \
    -H "X-Tenant-ID: 162"
648cb4c2   tangwang   ES docs
456
457
458
459
460
461
462
463
464
465
466
467
468
  
  # PROD 环境(域名 / 端口按实际部署调整)
  curl "https://api.yourdomain.com/search/suggestions?q=iph&size=5&language=en&with_results=true" \
    -H "X-Tenant-ID: 162"
  ```
  
  ### 8.3 商品索引构建(search_products,多环境例子)
  
  以 tenant_id=162 为例,分别在 UAT / PROD 构建商品索引。
  
  #### UAT 环境(索引前缀 uat_)
  
  ```bash
a7920e17   tangwang   项目名称和部署路径修改
469
  cd /data/saas-search
648cb4c2   tangwang   ES docs
470
471
472
473
474
475
476
477
478
479
480
481
482
483
484
485
486
487
  
  # 1. 切换到 UAT 环境配置
  cp .env.uat .env
  
  # 2. 启动 indexer 服务(如尚未启动)
  ./scripts/start_indexer.sh
  
  # 3. 可选:重建索引结构(会删除旧索引)
  ./scripts/create_tenant_index.sh 162
  # 实际创建的索引名为:uat_search_products_tenant_162
  
  # 4. 导入商品数据(全量索引)
  curl -X POST "http://localhost:6004/indexer/reindex" \
    -H "Content-Type: application/json" \
    -d '{
      "tenant_id": "162",
      "batch_size": 500
    }'
f251cf2d   tangwang   suggestion全量索引程序跑通
488
489
  ```
  
648cb4c2   tangwang   ES docs
490
491
492
  #### PROD 环境(无前缀)
  
  ```bash
a7920e17   tangwang   项目名称和部署路径修改
493
  cd /data/saas-search
648cb4c2   tangwang   ES docs
494
495
496
497
498
499
500
501
502
503
504
505
506
507
508
509
510
511
512
513
514
515
516
517
518
519
  
  # 1. 切换到 PROD 环境配置
  cp .env.prod .env
  
  # 2. 启动 indexer 服务
  ./scripts/start_indexer.sh
  
  # 3. 可选:重建索引结构(search_products_tenant_162)
  ./scripts/create_tenant_index.sh 162
  
  # 4. 导入商品数据
  curl -X POST "http://localhost:6004/indexer/reindex" \
    -H "Content-Type: application/json" \
    -d '{
      "tenant_id": "162",
      "batch_size": 500
    }'
  ```
  
  完成后:
  
  - UAT 环境商品索引:`uat_search_products_tenant_162`
  - PROD 环境商品索引:`search_products_tenant_162`
  
  两套环境的搜索 / suggestion API 调用完全一致,只是连接到各自的后端 / ES。
  
f251cf2d   tangwang   suggestion全量索引程序跑通
520
521
522
523
  接口返回结构详见 `docs/搜索API对接指南.md` 的“3.7 搜索建议接口”章节。
  
  ---
  
38f530ff   tangwang   文档完善
524
525
526
527
528
529
530
531
532
533
534
535
536
537
538
539
540
541
542
543
544
545
546
547
548
549
550
551
552
553
554
555
556
557
558
559
560
561
562
563
564
565
566
567
568
569
570
571
572
573
574
575
576
577
578
579
580
581
582
583
  ## 常见问题
  
  ### Q1: MySQL连接失败
  
  **症状**: `Failed to connect to MySQL`
  
  **解决方案**:
  ```bash
  # 检查MySQL服务状态
  mysql -h 120.79.247.228 -P 3316 -u saas -p -e "SELECT 1"
  
  # 检查配置
  cat .env | grep DB_
  ```
  
  ### Q2: Elasticsearch连接失败
  
  **症状**: `Failed to connect to Elasticsearch`
  
  **解决方案**:
  ```bash
  # 检查ES服务状态
  curl http://localhost:9200
  
  # 检查ES版本
  curl http://localhost:9200 | grep version
  
  # 确认配置
  cat .env | grep ES_
  ```
  
  ### Q3: 服务启动失败
  
  **症状**: `Address already in use` 或端口被占用
  
  **解决方案**:
  ```bash
  # 查看占用端口的进程
  lsof -i :6002  # 后端
  lsof -i :6003  # 前端
  lsof -i :9200  # ES
  
  # 杀掉进程
  kill -9 <PID>
  
  # 或修改端口配置
  ```
  
  ### Q4: 搜索无结果
  
  **症状**: 搜索返回空结果
  
  **解决方案**:
  ```bash
  # 检查ES中是否有数据
  curl http://localhost:9200/search_products/_count
  
  # 检查tenant_id过滤是否正确
  curl -X POST http://localhost:6002/search/ \
    -H "Content-Type: application/json" \
a10a89a3   tangwang   构造测试数据用于测试分类 和 三种...
584
    -H "X-Tenant-ID: 162" \
38f530ff   tangwang   文档完善
585
586
587
588
589
590
591
592
593
594
595
596
597
598
599
600
601
602
603
604
605
606
607
608
609
610
611
612
613
614
615
616
617
618
    -d '{"query": "*", "size": 10, "debug": true}'
  ```
  
  ### Q5: 前端无法连接后端
  
  **症状**: CORS错误
  
  **解决方案**:
  - 确保后端在 http://localhost:6002 运行
  - 检查浏览器控制台错误信息
  - 检查后端日志中的CORS配置
  
  ### Q6: 翻译不工作
  
  **症状**: 翻译返回原文
  
  **解决方案**:
  - 检查DEEPL_AUTH_KEY是否正确
  - 如果没有API key,系统会使用mock模式(返回原文)
  
  ---
  
  ## 相关文档
  
  - **测试数据构造文档**: `TEST_DATA_GUIDE.md` - 如何构造和导入测试数据
  - **API接口文档**: `API_INTEGRATION_GUIDE.md` - 完整的API对接指南
  - **字段说明文档**: `INDEX_FIELDS_DOCUMENTATION.md` - 索引字段详细说明
  - **设计文档**: `设计文档.md` - 系统架构和设计说明
  - **README**: `README.md` - 项目概述和快速开始
  
  ---
  
  **文档版本**: v2.0  
  **最后更新**: 2024-12