Blame view

docs/Usage-Guide.md 12.2 KB
38f530ff   tangwang   文档完善
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
  # 使用指南 - SearchEngine
  
  本文档提供完整的使用指南,包括环境准备、服务启动、配置说明、日志查看等。
  
  ## 目录
  
  1. [环境准备](#环境准备)
  2. [服务启动](#服务启动)
  3. [配置说明](#配置说明)
  4. [查看日志](#查看日志)
  5. [测试验证](#测试验证)
  6. [常见问题](#常见问题)
  
  ---
  
  ## 环境准备
  
  ### 系统要求
  
  - **操作系统**: Linux (推荐 CentOS 7+ / Ubuntu 18.04+)
  - **Python**: 3.8+
  - **内存**: 建议 8GB+
  - **磁盘**: 10GB+ (包含模型文件)
  - **Elasticsearch**: 8.x (可通过Docker运行)
  
  ### 安装依赖
  
  #### 1. 安装Python依赖
  
  ```bash
  cd /home/tw/SearchEngine
  pip install -r requirements.txt
  ```
  
  #### 2. 启动Elasticsearch
  
  **方式1: 使用Docker(推荐)**
  
  ```bash
  docker run -d \
    --name elasticsearch \
    -p 9200:9200 \
    -e "discovery.type=single-node" \
    -e "ES_JAVA_OPTS=-Xms2g -Xmx2g" \
    elasticsearch:8.11.0
  ```
  
  **方式2: 本地安装**
  
  参考 [Elasticsearch官方文档](https://www.elastic.co/guide/en/elasticsearch/reference/8.11/install-elasticsearch.html)
  
648cb4c2   tangwang   ES docs
52
  #### 3. 配置环境变量(支持多环境)
38f530ff   tangwang   文档完善
53
  
648cb4c2   tangwang   ES docs
54
  创建 `.env` 文件(以本地 / prod 环境为例):
38f530ff   tangwang   文档完善
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
  
  ```bash
  # MySQL配置
  DB_HOST=120.79.247.228
  DB_PORT=3316
  DB_DATABASE=saas
  DB_USERNAME=saas
  DB_PASSWORD=your_password
  
  # Elasticsearch配置
  ES_HOST=http://localhost:9200
  ES_USERNAME=essa
  ES_PASSWORD=4hOaLaf41y2VuI8y
  
  # Redis配置(可选,用于缓存)
  REDIS_HOST=localhost
  REDIS_PORT=6479
  REDIS_PASSWORD=BMfv5aI31kgHWtlx
  
  # DeepL翻译API(可选)
  DEEPL_AUTH_KEY=c9293ab4-ad25-479b-919f-ab4e63b429ed
  
648cb4c2   tangwang   ES docs
77
78
79
80
81
  # 运行环境(用于区分 prod / uat / test / dev)
  RUNTIME_ENV=prod
  # ES 索引命名空间前缀(用于按环境隔离索引,prod 通常留空)
  ES_INDEX_NAMESPACE=
  
38f530ff   tangwang   文档完善
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
  # API服务配置
  API_HOST=0.0.0.0
  API_PORT=6002
  ```
  
  ---
  
  ## 服务启动
  
  ### 方式1: 一键启动(推荐)
  
  ```bash
  cd /home/tw/SearchEngine
  ./run.sh
  ```
  
  这个脚本会自动:
  1. 创建日志目录
  2. 启动后端API服务(后台运行)
  3. 启动前端Web界面(后台运行)
  4. 等待服务就绪
  
  启动完成后,访问:
  - **前端界面**: http://localhost:6003
  - **后端API**: http://localhost:6002
  - **API文档**: http://localhost:6002/docs
  
648cb4c2   tangwang   ES docs
109
  ### 方式2: 分步启动(单环境)
38f530ff   tangwang   文档完善
110
111
112
113
114
115
116
  
  #### 启动后端服务
  
  ```bash
  ./scripts/start_backend.sh
  ```
  
648cb4c2   tangwang   ES docs
117
  后端API会在 http://localhost:6002 启动(使用当前 `.env` 中的 ES_HOST / DB_HOST / RUNTIME_ENV / ES_INDEX_NAMESPACE)
38f530ff   tangwang   文档完善
118
119
120
121
122
123
124
125
126
  
  #### 启动前端服务
  
  ```bash
  ./scripts/start_frontend.sh
  ```
  
  前端界面会在 http://localhost:6003 启动
  
648cb4c2   tangwang   ES docs
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
  ### 方式3: 多环境示例(prod / uat)
  
  假设有两套环境:
  
  - **prod**:正式环境,RUNTIME_ENV=prod,ES_INDEX_NAMESPACE 为空
  - **uat**:联调环境,RUNTIME_ENV=uat,ES_INDEX_NAMESPACE=uat_
  
  可以在项目根目录准备两个配置文件:
  
  - `.env.prod`
  
  ```bash
  RUNTIME_ENV=prod
  ES_INDEX_NAMESPACE=
  ES_HOST=http://prod-es:9200
  DB_HOST=prod-mysql
  ...
  ```
  
  - `.env.uat`
  
  ```bash
  RUNTIME_ENV=uat
  ES_INDEX_NAMESPACE=uat_
  ES_HOST=http://uat-es:9200
  DB_HOST=uat-mysql
  ...
  ```
  
  启动不同环境时:
  
  ```bash
  # 启动 UAT 后端 + 索引服务
  cp .env.uat .env
  ./scripts/start_backend.sh
  ./scripts/start_indexer.sh
  
  # 启动 PROD 后端 + 索引服务
  cp .env.prod .env
  ./scripts/start_backend.sh
  ./scripts/start_indexer.sh
  ```
  
  ### 方式4: 手动启动
38f530ff   tangwang   文档完善
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
  
  #### 启动后端API服务
  
  ```bash
  python -m api.app \
    --host 0.0.0.0 \
    --port 6002 \
    --es-host http://localhost:9200 \
    --reload
  ```
  
  #### 启动前端服务(可选)
  
  ```bash
  # 使用Python简单HTTP服务器
  cd frontend
  python -m http.server 6003
  ```
  
  ### 停止服务
  
  ```bash
  # 停止后端
  kill $(cat logs/backend.pid)
  
  # 停止前端
  kill $(cat logs/frontend.pid)
  
  # 或使用停止脚本
  ./scripts/stop.sh
  ```
  
  ### 服务端口
  
  | 服务 | 端口 | URL |
  |------|------|-----|
  | Elasticsearch | 9200 | http://localhost:9200 |
  | Backend API | 6002 | http://localhost:6002 |
  | Frontend Web | 6003 | http://localhost:6003 |
  | API Docs | 6002 | http://localhost:6002/docs |
  
  ---
  
  ## 配置说明
  
  ### 环境配置文件 (.env)
  
  主要配置项说明:
  
  ```bash
  # Elasticsearch配置
  ES_HOST=http://localhost:9200
  ES_USERNAME=essa
  ES_PASSWORD=4hOaLaf41y2VuI8y
  
  # MySQL配置
  DB_HOST=120.79.247.228
  DB_PORT=3316
  DB_DATABASE=saas
  DB_USERNAME=saas
  DB_PASSWORD=your_password
  
  # Redis配置(可选,用于缓存)
  REDIS_HOST=localhost
  REDIS_PORT=6479
  REDIS_PASSWORD=BMfv5aI31kgHWtlx
  
  # DeepL翻译API
  DEEPL_AUTH_KEY=c9293ab4-ad25-479b-919f-ab4e63b429ed
  
  # API服务配置
  API_HOST=0.0.0.0
  API_PORT=6002
  ```
  
  ### 修改配置
  
  1. 编辑 `.env` 文件
  2. 重启相关服务
  
  ---
  
  ## 查看日志
  
  ### 日志文件位置
  
  日志文件存储在 `logs/` 目录下:
  
  - `logs/backend.log` - 后端服务日志
  - `logs/frontend.log` - 前端服务日志
  - `logs/search_engine.log` - 应用主日志(按天轮转)
  - `logs/errors.log` - 错误日志(按天轮转)
  
  ### 查看实时日志
  
  ```bash
  # 查看后端日志
  tail -f logs/backend.log
  
  # 查看前端日志
  tail -f logs/frontend.log
  
  # 查看应用主日志
  tail -f logs/search_engine.log
  
  # 查看错误日志
  tail -f logs/errors.log
  ```
  
  ### 日志级别
  
  日志级别可以通过环境变量 `LOG_LEVEL` 设置:
  
  ```bash
  # 在 .env 文件中设置
  LOG_LEVEL=DEBUG  # DEBUG, INFO, WARNING, ERROR, CRITICAL
  ```
  
  ### 日志轮转
  
  日志文件按天自动轮转,保留30天的历史日志。
  
  ---
  
  ## 测试验证
  
  ### 1. 健康检查
  
  ```bash
  curl http://localhost:6002/admin/health
  ```
  
  **预期响应**:
  ```json
  {
    "status": "healthy",
    "elasticsearch": "connected"
  }
  ```
  
  ### 2. 索引统计
  
  ```bash
  curl http://localhost:6002/admin/stats
  ```
  
  ### 3. 简单搜索测试
  
  ```bash
  curl -X POST http://localhost:6002/search/ \
    -H "Content-Type: application/json" \
a10a89a3   tangwang   构造测试数据用于测试分类 和 三种...
322
    -H "X-Tenant-ID: 162" \
38f530ff   tangwang   文档完善
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
    -d '{
      "query": "玩具",
      "size": 10
    }'
  ```
  
  或者通过查询参数:
  
  ```bash
  curl -X POST "http://localhost:6002/search/?tenant_id=2" \
    -H "Content-Type: application/json" \
    -d '{
      "query": "玩具",
      "size": 10
    }'
  ```
  
  ### 4. 带过滤器的搜索
  
  ```bash
  curl -X POST http://localhost:6002/search/ \
    -H "Content-Type: application/json" \
a10a89a3   tangwang   构造测试数据用于测试分类 和 三种...
345
    -H "X-Tenant-ID: 162" \
38f530ff   tangwang   文档完善
346
347
348
349
    -d '{
      "query": "玩具",
      "size": 10,
      "filters": {
cadc77b6   tangwang   索引字段名、变量名、API数据结构...
350
        "category.keyword": ["玩具", "益智玩具"]
38f530ff   tangwang   文档完善
351
352
353
354
355
356
357
358
359
360
361
362
      },
      "range_filters": {
        "price": {"gte": 50, "lte": 200}
      }
    }'
  ```
  
  ### 5. 分面搜索测试
  
  ```bash
  curl -X POST http://localhost:6002/search/ \
    -H "Content-Type: application/json" \
a10a89a3   tangwang   构造测试数据用于测试分类 和 三种...
363
    -H "X-Tenant-ID: 162" \
38f530ff   tangwang   文档完善
364
365
366
367
    -d '{
      "query": "玩具",
      "size": 10,
      "facets": [
cadc77b6   tangwang   索引字段名、变量名、API数据结构...
368
369
        {"field": "category.keyword", "size": 15},
        {"field": "vendor.keyword", "size": 15}
38f530ff   tangwang   文档完善
370
371
372
373
374
375
376
377
378
      ]
    }'
  ```
  
  ### 6. 图片搜索测试
  
  ```bash
  curl -X POST http://localhost:6002/search/image \
    -H "Content-Type: application/json" \
a10a89a3   tangwang   构造测试数据用于测试分类 和 三种...
379
    -H "X-Tenant-ID: 162" \
38f530ff   tangwang   文档完善
380
381
382
383
384
385
386
387
388
389
390
391
392
393
    -d '{
      "image_url": "https://oss.essa.cn/example.jpg",
      "size": 10
    }'
  ```
  
  ### 7. 前端界面测试
  
  访问 http://localhost:6003 或 http://localhost:6002/ 进行可视化测试。
  
  **注意**: 所有搜索接口都需要通过 `X-Tenant-ID` 请求头或 `tenant_id` 查询参数指定租户ID。
  
  ---
  
f251cf2d   tangwang   suggestion全量索引程序跑通
394
395
  ## 8. Suggestion 索引与接口使用
  
648cb4c2   tangwang   ES docs
396
  ### 8.1 构建 Suggestion 索引(全量,多环境)
f251cf2d   tangwang   suggestion全量索引程序跑通
397
398
399
400
401
402
  
  Suggestion 索引会从:
  
  - ES 商品索引:`title.{lang}`, `qanchors.{lang}`
  - MySQL 日志表:`shoplazza_search_log.query`(含 `language`、`request_params`
  
648cb4c2   tangwang   ES docs
403
  聚合生成 `{ES_INDEX_NAMESPACE}search_suggestions_tenant_{tenant_id}`
f251cf2d   tangwang   suggestion全量索引程序跑通
404
  
648cb4c2   tangwang   ES docs
405
  在项目根目录执行(以 UAT 环境、tenant_id=162 为例):
f251cf2d   tangwang   suggestion全量索引程序跑通
406
407
  
  ```bash
648cb4c2   tangwang   ES docs
408
409
410
411
412
413
414
  # 1. 切换到 UAT 配置(包含 ES_INDEX_NAMESPACE=uat_)
  cp .env.uat .env
  
  # 2. 启动索引服务(如尚未启动)
  ./scripts/start_indexer.sh
  
  # 3. 为指定租户全量重建 suggestion 索引(会删除旧索引)
f251cf2d   tangwang   suggestion全量索引程序跑通
415
416
417
418
419
420
421
  python main.py build-suggestions \
    --tenant-id 162 \
    --es-host http://localhost:9200 \
    --days 30 \
    --recreate
  ```
  
648cb4c2   tangwang   ES docs
422
423
424
  UAT 环境下,索引名为:`uat_search_suggestions_tenant_162`
  prod 环境下(ES_INDEX_NAMESPACE 为空),索引名为:`search_suggestions_tenant_162`
  
f251cf2d   tangwang   suggestion全量索引程序跑通
425
426
427
428
429
430
431
432
433
434
435
436
437
  可选参数:
  
  - `--days`:回溯日志天数(默认 30)
  - `--batch-size`:扫描商品索引的批大小(默认 500)
  - `--min-query-len`:参与 suggestion 的最小查询长度(默认 1)
  
  > 建议在商品索引构建完成、日志正常写入一段时间后执行一次全量构建,然后按天/小时增加增量构建任务。
  
  ### 8.2 调用 Suggestion 接口
  
  全量构建完成后,可直接通过 `/search/suggestions` 获取自动补全结果:
  
  ```bash
648cb4c2   tangwang   ES docs
438
  # UAT 环境(本地或 UAT 集群)
f251cf2d   tangwang   suggestion全量索引程序跑通
439
440
  curl "http://localhost:6002/search/suggestions?q=iph&size=5&language=en&with_results=true" \
    -H "X-Tenant-ID: 162"
648cb4c2   tangwang   ES docs
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
469
470
471
472
  
  # PROD 环境(域名 / 端口按实际部署调整)
  curl "https://api.yourdomain.com/search/suggestions?q=iph&size=5&language=en&with_results=true" \
    -H "X-Tenant-ID: 162"
  ```
  
  ### 8.3 商品索引构建(search_products,多环境例子)
  
  以 tenant_id=162 为例,分别在 UAT / PROD 构建商品索引。
  
  #### UAT 环境(索引前缀 uat_)
  
  ```bash
  cd /home/tw/SearchEngine
  
  # 1. 切换到 UAT 环境配置
  cp .env.uat .env
  
  # 2. 启动 indexer 服务(如尚未启动)
  ./scripts/start_indexer.sh
  
  # 3. 可选:重建索引结构(会删除旧索引)
  ./scripts/create_tenant_index.sh 162
  # 实际创建的索引名为:uat_search_products_tenant_162
  
  # 4. 导入商品数据(全量索引)
  curl -X POST "http://localhost:6004/indexer/reindex" \
    -H "Content-Type: application/json" \
    -d '{
      "tenant_id": "162",
      "batch_size": 500
    }'
f251cf2d   tangwang   suggestion全量索引程序跑通
473
474
  ```
  
648cb4c2   tangwang   ES docs
475
476
477
478
479
480
481
482
483
484
485
486
487
488
489
490
491
492
493
494
495
496
497
498
499
500
501
502
503
504
  #### PROD 环境(无前缀)
  
  ```bash
  cd /home/tw/SearchEngine
  
  # 1. 切换到 PROD 环境配置
  cp .env.prod .env
  
  # 2. 启动 indexer 服务
  ./scripts/start_indexer.sh
  
  # 3. 可选:重建索引结构(search_products_tenant_162)
  ./scripts/create_tenant_index.sh 162
  
  # 4. 导入商品数据
  curl -X POST "http://localhost:6004/indexer/reindex" \
    -H "Content-Type: application/json" \
    -d '{
      "tenant_id": "162",
      "batch_size": 500
    }'
  ```
  
  完成后:
  
  - UAT 环境商品索引:`uat_search_products_tenant_162`
  - PROD 环境商品索引:`search_products_tenant_162`
  
  两套环境的搜索 / suggestion API 调用完全一致,只是连接到各自的后端 / ES。
  
f251cf2d   tangwang   suggestion全量索引程序跑通
505
506
507
508
  接口返回结构详见 `docs/搜索API对接指南.md` 的“3.7 搜索建议接口”章节。
  
  ---
  
38f530ff   tangwang   文档完善
509
510
511
512
513
514
515
516
517
518
519
520
521
522
523
524
525
526
527
528
529
530
531
532
533
534
535
536
537
538
539
540
541
542
543
544
545
546
547
548
549
550
551
552
553
554
555
556
557
558
559
560
561
562
563
564
565
566
567
568
  ## 常见问题
  
  ### Q1: MySQL连接失败
  
  **症状**: `Failed to connect to MySQL`
  
  **解决方案**:
  ```bash
  # 检查MySQL服务状态
  mysql -h 120.79.247.228 -P 3316 -u saas -p -e "SELECT 1"
  
  # 检查配置
  cat .env | grep DB_
  ```
  
  ### Q2: Elasticsearch连接失败
  
  **症状**: `Failed to connect to Elasticsearch`
  
  **解决方案**:
  ```bash
  # 检查ES服务状态
  curl http://localhost:9200
  
  # 检查ES版本
  curl http://localhost:9200 | grep version
  
  # 确认配置
  cat .env | grep ES_
  ```
  
  ### Q3: 服务启动失败
  
  **症状**: `Address already in use` 或端口被占用
  
  **解决方案**:
  ```bash
  # 查看占用端口的进程
  lsof -i :6002  # 后端
  lsof -i :6003  # 前端
  lsof -i :9200  # ES
  
  # 杀掉进程
  kill -9 <PID>
  
  # 或修改端口配置
  ```
  
  ### Q4: 搜索无结果
  
  **症状**: 搜索返回空结果
  
  **解决方案**:
  ```bash
  # 检查ES中是否有数据
  curl http://localhost:9200/search_products/_count
  
  # 检查tenant_id过滤是否正确
  curl -X POST http://localhost:6002/search/ \
    -H "Content-Type: application/json" \
a10a89a3   tangwang   构造测试数据用于测试分类 和 三种...
569
    -H "X-Tenant-ID: 162" \
38f530ff   tangwang   文档完善
570
571
572
573
574
575
576
577
578
579
580
581
582
583
584
585
586
587
588
589
590
591
592
593
594
595
596
597
598
599
600
601
602
603
    -d '{"query": "*", "size": 10, "debug": true}'
  ```
  
  ### Q5: 前端无法连接后端
  
  **症状**: CORS错误
  
  **解决方案**:
  - 确保后端在 http://localhost:6002 运行
  - 检查浏览器控制台错误信息
  - 检查后端日志中的CORS配置
  
  ### Q6: 翻译不工作
  
  **症状**: 翻译返回原文
  
  **解决方案**:
  - 检查DEEPL_AUTH_KEY是否正确
  - 如果没有API key,系统会使用mock模式(返回原文)
  
  ---
  
  ## 相关文档
  
  - **测试数据构造文档**: `TEST_DATA_GUIDE.md` - 如何构造和导入测试数据
  - **API接口文档**: `API_INTEGRATION_GUIDE.md` - 完整的API对接指南
  - **字段说明文档**: `INDEX_FIELDS_DOCUMENTATION.md` - 索引字段详细说明
  - **设计文档**: `设计文档.md` - 系统架构和设计说明
  - **README**: `README.md` - 项目概述和快速开始
  
  ---
  
  **文档版本**: v2.0  
  **最后更新**: 2024-12