b401ef94
 tangwang
third-party/xinfe...
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
|
# Xinference 环境配置指南
独立的 Conda 环境用于运行 Xinference 客户端和演示脚本。
## 📋 快速开始
### 方法1：一键安装和配置（推荐）
```bash
cd /data/tw/SearchEngine/third-party/xinference
# 1. 创建环境
bash setup_env.sh
# 2. 设置快捷别名
bash setup_alias.sh
# 3. 使配置生效
source ~/.bashrc # 或 source ~/.zshrc
# 4. 激活环境
xinference-env
```
### 方法2：手动配置
```bash
# 1. 创建环境
conda create -n xinference python=3.10 -y
# 2. 激活环境
conda activate xinference
# 3. 安装依赖
pip install xinference-client numpy requests
# 4. 运行演示
python ecommerce_demo.py
```
## 🚀 快捷命令
配置别名后，可以使用以下快捷命令：
| 命令 | 说明 |
|------|------|
| `xinference-env` | 激活环境并切换到 Xinference 目录 |
| `xinference-activate` | 仅激活 Xinference 环境 |
| `xinference-cd` | 切换到 Xinference 目录 |
## 📦 已安装的包
- `xinference-client` - Xinference 客户端库
- `numpy` - 数值计算库
- `requests` - HTTP 请求库
## 💡 使用示例
### 激活环境后运行演示
```bash
# 方式1: 使用快捷命令
xinference-env
python ecommerce_demo.py
# 方式2: 手动激活
conda activate xinference
python ecommerce_demo.py
# 方式3: 使用激活脚本
source activate.sh
python ecommerce_demo.py
```
### 部署模型
```bash
# 确保环境已激活
xinference-env
# 运行部署脚本
python deploy_models.py
```
### 运行简单测试
```bash
xinference-env
python ecommerce_demo.py --simple
```
## 🛠️ 脚本说明
| 脚本 | 说明 |
|------|------|
| `setup_env.sh` | 创建 Xinference Conda 环境 |
| `setup_alias.sh` | 设置 Shell 快捷别名 |
| `activate.sh` | 快速激活环境的脚本 |
| `start.sh` | 启动 Xinference Docker 服务 |
## 🔧 环境管理
### 更新环境
```bash
conda activate xinference
pip install --upgrade xinference-client numpy
```
### 删除环境
```bash
conda env remove -n xinference -y
```
### 查看已安装的包
```bash
conda activate xinference
pip list
```
## 📝 注意事项
1. **Docker 服务**：Xinference 服务本身运行在 Docker 中，不需要 Python 环境
2. **客户端**：Python 环境仅用于运行客户端脚本（如 `ecommerce_demo.py`）
3. **独立环境**：使用独立环境避免与其他项目的依赖冲突
## 🐛 故障排除
### 问题：找不到 xinference-client
```bash
# 重新安装
conda activate xinference
pip install xinference-client --force-reinstall
```
### 问题：环境激活失败
```bash
# 初始化 conda
conda init bash
source ~/.bashrc
# 然后再激活
conda activate xinference
```
### 问题：快捷命令不生效
```bash
# 手动添加别名到 ~/.bashrc
echo 'alias xinference-env="source /data/tw/SearchEngine/third-party/xinference/activate.sh"' >> ~/.bashrc
source ~/.bashrc
```
## 📚 相关文档
- [Xinference 官方文档](https://inference.readthedocs.io/)
- [电商搜索演示](ecommerce_demo.py)
- [模型部署脚本](deploy_models.py)
|