b401ef94
tangwang
third-party/xinfe...
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
|
# Xinference 快速使用指南
## ✅ 环境已配置完成!
您的 **xinference** conda 环境已创建并配置好了所有依赖。
## 🚀 快速开始
### 方式1:使用快捷命令(推荐)
在新的终端窗口中:
```bash
# 首次使用需要重新加载配置
source ~/.bashrc
# 然后就可以直接使用快捷命令
xinference-env
# 运行演示
python ecommerce_demo.py
```
### 方式2:手动激活
```bash
# 激活环境
conda activate xinference
# 运行演示
python ecommerce_demo.py
```
### 方式3:使用激活脚本
```bash
# 切换到目录
cd /data/tw/SearchEngine/third-party/xinference
# 使用激活脚本
source activate.sh
# 运行演示
python ecommerce_demo.py
```
## 📝 可用命令
| 快捷命令 | 说明 |
|---------|------|
| `xinference-env` | 激活环境并切换到 Xinference 目录 |
| `xinference-activate` | 仅激活 xinference 环境 |
| `xinference-cd` | 切换到 Xinference 目录 |
## 🧪 测试环境
激活环境后,运行以下命令测试:
```bash
python -c "from xinference_client import RESTfulClient; print('✅ 环境配置成功!')"
```
应该显示:`✅ 环境配置成功!`
## 🔧 环境信息
- **环境名**: xinference
- **Python 版本**: 3.10.19
- **已安装包**:
- xinference-client 1.15.0
- numpy 2.2.6
- requests 2.32.5
## 📚 下一步
1. **启动 Xinference 服务**(如果还没启动):
```bash
bash start.sh
```
2. **部署模型**:
```bash
xinference-env
python deploy_models.py
```
3. **运行演示**:
```bash
xinference-env
python ecommerce_demo.py
```
4. **退出环境**:
```bash
conda deactivate
```
## 🐛 常见问题
### 问题1:快捷命令不生效
```bash
# 重新加载配置
source ~/.bashrc
# 或者打开新的终端窗口
```
### 问题2:找不到 xinference_client
```bash
# 确认环境已激活
conda activate xinference
# 检查安装
pip list | grep xinference
# 如果没有,重新安装
pip install xinference-client
```
### 问题3:启动脚本找不到命令
确保使用正确的 Python 环境:
```bash
# 激活环境后再运行
conda activate xinference
python ecommerce_demo.py
```
## 💡 提示
- Xinference 服务运行在 Docker 中(端口 9997/9998)
- Python 环境仅用于运行客户端脚本
- 使用 `xinference-env` 快捷命令最方便
详细文档请参考: [ENV_SETUP.md](ENV_SETUP.md)
|