Xinference 快速使用指南

✅ 环境已配置完成！

您的 xinference conda 环境已创建并配置好了所有依赖。

🚀 快速开始

方式1：使用快捷命令（推荐）

在新的终端窗口中：

# 首次使用需要重新加载配置
source ~/.bashrc

# 然后就可以直接使用快捷命令
xinference-env

# 运行演示
python ecommerce_demo.py

方式2：手动激活

# 激活环境
conda activate xinference

# 运行演示
python ecommerce_demo.py

方式3：使用激活脚本

# 切换到目录
cd /data/tw/SearchEngine/third-party/xinference

# 使用激活脚本
source activate.sh

# 运行演示
python ecommerce_demo.py

📝 可用命令

快捷命令	说明
xinference-env	激活环境并切换到 Xinference 目录
xinference-activate	仅激活 xinference 环境
xinference-cd	切换到 Xinference 目录

🧪 测试环境

激活环境后，运行以下命令测试：

python -c "from xinference_client import RESTfulClient; print('✅ 环境配置成功！')"

应该显示：✅ 环境配置成功！

🔧 环境信息

• 环境名: xinference
• Python 版本: 3.10.19
• 已安装包:
  • xinference-client 1.15.0
  • numpy 2.2.6
  • requests 2.32.5

📚 下一步

1. 启动 Xinference 服务（如果还没启动）:

   bash start.sh
   

2. 部署模型:

   xinference-env
   python deploy_models.py
   

3. 运行演示:

   xinference-env
   python ecommerce_demo.py
   

4. 退出环境:

   conda deactivate
   

🐛 常见问题

问题1：快捷命令不生效

# 重新加载配置
source ~/.bashrc

# 或者打开新的终端窗口

问题2：找不到 xinference_client

# 确认环境已激活
conda activate xinference

# 检查安装
pip list | grep xinference

# 如果没有，重新安装
pip install xinference-client

问题3：启动脚本找不到命令

确保使用正确的 Python 环境：

# 激活环境后再运行
conda activate xinference
python ecommerce_demo.py

💡 提示

• Xinference 服务运行在 Docker 中（端口 9997/9998）
• Python 环境仅用于运行客户端脚本
• 使用 xinference-env 快捷命令最方便

详细文档请参考: ENV_SETUP.md