# Xinference 环境配置指南 独立的 Conda 环境用于运行 Xinference 客户端和演示脚本。 ## 📋 快速开始 ### 方法1:一键安装和配置(推荐) ```bash cd /data/tw/SearchEngine/third-party/xinference # 1. 创建环境 bash setup_env.sh # 2. 设置快捷别名 bash setup_alias.sh # 3. 使配置生效 source ~/.bashrc # 或 source ~/.zshrc # 4. 激活环境 xinference-env ``` ### 方法2:手动配置 ```bash # 1. 创建环境 conda create -n xinference python=3.10 -y # 2. 激活环境 conda activate xinference # 3. 安装依赖 pip install xinference-client numpy requests # 4. 运行演示 python ecommerce_demo.py ``` ## 🚀 快捷命令 配置别名后,可以使用以下快捷命令: | 命令 | 说明 | |------|------| | `xinference-env` | 激活环境并切换到 Xinference 目录 | | `xinference-activate` | 仅激活 Xinference 环境 | | `xinference-cd` | 切换到 Xinference 目录 | ## 📦 已安装的包 - `xinference-client` - Xinference 客户端库 - `numpy` - 数值计算库 - `requests` - HTTP 请求库 ## 💡 使用示例 ### 激活环境后运行演示 ```bash # 方式1: 使用快捷命令 xinference-env python ecommerce_demo.py # 方式2: 手动激活 conda activate xinference python ecommerce_demo.py # 方式3: 使用激活脚本 source activate.sh python ecommerce_demo.py ``` ### 部署模型 ```bash # 确保环境已激活 xinference-env # 运行部署脚本 python deploy_models.py ``` ### 运行简单测试 ```bash xinference-env python ecommerce_demo.py --simple ``` ## 🛠️ 脚本说明 | 脚本 | 说明 | |------|------| | `setup_env.sh` | 创建 Xinference Conda 环境 | | `setup_alias.sh` | 设置 Shell 快捷别名 | | `activate.sh` | 快速激活环境的脚本 | | `start.sh` | 启动 Xinference Docker 服务 | ## 🔧 环境管理 ### 更新环境 ```bash conda activate xinference pip install --upgrade xinference-client numpy ``` ### 删除环境 ```bash conda env remove -n xinference -y ``` ### 查看已安装的包 ```bash conda activate xinference pip list ``` ## 📝 注意事项 1. **Docker 服务**:Xinference 服务本身运行在 Docker 中,不需要 Python 环境 2. **客户端**:Python 环境仅用于运行客户端脚本(如 `ecommerce_demo.py`) 3. **独立环境**:使用独立环境避免与其他项目的依赖冲突 ## 🐛 故障排除 ### 问题:找不到 xinference-client ```bash # 重新安装 conda activate xinference pip install xinference-client --force-reinstall ``` ### 问题:环境激活失败 ```bash # 初始化 conda conda init bash source ~/.bashrc # 然后再激活 conda activate xinference ``` ### 问题:快捷命令不生效 ```bash # 手动添加别名到 ~/.bashrc echo 'alias xinference-env="source /data/tw/SearchEngine/third-party/xinference/activate.sh"' >> ~/.bashrc source ~/.bashrc ``` ## 📚 相关文档 - [Xinference 官方文档](https://inference.readthedocs.io/) - [电商搜索演示](ecommerce_demo.py) - [模型部署脚本](deploy_models.py)