零基础入门：CentOS 9系统安装Together AI详细步骤

引言

Together AI是一个强大的开源AI平台，可以帮助开发者快速构建和部署AI应用。本文将详细介绍在CentOS 9系统上安装Together AI的完整步骤，即使是零基础的Linux用户也能轻松跟随操作。

准备工作

在开始之前，请确保：

已安装CentOS 9操作系统（最小化安装即可）
拥有sudo权限的用户账户
至少4GB内存（推荐8GB以上）
至少20GB可用磁盘空间
稳定的网络连接

第一步：系统更新与依赖安装

首先更新系统并安装必要的依赖包：

代码片段

# 更新系统软件包
sudo dnf update -y

# 安装基础开发工具和依赖
sudo dnf groupinstall "Development Tools" -y
sudo dnf install -y python3 python3-devel python3-pip git wget curl openssl-devel bzip2-devel libffi-devel make gcc gcc-c++ kernel-devel

注意事项：
– -y参数表示自动确认所有提示
– CentOS默认可能未安装pip3，如果遇到命令不存在，请先运行sudo dnf install python3-pip

第二步：安装Python虚拟环境

为避免系统Python环境被污染，我们使用虚拟环境：

代码片段

# 创建项目目录
mkdir ~/together_ai && cd ~/together_ai

# 安装virtualenv工具
python3 -m pip install --user virtualenv

# 创建虚拟环境
python3 -m virtualenv venv

# 激活虚拟环境
source venv/bin/activate

激活后，命令行提示符前会显示(venv)，表示已进入虚拟环境。

第三步：安装Together AI核心组件

在虚拟环境中执行以下命令：

代码片段

# 升级pip到最新版本
pip install --upgrade pip

# 安装Together AI核心包（请替换为实际包名）
pip install together-ai[all]

# 或者从源码安装（可选）
git clone https://github.com/togethercomputer/together-ai.git
cd together-ai && pip install -e .

实践经验：
– [all]选项会安装所有可选依赖，包括GPU支持等
– GPU用户需要额外配置CUDA驱动（本文假设使用CPU模式）

第四步：配置环境变量

创建配置文件并设置必要的环境变量：

代码片段

# 创建配置文件目录和文件
mkdir -p ~/.together && touch ~/.together/config.yaml

# 编辑配置文件（使用nano或vim）
nano ~/.together/config.yaml

添加以下内容到配置文件中：

代码片段

default:
    # API密钥（如果有的话）
    api_key: "your-api-key"

    # CPU线程数（根据实际情况调整）
    num_threads: auto

    # GPU设置（如果有GPU）
    use_gpu: false

    # 日志级别
    log_level: "info"

保存退出后设置环境变量使其生效：

代码片段

echo 'export TOGETHER_CONFIG=~/.together/config.yaml' >> ~/.bashrc
source ~/.bashrc

第五步：验证安装

运行简单的测试命令验证安装是否成功：

代码片段

python -c "import together; print(together.__version__)"

如果看到版本号输出，说明核心组件已正确安装。

第六步：运行示例程序

创建一个简单的测试脚本test_together.py：

代码片段

#!/usr/bin/env python3

import together

def main():
    # Initialize Together AI client (adjust parameters as needed)
    client = together.Together()

    # List available models (if API is configured)
    try:
        models = client.models.list()
        print("Available models:", [m.id for m in models])
    except Exception as e:
        print("Model listing failed (may need API key):", str(e))

    print("\nTogether AI installation test completed successfully!")

if __name__ == "__main__":
    main()

运行测试脚本：

代码片段

python test_together.py

常见问题解决

Python版本问题：

代码片段

# CentOS默认可能使用Python3.9，如需更高版本：
sudo dnf module install python39:3.9/common -y

# or for Python3.11:
sudo dnf module install python311:3.11/common -y

# Set alternative if needed:
sudo alternatives --config python3

缺少依赖项：

代码片段

# If you encounter missing dependencies:
sudo dnf provides */missing_library_name*

# Then install the package that provides it

GPU支持问题：

代码片段

# For NVIDIA GPU users:
sudo dnf config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/rhel9/x86_64/cuda-rhel9.repo

sudo dnf module install nvidia-driver:latest-dkms -y

sudo dnf install cuda-toolkit -y

总结

通过以上步骤，我们完成了在CentOS9系统上Together AI的完整安装流程。关键点回顾：

系统准备：更新系统并安装必要依赖项 ✔️
Python环境：使用虚拟环境隔离项目依赖 ✔️
核心组件：通过pip或源码方式安装Together AI ✔️
配置验证：设置环境变量并验证基本功能 ✔️

现在你可以开始探索Together AI的强大功能了！建议从官方文档中的示例开始尝试不同的AI模型和功能。