云信AI部署

HuggingFace最新版本在树莓派的安装与配置教程

云信安装大师
90
AI 质量分
10 5 月, 2025
3 分钟阅读
0 阅读

HuggingFace最新版本在树莓派的安装与配置教程

引言

HuggingFace是目前最流行的自然语言处理(NLP)库之一，提供了大量预训练模型和便捷的API。本文将详细介绍如何在树莓派上安装和配置最新版本的HuggingFace Transformers库，让你的树莓派也能跑起来AI模型！

准备工作

在开始之前，请确保你的树莓派满足以下要求：

  • 树莓派4B或更高版本（推荐4GB内存以上）
  • Raspberry Pi OS（64位版本）已安装
  • Python 3.8或更高版本
  • 至少5GB可用存储空间（用于安装依赖和模型）

检查系统信息

首先，让我们确认一下系统信息：

代码片段 
# 查看系统架构
uname -m

# 查看Python版本
python3 --version

# 查看pip版本
pip3 --version

输出应该类似：

代码片段 
aarch64      # 表示是64位系统
Python 3.9.2 # Python版本应≥3.8
pip 21.2.4   # pip版本最好是最新的

安装步骤

1. 更新系统和软件包

首先更新系统软件包以确保我们使用最新的依赖：

代码片段 
sudo apt update && sudo apt upgrade -y

2. 安装必要的依赖项

HuggingFace Transformers需要一些系统级的依赖：

代码片段 
sudo apt install -y python3-pip python3-dev libatlas-base-dev libopenblas-dev libjpeg-dev zlib1g-dev

这些依赖包括：
– python3-pip：Python包管理器
– python3-dev：Python开发头文件
– libatlas-base-dev：优化过的线性代数库
– libopenblas-dev：另一个优化的线性代数库
– libjpeg-dev和zlib1g-dev：图像处理相关库

3. 创建虚拟环境（推荐）

为了避免污染系统Python环境，我们创建一个虚拟环境：

代码片段 
python3 -m venv hf_env
source hf_env/bin/activate

你的命令行提示符前应该会出现(hf_env)，表示已激活虚拟环境。

4. 安装PyTorch for ARM64

由于树莓派使用ARM架构，我们需要安装专门为ARM编译的PyTorch：

代码片段 
pip install torch==1.12.0 torchvision==0.13.0 --extra-index-url https://download.pytorch.org/whl/cpu/torch_stable.html

注意事项：
– PyTorch官方不提供ARM架构的wheel包，所以我们使用社区维护的版本
– --extra-index-url指定了PyTorch的特殊下载源

5. 安装HuggingFace Transformers

现在可以安装HuggingFace Transformers了：

代码片段 
pip install transformers[sentencepiece]

sentencepiece是可选的，但建议安装以支持更多模型。

6. 验证安装

让我们运行一个简单的测试来验证安装是否成功：

代码片段 
from transformers import pipeline

# 使用一个小型的情感分析模型（适合树莓派性能）
classifier = pipeline('sentiment-analysis', model='distilbert-base-uncased-finetuned-sst-2-english')

result = classifier("I love using HuggingFace on my Raspberry Pi!")
print(result)

如果一切正常，你应该看到类似这样的输出：

代码片段 
[{'label': 'POSITIVE', 'score': 0.9998}]

常见问题解决

Q1: PyTorch安装失败怎么办？

如果PyTorch安装失败，可以尝试以下替代方案：

代码片段 
# For Python 3.9:
wget https://github.com/Qengineering/PyTorch-Raspberry-Pi-OS-64bit/raw/main/torch-1.10.0-cp39-cp39-linux_aarch64.whl
pip install torch-1.10.0-cp39-cp39-linux_aarch64.whl

# For Python 3.8:
wget https://github.com/Qengineering/PyTorch-Raspberry-Pi-OS-64bit/raw/main/torch-1.10.0-cp38-cp38-linux_aarch64.whl 
pip install torch-1.10.0-cp38-cp38-linux_aarch64.whl

Q2: RAM不足导致进程被终止？

树莓派内存有限，可以尝试以下方法：
1. 使用更小的模型（如distilbert、tinybert等）
2. 增加交换空间：

代码片段 
sudo dphys-swapfile swapoff && \
sudo dphys-swapfile setup && \
sudo dphys-swapfile swapon && \
free -h # check swap space now shows ~2G total available memory.

GPU加速（可选）

如果你的树莓派有GPU（如Raspberry Pi的VideoCore IV），可以尝试启用硬件加速：

代码片段 
sudo apt install -y libatlas-base-dev libopenblas-dev libblas-dev libhdf5-dev libc-ares-dev libeigen3-dev gfortran libgfortran5 libsz2 liblapack-dev libopenblas-dev libatlas-base-dev mpi-default-dev openmpi-bin openmpi-doc python3-mpi4py cython python3-yaml python3-h5py python3-numpy python3-scipy python3-sklearn python3-sklearn-lib python3-matplotlib python3-pandas python-protobuf protobuf-compiler protobuf-compiler-grpc cmake pkg-config ocl-icd-opencl-dev clinfo oclgrind clpeak g++ git cmake make python3-pip python-pip llvm llvm-runtime build-essential zlib1g zlib1g-dev libncurses5 libncurses5-dev libffi6 libffi-dev gnupg flex bison openssl openssl-tool openssl-dev perl-modules

然后重新编译PyTorch以获得GPU支持。

Python代码示例：运行小型NLP任务

下面是一个完整的示例代码，展示如何在树莓派上运行一个轻量级的NLP任务：

代码片段 
from transformers import pipeline, AutoTokenizer, AutoModelForSequenceClassification

# Step1: Load a small model suitable for Raspberry Pi (DistilBERT is a good choice)
model_name = "distilbert-base-uncased-finetuned-sst-2-english"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)

# Step2: Create a text classification pipeline (sentiment analysis)
classifier = pipeline("sentiment-analysis", model=model, tokenizer=tokenizer)

# Step3: Test with some sample text (keep sentences short to save memory)
results = classifier([
    "I love my Raspberry Pi!",
    "This tutorial is very helpful.",
    "The installation was a bit tricky but worth it."
])

# Step4: Print results with confidence scores formatted nicely 
for i, result in enumerate(results):
    print(f"Text {i+1}:")
    print(f"Label: {result['label']}")
    print(f"Confidence: {result['score']:.4f}")
    print("-" *30)

这个例子展示了：
1. 模型选择：使用轻量级的DistilBERT模型而非原始BERT模型以节省资源。
2.内存管理：通过限制输入文本长度来控制内存使用。
3.结果展示：格式化输出以便于阅读和理解。

总结与最佳实践回顾

成功在树莓派上运行HuggingFace的关键点:

  • 硬件准备:

    • 确保使用RaspberryPi4B(推荐4GB/8GB型号)
    • 考虑添加散热片或风扇防止过热降频

  • 软件选择:

    • 必须使用64位操作系统(32位会有兼容性问题)
    • 推荐Python≥v9.x以获得最佳性能

  • 模型选择技巧:

    代码片段 
    #适合树莓派的轻量级模型列表示例:
small_models=[
    "distilbert-base",        #约67MB 
    "mobilebert",             #约100MB 
    "albert-tiny",            #约22MB 
    "tinyroberta"             #约33MB 
]

  • 性能优化建议:

    代码片段 
    from transformers import AutoConfig 

#加载时关闭不需要的特性以节省内存  
config=AutoConfig.from_pretrained(
    model_name,
    output_attentions=False,     #不计算注意力权重  
    output_hidden_states=False,   #不输出所有隐藏状态  
    torchscript=True             #启用脚本优化  
)

model=AutoModel.from_pretrained(model_name,config=config)

  • 长期维护提示:
    定期清理缓存(位于~/.cache/huggingface):

    代码片段 
    du-sh~/.cache/huggingface/#先检查大小  
rm-rf~/.cache/huggingface/*      #谨慎操作!

通过本教程,你现在应该已经成功在树莓派上搭建了HuggingFace环境。虽然性能无法与高端GPU相比,但足以运行许多有趣的NLP实验和小型应用。Happy hacking!

原创 高质量