Raspberry Pi AI HAT+ – KI-Beschleunigung für den Pi 5

Passende Hardware im Überblick

KI-Beschleuniger für den Pi 5:
Raspberry Pi AI HAT+ mit 26 TOPS – die Empfehlung für mehrere Kameras (Link)*
Raspberry Pi AI HAT+ mit 13 TOPS – der günstige Einstieg (Link)*
Waveshare Hailo-8 als M.2-Modul – für vorhandene M.2-HATs (Link)*
Geekworm X1001 M.2-HAT – Trägerplatine für M.2-Beschleuniger (Link)*

Raspberry Pi 5 – ohne ihn läuft kein AI HAT:
Raspberry Pi 5 mit 16 GB RAM – Reserve für Frigate und Container (Link)*
Raspberry Pi 5 mit 8 GB RAM – der Sweet Spot (Link)*
Raspberry Pi 5 mit 4 GB RAM – reicht für einzelne Kamerastreams (Link)*
db-tronic Komplett-Set mit Gehäuse, Kühler und Netzteil (Link)*
iRasptek Set mit 16 GB RAM und 256 GB Speicher (Link)*

Strom und Speicher – beides wird knapp:
Offizielles 27-W-Netzteil – bei KI-Last keine Option, sondern Pflicht (Link)*
SanDisk Extreme Portable SSD 1 TB – der Systemspeicher per USB (Link)*
SanDisk Extreme Portable SSD 2 TB – für dauerhafte Aufzeichnungen (Link)*
SanDisk Extreme A2 128 GB – die Speicherkarte zum Ausprobieren (Link)*

Kameras, die vom AI HAT profitieren:
Reolink RLC-810A – 4K-PoE-Kamera für Frigate (Link)*
Reolink RLC-520A – der Preis-Leistungs-Klassiker (Link)*
Reolink Video-Türklingel mit PoE (Link)*
eufy S340 Solar – wenn kein Kabel liegt (Link)*

Kurz gesagt: Was bringt der Raspberry Pi AI HAT+?

Die Kurzfassung:

• Was es ist: Eine Aufsteckplatine mit einem Hailo-Beschleuniger, die per PCIe auf den Raspberry Pi 5 geht und neuronale Netze übernimmt, an denen die CPU scheitert.
• Wofür es gedacht ist: Bildverarbeitung in Echtzeit – Objekterkennung, Personenzählung, Segmentierung, Posenerkennung. Der Chip ist ein Spezialist für das Sehen, kein Allzweckprozessor.
• Die Varianten: AI HAT+ mit 13 TOPS (Hailo-8L) oder 26 TOPS (Hailo-8). Der neuere AI HAT+ 2 bringt einen Hailo-10H mit 40 TOPS und 8 GB eigenem Speicher mit.
• Sprachmodelle: Der klassische AI HAT+ beschleunigt sie nicht. Erst der AI HAT+ 2 kann dank eigenem Arbeitsspeicher lokale Sprach- und Bildsprachmodelle bis rund sechs Milliarden Parameter ausführen.
• Voraussetzung: Ein Pi 5 mit 64-Bit-Raspberry-Pi-OS in der Trixie-Generation, aktueller Firmware und aktiver Kühlung. Ältere Modelle haben kein PCIe und fallen komplett aus.
• Der Preis dafür: Der einzige PCIe-Anschluss ist danach belegt – eine NVMe-SSD passt nicht mehr daneben.

Raspberry Pi AI HAT – was der Hailo-Chip wirklich leistet

Der Raspberry Pi AI HAT+ löst ein sehr konkretes Problem. Eine Kamera liefert 25 oder 30 Bilder pro Sekunde, und für jedes einzelne Bild soll ein neuronales Netz entscheiden, ob darauf ein Mensch, ein Auto oder eine Katze zu sehen ist. Die vier Kerne des Pi 5 können das rechnen – nur eben nicht in dem Tempo, in dem die Bilder eintreffen. Die CPU läuft dabei am Anschlag, die Erkennung hinkt hinterher, und für andere Aufgaben bleibt nichts übrig.

Genau hier setzt eine NPU an, eine neuronale Recheneinheit. Der verbaute Hailo-Chip ist nicht universell programmierbar wie ein Prozessor, sondern führt exakt die Rechenoperationen aus, aus denen neuronale Netze bestehen – massiv parallel und mit einem Bruchteil der Energie. Das Ergebnis: Was auf der CPU im Bereich weniger Bilder pro Sekunde bleibt, läuft mit dem HAT flüssig, während die Prozessorlast fast auf den Leerlauf zurückgeht.

Technisch hängt die Platine am PCIe-Anschluss des Pi 5 und folgt der HAT+-Spezifikation. Das ist mehr als eine Formalie: Raspberry Pi OS erkennt solche Boards eigenständig, aktiviert die Schnittstelle und schaltet sie automatisch auf die höhere Übertragungsrate – ein Schritt, der beim älteren AI Kit noch von Hand nötig war. Dieses AI Kit, ein M.2 HAT+ mit vormontiertem Hailo-8L-Modul, wird nicht mehr produziert; für neue Projekte sind die AI HATs die vorgesehene Lösung.

Wichtig für die richtige Erwartung: Der Beschleuniger ist ein Auge, kein Mund. Textgeneratoren im Stil bekannter Chatdienste profitieren beim AI HAT+ nicht, weil ihnen der schnelle lokale Speicher fehlt – dafür zählen RAM und CPU des Pi, wie es der Ollama-Guide zeigt. Erst der AI HAT+ 2 mit eigenem 8-GB-Speicher ändert diese Rechnung grundlegend.

13, 26 oder 40 TOPS – welcher AI HAT passt?

Die Faustregel ist einfach: Wer eine einzelne Kamera auswerten oder das Thema erst einmal kennenlernen will, fährt mit der 13-TOPS-Variante gut. Sobald mehrere Streams gleichzeitig laufen oder größere Netze zum Einsatz kommen, ist die 26-TOPS-Version die vernünftigere Wahl – der Aufpreis fällt gegenüber dem Gesamtaufbau kaum ins Gewicht. Der AI HAT+ 2 spielt in einer eigenen Liga und lohnt sich vor allem, wenn lokale Sprachmodelle das eigentliche Ziel sind. Alle drei setzen zwingend einen Pi 5 voraus; ein aktiver Kühler gehört in jedem Fall darunter.

Raspberry Pi AI HAT einrichten – Schritt für Schritt

1. Kamera zuerst anschließen: Wenn ein Kameramodul zum Einsatz kommt, gehört es vor dem HAT montiert – danach ist der Anschluss schlecht erreichbar.
2. Aktiven Kühler aufsetzen: Schutzfolie von den Wärmeleitpads abziehen, die weißen Halteclips in die vorgesehenen Löcher drücken und den Lüfterstecker in die kleine JST-Buchse setzen. Der AI HAT+ 2 bringt zusätzlich einen eigenen Kühlkörper mit, der auf die Platine kommt.
3. HAT montieren: Pi vom Strom trennen. Abstandshalter mit den langen Schrauben befestigen, den GPIO-Stacking-Header aufsetzen, dann das PCIe-Flachbandkabel in den Pi einführen – die Kontakte zeigen nach innen, in Richtung der USB-Buchsen. Anschließend die Platine mit den kurzen Schrauben sichern und das Kabel auch dort verriegeln.
4. System aktualisieren: sudo apt update, danach sudo apt full-upgrade -y und sudo rpi-eeprom-update -a, dann neu starten. Vorausgesetzt wird ein 64-Bit-Raspberry-Pi-OS der Trixie-Generation.
5. Treiber installieren: sudo apt install dkms, danach für AI Kit und AI HAT+ das Sammelpaket sudo apt install hailo-all. Für den AI HAT+ 2 heißt das Paket stattdessen hailo-h10-all. Beide lassen sich nicht gleichzeitig installieren.
6. Neu starten und prüfen: Nach dem Neustart meldet hailortcli fw-control identify Firmware-Version und Chip-Architektur. Stehen bei Seriennummer und Produktname nur Platzhalter, ist das bei den AI HATs normal und kein Fehler. Zusätzlich zeigt dmesg | grep -i hailo, ob der Treiber sauber geladen wurde.
7. Kamera-Software nachziehen: sudo apt update && sudo apt install rpicam-apps installiert die Kamerawerkzeuge samt der Hailo-Nachbearbeitungsstufen. Ein rpicam-hello öffnet für fünf Sekunden ein Vorschaufenster – erscheint es, stimmt die Kette vom Sensor bis zum Beschleuniger.

Die ersten KI-Projekte mit rpicam-apps

Der schnellste Weg zum Erfolgserlebnis führt über die mitgelieferten Nachbearbeitungsstufen. Sie liegen als fertige Konfigurationsdateien unter /usr/share/rpi-camera-assets/ und werden einfach an den Kamerabefehl gehängt. Der Schalter -t 0 lässt die Vorschau dauerhaft offen, -n schaltet sie ganz ab, und -v 2 gibt die Treffer als Text im Terminal aus – praktisch für den Betrieb ohne Bildschirm.

Dieselben Stufen funktionieren auch mit rpicam-vid für Aufnahmen und rpicam-still für Einzelbilder. Wer lieber programmiert, greift zu Picamera2, das den Beschleuniger ebenfalls ansprechen kann – von dort ist es kein weiter Weg zum Vogelhaus-Zähler, zur Paketbenachrichtigung oder zur Parkplatzüberwachung. Eigene Netze lassen sich mit Hailos Werkzeugkette in das hauseigene Format übersetzen und genauso einbinden.

Frigate mit Hailo – das stärkste Argument für den AI HAT

Wenn es ein Projekt gibt, das die Anschaffung allein rechtfertigt, dann ist es Frigate. Die Überwachungssoftware analysiert jeden Kamerastream und meldet nur dann, wenn tatsächlich ein Mensch, ein Fahrzeug oder ein Tier im Bild ist – statt bei jedem Ast, der sich im Wind bewegt. Genau diese Erkennung ist die Aufgabe, die Frigate an einen Detektor auslagert, und der Hailo-8 beziehungsweise Hailo-8L ist offiziell als solcher eingebunden.

Die Einrichtung ist erfreulich unspektakulär: In der Konfiguration wird der Detektortyp auf Hailo gesetzt, den Rest erkennt die Software selbst. Ist kein eigenes Modell angegeben, lädt Frigate beim ersten Start ein passendes aus dem Hailo Model Zoo und legt es im Zwischenspeicher ab – danach läuft alles vollständig offline. Wer eigene Netze trainiert hat, hinterlegt sie als Datei oder Adresse.

In Verbindung mit Home Assistant entsteht daraus eine Anlage, die kommerziellen Systemen wenig schuldig bleibt: Personenerkennung an der Haustür, Benachrichtigung mit Schnappschuss, Aufzeichnung nur bei echten Ereignissen – lokal, ohne Abo und ohne Cloud. Für den Aufbau der Kameraseite lohnt der Blick in den Ratgeber zur Überwachungskamera. Wichtig ist dabei nur eines: Aufzeichnungen gehören auf eine SSD, nicht auf eine Speicherkarte.

Sprachmodelle lokal: Was der AI HAT+ 2 ändert

Die häufigste Enttäuschung beim klassischen AI HAT+ war stets dieselbe: Er beschleunigt keine Sprachmodelle. Der Grund ist kein Rechenmangel, sondern fehlender Speicher – der Hailo-8 greift auf den Arbeitsspeicher des Pi zu, und Sprachmodelle brauchen ihre Gewichte in unmittelbarer Nähe der Recheneinheit.

Der AI HAT+ 2 bringt deshalb 8 GB eigenen Speicher mit. Damit passen Modelle bis in die Größenordnung von sechs Milliarden Parametern direkt auf die Karte, und der Pi kann Sprach- sowie Bildsprachmodelle lokal ausführen. Der Weg dorthin ist mehrstufig: Zuerst kommt das Paket hailo-h10-all, danach das Debian-Paket des Gen-AI-Modellzoos, das die vorbereiteten Modelle mitbringt. Bedient wird das Ganze über einen lokalen Server, der eine REST-Schnittstelle bereitstellt – Anfragen lassen sich also direkt aus eigenen Skripten stellen.

Für eine bequeme Oberfläche kommt Open WebUI dazu, das sich mit diesem Server verbindet und die gewohnte Chat-Ansicht im Browser liefert. Es läuft dabei in einem Docker-Container, weil es mit der Python-Version des aktuellen Raspberry Pi OS nicht direkt zusammenarbeitet. Das Ergebnis ist ein Sprachassistent, der das Haus nicht verlässt – ein Anwendungsfall, der auf dem Pi bis vor Kurzem schlicht nicht praktikabel war und der im Überblick zu KI auf dem Raspberry Pi eingeordnet wird.

Fehler und Stolpersteine

• Falsche Erwartung an den Chip: Der AI HAT+ beschleunigt Bildverarbeitung, keine Textgenerierung. Wer lokale Sprachmodelle sucht, braucht den AI HAT+ 2 oder mehr RAM im Pi.
• Falsches Board: Ohne PCIe-Anschluss geht nichts. Pi 4, Pi 400, Zero und alle älteren Modelle scheiden aus, ebenso jedes 32-Bit-System.
• Paketkonflikt: hailo-all und hailo-h10-all können nicht nebeneinander bestehen. Wer vom AI HAT+ auf den AI HAT+ 2 wechselt, muss das alte Paket zuerst entfernen.
• Versionen passen nicht zusammen: Treiber, Laufzeitumgebung und Nachbearbeitungsbibliothek müssen dieselbe Generation haben. Modelle aus fremden Anleitungen setzen manchmal eine bestimmte Version voraus – dann hilft ein gezieltes Festhalten der Paketversionen.
• Wärme unterschätzt: Beschleuniger und Prozessor stecken übereinander in einem sehr kleinen Volumen. Ohne aktive Kühlung drosselt der Pi unter Dauerlast, und die Bildrate sinkt.
• Zu schwaches Netzteil: Der HAT zieht spürbar zusätzlichen Strom. Erfahrungswerte für den kompletten Aufbau unter KI-Last liegen im niedrigen zweistelligen Wattbereich – ein improvisiertes Handynetzteil führt zu Abstürzen mitten in der Erkennung.
• PCIe-Port verplant: Nach der Montage ist kein Steckplatz mehr für eine NVMe-SSD frei. Das System läuft dann besser per USB-Boot von einer externen SSD.

Häufige Fragen zum Raspberry Pi AI HAT

Läuft der AI HAT auch am Raspberry Pi 4?
Nein. Der Beschleuniger hängt am PCIe-Anschluss, den ausschließlich der Pi 5 besitzt. Für ältere Modelle bleiben nur USB-Beschleuniger, die deutlich langsamer sind und andere Software voraussetzen.

Was ist der Unterschied zwischen AI Kit und AI HAT+?
Das AI Kit war ein M.2 HAT+ mit vormontiertem Hailo-8L-Modul und entspricht der 13-TOPS-Variante. Es wird nicht mehr produziert; der AI HAT+ trägt den Chip direkt auf der Platine und ist die aktuelle Lösung.

Brauche ich zwingend ein Raspberry-Pi-Kameramodul?
Für die mitgelieferten Demos ja, weil diese auf die Kamerawerkzeuge des Systems aufsetzen. Frigate arbeitet dagegen mit ganz normalen Netzwerkkameras und nutzt den Beschleuniger trotzdem.

Kann ich NVMe-SSD und AI HAT gleichzeitig nutzen?
Nicht an demselben Anschluss. Es existieren Kombiboards mit PCIe-Switch, allerdings unterstützen nicht alle Geräte diese Betriebsart. Der unkomplizierte Weg ist ein Systemstart von einer USB-SSD.

Wie viele Kameras schafft die 26-TOPS-Variante?
Das hängt an Auflösung, Bildrate und gewähltem Netz. Als Orientierung gilt: Die 13-TOPS-Version ist auf ein bis zwei Streams ausgelegt, die 26-TOPS-Version verkraftet mehrere parallel oder deutlich größere Modelle.

Funktionieren eigene, selbst trainierte Modelle?
Ja. Netze lassen sich mit Hailos Werkzeugkette in das hauseigene Format übersetzen und anschließend in Frigate oder in eigene Programme einbinden. Fertige Netze stehen im Model Zoo des Herstellers bereit.

Lohnt sich der AI HAT für reine Hausautomation?
Nur, wenn Kameras im Spiel sind. Schaltlogik, Sensoren und Automationen laufen auf dem Pi ohnehin ohne Beschleuniger – der HAT zahlt sich erst dort aus, wo Bilder ausgewertet werden.

Fazit

Der Raspberry Pi AI HAT+ ist keine Spielerei, sondern die Komponente, die den Pi 5 vom Bastelrechner zur ernsthaften Kamera-KI-Maschine macht: Echtzeit-Objekterkennung bei minimalem Verbrauch, vollständig lokal und ohne monatliche Gebühren. Unsere klare Empfehlung: Wer den HAT wegen Frigate kauft – und das ist der häufigste und beste Grund –, sollte direkt zur 26-TOPS-Variante greifen. Der Aufpreis gegenüber der 13-TOPS-Version ist der kleinste Posten im Gesamtaufbau, verdoppelt aber den Spielraum bei Kameras und Modellgrößen; genau dieser Spielraum entscheidet später darüber, ob eine dritte Kamera noch dazupasst. Zum AI HAT+ 2 sollte greifen, wer lokale Sprachmodelle als eigentliches Ziel hat. Und eine Erwartung sollte man von Anfang an korrigieren: Der Beschleuniger macht den Pi nicht allgemein schneller – er macht ihn sehend.

* = Affiliate Link (raspi-config.de ist Teilnehmer des Partnerprogramms von Amazon EU, das zur Bereitstellung eines Mediums für Websites konzipiert wurde, mittels dessen durch die Platzierung von Werbeanzeigen und Links zu Amazon.de Werbekostenerstattung verdient werden kann.)