Ein eigener Chip für die Vektorsuche: Dnotitia bringt RAG direkt ins Speichersystem

Dnotitia hat seinen ersten Vector Data Processing Unit genannten Chip öffentlich gezeigt. Der VDPU sitzt auf einer Beschleunigerkarte und übernimmt Suchoperationen für Vektordatenbanken. Damit sollen Prozessoren weniger Daten bewegen und weniger Rechenzeit für die Suche in großen Dokumentbeständen aufwenden müssen. Die Hardware gehört zur Seahorse-Plattform des Unternehmens. Diese verbindet Dokumentverarbeitung, Wissensverwaltung, Vektorsuche und die Anbindung von KI-Modellen. Dnotitia richtet das System vor allem an Unternehmen, die Retrieval-Augmented Generation auf eigener Infrastruktur betreiben möchten.

Vektorsuche wird zum eigenen Hardwareproblem

Bei klassischer Suche werden Wörter, Dateinamen oder Datenbankfelder miteinander verglichen. Moderne KI-Systeme wandeln Texte, Bilder oder andere Inhalte zusätzlich in Zahlenvektoren um. Inhalte mit ähnlicher Bedeutung liegen in diesem mathematischen Raum näher beieinander. Eine Suchanfrage wird ebenfalls in einen Vektor umgerechnet. Die Datenbank sucht anschließend nach den ähnlichsten gespeicherten Vektoren. Dafür muss sie große Mengen numerischer Daten vergleichen und geeignete Nachbarn bestimmen. Bei kleinen Datenbeständen lässt sich das problemlos auf einer CPU ausführen. Mit Millionen oder Milliarden Einträgen steigen Rechenaufwand und Speicherverkehr. Die Daten müssen aus dem Massenspeicher in den Arbeitsspeicher und anschließend zu den Recheneinheiten transportiert werden. Dnotitias VDPU soll diese Arbeit näher am gespeicherten Datenbestand erledigen. Der Chip ist für Vektorsuche und Graph Traversal ausgelegt. Graphen werden bei vielen Näherungssuchverfahren verwendet, um schnell von einem Kandidaten zum nächsten zu gelangen, ohne jeden einzelnen Vektor vollständig vergleichen zu müssen. Der Hersteller nennt zwei Ziele: Die Host-CPU soll weniger belastet werden, und unnötige Datenbewegungen sollen sinken. Das Prinzip entspricht anderen spezialisierten Beschleunigern. Statt große Datenmengen zu einer universellen CPU zu übertragen, bearbeitet eine spezialisierte Einheit einen klar abgegrenzten Teil der Aufgabe.

Ob daraus ein messbarer Vorteil entsteht, hängt vom gesamten System ab. Der VDPU benötigt schnellen Zugriff auf die Vektoren, eine passende Indexstruktur und Software, die Suchaufträge ohne großen Verwaltungsaufwand übergibt. Werden Ergebnisse häufig zwischen Karte, Arbeitsspeicher und CPU kopiert, kann ein Teil des Vorteils verloren gehen. Dnotitia entwickelt Chip und Datenbank gemeinsam. Dieses Hardware-Software-Co-Design erlaubt es, Datenformate, Suchalgorithmen und Speicherzugriffe aufeinander abzustimmen. Der Hersteller beschreibt noch nicht, welche Indexverfahren vollständig im VDPU laufen und welche Aufgaben weiterhin die CPU übernimmt. Technische Eckdaten des Chips fehlen. Dnotitia nennt weder Fertigungsverfahren noch Recheneinheiten, Speicherausstattung, PCIe-Version, Leistungsaufnahme oder maximale Zahl verarbeiteter Vektoren pro Sekunde. Auch die Größe und Kühlung der Beschleunigerkarte werden nicht spezifiziert. Die Vorstellung ist deshalb eine Architekturankündigung, kein vollständiger Produktstart. Unternehmen können erkennen, welche Aufgabe der Chip übernimmt. Ein Vergleich mit GPU-, CPU- oder FPGA-basierten Vektorsuchen ist anhand der veröffentlichten Daten noch nicht möglich.

Seahorse verarbeitet mehr als reine Vektoren

Die Seahorse-Plattform soll Unternehmensdokumente in durchsuchbares Wissen umwandeln. Dazu analysiert die Software nach Angaben von Dnotitia Dokumentstrukturen wie Seitenlayouts, Tabellen, Diagramme und inhaltliche Beziehungen. Die Suche kombiniert semantische Verfahren mit Methoden, die konkrete Begriffe, Zahlen und Vertragsklauseln finden sollen. Diese Verbindung ist wichtig, weil eine reine Ähnlichkeitssuche nicht jede Unternehmensfrage zuverlässig beantwortet. Bei einer allgemeinen Frage kann semantische Nähe ausreichen. Sucht ein Nutzer nach einer exakten Vertragsnummer, einem Geldbetrag oder einer bestimmten Formulierung, muss das System präzise Textstellen erkennen. Dnotitia beschreibt Seahorse deshalb als Verbindung aus Vektorsuche und gezielter Suche nach konkreten Angaben. Gefundene Inhalte werden mit ihrer ursprünglichen Quelle verknüpft. Anwender sollen nachvollziehen können, auf welchem Dokument eine KI-Antwort basiert. Diese Rückverfolgbarkeit ist bei internen Richtlinien, Verträgen, technischen Unterlagen und regulierten Daten wichtiger als eine möglichst frei formulierte Antwort. Der Hersteller veröffentlicht keine Messwerte zur Erkennungsqualität von Tabellen, Diagrammen oder komplexen Layouts. Ebenso fehlen Vergleichstests zur Genauigkeit der Suchergebnisse. Die Funktionsbeschreibung zeigt den vorgesehenen Arbeitsablauf, ersetzt aber keinen Test mit realen Unternehmensdaten. Retrieval-Augmented Generation erweitert ein Sprachmodell um externe Informationen.

Eine Anfrage wird zunächst an ein Suchsystem übergeben. Dieses liefert relevante Dokumentstellen, die anschließend zusammen mit der Frage an das Sprachmodell gehen. Eine alleinstehende Vektordatenbank deckt nur einen Teil dieses Ablaufs ab. Dokumente müssen eingelesen, zerlegt, bereinigt und in Vektoren umgewandelt werden. Änderungen in den Quelldaten müssen synchronisiert werden. Zugriffsrechte und Versionen müssen ebenfalls erhalten bleiben. Dnotitia bündelt diese Schritte in Seahorse. Die Plattform enthält laut Hersteller Dokumentverarbeitung, Wissensverwaltung, Retrieval und die Verbindung zu KI-Diensten. Das reduziert die Zahl separater Systeme, die ein Unternehmen selbst zusammenstellen und betreiben muss. Das Unternehmen bietet zusätzlich eine Cloud-Variante mit Modellhosting, visueller Pipeline-Erstellung und automatisierter Optimierung an. Seahorse Cloud soll unterschiedliche Speicherquellen und Datentypen einbinden. Containerisierte Dienste und Kubernetes bilden die technische Grundlage der Cloud-Architektur. Der VDPU ist für diesen Softwarestapel vorgesehen, muss aber nicht jede Stufe beschleunigen. Das Erzeugen von Embeddings, das Analysieren von Dokumenten und die eigentliche Sprachmodell-Inferenz können auf anderen Prozessoren laufen. Dnotitia ordnet den Chip ausdrücklich der Vektorsuche und dem Durchlaufen von Graphstrukturen zu.

On-Premises und abgeschottete Netzwerke

Seahorse lässt sich laut Hersteller in der Cloud, im eigenen Rechenzentrum und in vollständig vom Internet getrennten Umgebungen betreiben. Solche Air-Gapped-Systeme werden eingesetzt, wenn Daten das interne Netzwerk nicht verlassen dürfen. Für Unternehmen mit vertraulichen Dokumenten kann die lokale Verarbeitung ein entscheidender technischer Faktor sein. Daten müssen nicht an einen externen KI-Dienst übertragen werden, und die Organisation kontrolliert Speicherort, Zugriffsrechte und Protokollierung. Lokaler Betrieb löst die Sicherheitsfrage allerdings nicht automatisch. Die Plattform benötigt weiterhin Authentifizierung, Rollenmodelle, Verschlüsselung, Aktualisierungen und eine kontrollierte Verbindung zu den ursprünglichen Dokumentquellen. Dnotitia nennt auf seiner Produktseite Verschlüsselung während Übertragung und Speicherung, Single Sign-on, detaillierte Zugriffskontrollen und Audit-Protokolle. Konkrete Zertifizierungen oder unabhängige Sicherheitsprüfungen werden dort nicht ausgewiesen. Die Beschleunigerkarte kann in solchen Umgebungen einen praktischen Vorteil haben. Rechenleistung für die Suche bleibt im eigenen Server, und es ist kein externer Vektorsuchdienst erforderlich. Voraussetzung ist, dass die Karte in die vorhandene Serverplattform integriert und von der Betriebssoftware verwaltet werden kann. RAG-Systeme speichern neben den Originaldokumenten zusätzliche Daten. Dazu gehören Textabschnitte, Embeddings, Metadaten, Suchindizes und teilweise mehrere Versionen derselben Quelle. Große Bestände verursachen deshalb mehr Speicherbedarf, als die ursprünglichen Dateien vermuten lassen. Die Kosten entstehen außerdem nicht nur durch Kapazität. Jede Suchanfrage benötigt Rechenzeit, Speicherbandbreite und Datenübertragungen. Bei vielen gleichzeitigen Nutzern kann die Vektorsuche einen erheblichen Teil der Serverressourcen beanspruchen.

Dnotitia wirbt auf seiner Produktseite mit bis zu zehnfacher Geschwindigkeit und einer Verringerung der Gesamtbetriebskosten um 80 Prozent. Die sichtbare Seite nennt jedoch keine vollständige Testkonfiguration, Datensatzgröße oder Vergleichshardware. Diese Zahlen sind daher Herstellerangaben und kein allgemein übertragbarer Leistungswert. Der VDPU könnte die Kosten senken, wenn eine Karte mehrere CPU-Server ersetzt oder bei gleichem Stromverbrauch wesentlich mehr Suchanfragen verarbeitet. Ohne Preis, Leistungsaufnahme und unabhängige Benchmarks lässt sich dieser Effekt noch nicht berechnen. Seahorse AI Storage erhielt bei der FMS eine Auszeichnung in der Kategorie AI Application. Dnotitia wurde außerdem als Finalist in einer Kategorie für das Wachstum junger Unternehmen ausgewählt. Eine Messeauszeichnung bewertet ein Konzept oder Produkt nach den Regeln der jeweiligen Jury. Sie ist kein standardisierter Benchmark. Der Preis liefert deshalb keinen Nachweis für eine bestimmte Latenz, Suchgenauigkeit oder Energieeffizienz. Für die technische Bewertung des VDPU fehlen vor allem vier Angaben: reale Suchleistung, Stromverbrauch, unterstützte Indexverfahren und Verhalten bei wachsenden Datensätzen. Zusätzlich ist offen, wann die Beschleunigerkarte verfügbar wird und ob Dnotitia sie direkt verkauft oder über Speicherhersteller integriert. Das Unternehmen sucht Partner für die Integration in Speichersysteme, gemeinsame Produktentwicklung, Machbarkeitsstudien und Vermarktung. Der Chip könnte damit später als Karte, als Bestandteil eines Servers oder als Komponente eines Speichersystems erscheinen. Der relevante technische Schritt liegt in der Aufgabenverteilung. Vektorsuche wird nicht mehr ausschließlich als Datenbanksoftware behandelt, sondern als eigener Hardware-Workload. Ob sich dieser Ansatz gegenüber schnellen CPUs und GPUs durchsetzt, hängt von den noch fehlenden Messwerten und Integrationskosten ab.