KI ohne Internetverbindung

• Die On-Device-Vektordatenbanken ermöglicht KI-Anwendungen, die ohne Internetverbindung funktionieren, und sorgt so für mehr Geschwindigkeit und größeren Datenschutz

• Ermöglichung neuer KI-Anwendungsfälle an abgelegenen Orten oder dort, wo eine schnelle Datenverarbeitung erforderlich ist, z. B. bei Fahrassistenzsystemen, medizinischen Diensten oder der industriellen Automatisierung

• Ein großer Schritt um CO2-Emissionen von KI-Anwendungen zu reduzieren

Das Berliner Deeptech-Startup ObjectBox stellt die erste Vektordatenbank vor, die direkt auf dem Gerät („On-Device“) funktioniert. Sie unterstützt alle Gerätetypen, von Smartphones, Alltagsgadgets und IoT-Geräten bis hin zu Mikrocontrollern, Industriemaschinen und medizinischen Apparaten. Dieser Durchbruch ermöglicht schnelle, universell zugängliche Anwendungen der Künstlichen Intelligenz (KI), ohne dass eine ständige Internet- oder Cloud-Verbindung erforderlich ist und ohne Datenschutzbedenken.

Vektordatenbanken sind für die moderne KI von entscheidender Bedeutung. Sie speichern Vektoreinbettungen von unstrukturierten Daten wie Bildern, Videos und Text effizient und machen sie auf diese Weise auffindbar. Bisherige Vektordatenbanken laufen ausschließlich in der Cloud oder auf leistungsstarken Servern.

Die einzigartige Architektur von ObjectBox ermöglicht stattdessen den direkten Einsatz auf einer Vielzahl von Geräten, auch „on the edge“ genannt. Diese Fähigkeit ist entscheidend für den Einsatz in abgelegenen Gebieten oder Situationen, in denen eine schnelle Datenverarbeitung unerlässlich ist, wie beispielsweise bei Fahrerassistenzsystemen, medizinischen Diensten oder der industriellen Automatisierung. Es ist auch ein echter “Game Changer” für Endkunden-Apps, deren Nutzer jederzeit einen zuverlässigen Betrieb erwarten, unabhängig davon, ob es Internet gibt oder nicht.

Die Vektorensuche direkt auf dem Gerät bringt eine Reihe von Vorteilen mit sich. Dazu gehören extrem niedrige Latenzzeiten, kontinuierliche Verfügbarkeit auch im Offline-Betrieb, geringere Bandbreitenanforderungen, niedrigere Kosten und personalisierte Antworten von großen Sprachmodellen (LLMs). Darüber hinaus verbessert dieser Ansatz den Datenschutz, indem er sicherstellt, dass sensible Informationen auf dem Gerät gespeichert und nicht an andere Stellen übertragen werden. Nicht zuletzt werden durch die Verringerung unnötiger Datenübertragungen zwischen der Cloud und den Endgeräten erhebliche CO2-Emissionen eingespart, was zu mehr Nachhaltigkeit in der KI führt.

ObjectBox läuft nicht nur direkt auf Edge-Geräten, sondern kann auch in jeder Cloud, vor Ort oder am Rand des Netzwerks betrieben werden. Diese Flexibilität sorgt nicht nur für optimale Leistung und verbesserte Sicherheit, sondern auch für Kosteneffizienz, da unnötige Cloud-Nutzung reduziert wird. Für Unternehmen bedeutet dies eine bessere Kontrolle über ihre Betriebskosten und die Möglichkeit, den Datenschutz effektiver zu verwalten.

„Mit dieser Erweiterung in den Bereich der Vektordatenbanken machen wir einen großen Schritt, um KI für alle, zu jeder Zeit und überall verfügbar zu machen. Dies ist ein entscheidender Durchbruch und wird definieren, wie KI in Zukunft funktioniert“, sagt Vivien Dollinger, Mitbegründerin und CEO von ObjectBox.

„Die Effizienz und Geschwindigkeit von ObjectBox on-device ist wirklich beeindruckend und wir sind begeistert von der neuen Vector-Erweiterung. Sie hat das Potenzial, die Art und Weise zu definieren, wie KI auf allen Geräten da draußen eingesetzt und betrieben wird“, sagt Henry Thasler, Vehicle Data Collection Onboard bei BMW.

###

Hintergrund – Konventionelle vs. On-Device-Vektordatenbanken:  
Jede moderne KI braucht Vektordatenbanken. Sie speichern effizient Vektoreinbettungen, also numerische Darstellungen von unstrukturierten Daten wie Texten, Bildern, Videos oder Audiodateien. Man kann sie sich als komprimierte Zusammenfassung vorstellen, die das Wesentliche und die Bedeutung der Daten auf eine Weise erfasst, die für KI-Modelle effizient zu verstehen, zu nutzen und zu durchsuchen ist.

Befeuert von der Popularität generativer KI-Anwendungen erlebt der Markt daher eine Flut von Start-ups, Finanzierungen und Vektorerweiterungen für konventionelle Datenbanken. Alle diese Vektordatenbanklösungen erfordern die Cloud oder einen leistungsstarken Serverbetrieb.

Cloud-basierte KI hat jedoch erhebliche Nachteile: ständige Internetabhängigkeit, Latenzprobleme, die Echtzeitanwendungen behindern, Datenschutzprobleme aufgrund der Datenübertragung außerhalb des Geräts und hoher Energieverbrauch für Verarbeitung und Bandbreite. Für eine Zukunft der jederzeit verfügbaren, klimafreundlichen künstlichen Intelligenz ist die On Device KI daher die einzig praktikable Lösung für eine breite Akzeptanz. Mit der Veröffentlichung der ObjectBox-Vektordatenbank für Geräte steht Entwicklern ein wichtiger Teil des Edge-KI-Technologiestacks zur Verfügung – für KI überall und zu jeder Zeit.

Weitere Informationen finden Sie unter https://objectbox.io.