Nutzung komprimierter KI-Modelle auf lokalen Geräten für vertrauenswürdige KI (Confidential AI)
VNC und Intel machen den PC zur sicheren GenAI-Maschine
Zug, 11. Dezember 2024 – VNC, führender Entwickler von Open-Source-basierten Unternehmensanwendungen, und Intel bringen generative KI endlich auf den eigenen Rechner. Die Kombination aus der neuen Prozessor-Generation von Intel, dem Tool Intel OpenVINO und der sicheren Plattform VNClagoon ermöglicht die vertrauliche Nutzung von Large Language Models (LLMs) auf dem lokalen PC oder Notebook – und macht damit unabhängig von den proprietären Plattformen der KI-Anbieter.
Eines der grössten Probleme bei der Nutzung von GenAI ist die Sicherheit und Vertraulichkeit der eigenen Daten. Die Sprachmodelle werden in der Regel über proprietäre Cloud-Plattformen der jeweiligen Anbieter bereitgestellt. Da die Daten dort auch verarbeitet werden, haben die Provider exklusiven Zugriff darauf, etwa um ihre Modelle damit weiter zu trainieren. Für sicherheitsrelevante Anwendungen, etwa im Umfeld kritischer Infrastrukturen (KRITIS), ist das ein No-Go. Aber auch datensensible Organisationen und Unternehmen brauchen andere Lösungen, um GenAI produktiv und sicher zugleich nutzen zu können – und dabei die Hoheit über ihre eigenen Daten zu behalten.
Vom Rechenzentrum auf den eigenen Rechner
Mit Hilfe von Toolkits wie Intel OpenVINO konnten LLMs bisher in das eigene Rechenzentrum geladen und dort performant genutzt werden – ein erster Schritt zu mehr Datensouveränität im Umgang mit GenAI. Für Desktop-PCs und Notebooks aber waren sie bislang zu gross und zu rechenintensiv. Durch die Kombination von VNClagoon sowie OpenVINO und der leistungsfähigen neuen Lunar-Lake-Architektur von Intel ist es jetzt möglich, die LLMs lokal signifikant zu komprimieren und in einer sicheren Sandbox-Umgebung lokal auf Intel-Rechnern zu nutzen. Alle Daten, Dokumente und Modelle können also auch offline genutzt werden. KI-Prompts werden lokal ausgeführt und sind damit ebenfalls privat.
Sichere KI auch unterwegs
Damit eröffnen sich gleichzeitig auch ganz neue Optionen zur mobilen Nutzung von GenAI, etwa für die sichere Bearbeitung vertraulicher Daten vor Ort. Local AI wird so endlich praktikabel und ist damit auch die perfekte praktische Umsetzung von Confidential AI, das die Unabhängigkeit vor unbefugten Zugriffen durch Offline-Optionen ohne funktionale Einschränkungen gewährleistet. Dadurch wird es unter anderem möglich, spezifische Daten und abgespeckte Modelle für bestimmte Einsatzgebiete, wie beispielsweise Hilfsorganisationen, Polizei oder Militär, in einer sicheren Umgebung lokal einzusetzen. Gleichzeitig wird damit auch die Einhaltung von Security- und Compliance-Vorgaben, wie beispielsweise dem EU AI Act, erleichtert.
„So unverzichtbar KI mittlerweile geworden ist, so gravierend sind bislang auch die berechtigten Sicherheitsbedenken im Umfeld kritischer Anwendungen“, erklärt Andrea Wörrlein, Geschäftsführerin von VNC in Berlin und Verwaltungsrätin der VNC AG in Zug. „Doch Local AI bringt jetzt den Durchbruch, denn es macht die KI-Nutzung unabhängig von proprietären, datenkritischen Plattformen. Damit sichert es die Datensouveränität der Nutzer. Confidential AI wird endlich Realität.“
Über VNC – Virtual Network Consult AG
VNC ist ein globales Software-Unternehmen, das Open-Source-basierte Anwendungen für die Kommunikation und Kollaboration in grossen Unternehmen entwickelt. Mit seiner weltumspannenden Entwicklergemeinde hat VNC die integrierte Produktsuite VNClagoon geschaffen, die sich durch State-of-the-Art-Technologie, universelle Nutzbarkeit, geringe TCO sowie strikteste Schutz- und Sicherheitsmassnahmen auszeichnet und so hilft, das Recht auf digitale Souveränität zu wahren. VNC positioniert sich damit als offene und sichere Alternative zu den etablierten US-Softwaregiganten. Zu den Kunden von VNC, mit Hauptstandorten in der Schweiz, Deutschland und Indien, gehören unter anderem Systemintegratoren, Finanz- und Gesundheitsdienstleister, Öffentliche Verwaltungen und Behörden, Telcos und Non-Profit-Organisationen. Weitere Informationen unter
https://vnclagoon.com, auf Twitter unter @VNCbiz sowie auf LinkedIn.
Kontakt:
Andrea Wörrlein
VNC – Virtual Network Consult AG
Poststrasse 24
CH-6302 Zug
Tel.: +41 (41) 727 52 00
aw@vnc.biz
Kathleen Hahn
PR-COM GmbH
Sendlinger-Tor-Platz 6
80336 München
Tel. +49-89-59997-763
kathleen.hahn@pr-com.de
