Yes we can: unser eigener sicherer AI-Server

Als „Frischling“ bei VIRO lebt Thomas Bruggeman in seiner idealen Welt. Er kam als AI-Enthusiast mit VIRO in Kontakt. Das Ergebnis: zunächst ein Einjahresvertrag als AI- Projektmanager. Seine Aufgabe: die Möglichkeiten der AI für VIRO zu erforschen. Am 26. September hielt er einen Vortrag auf dem IDC-AI Symposium in Enschede. Der Titel: „Offline- AI in KMU: machbar, leistungsstark und völlig privat“.

AI-Technologien wie ChatGPT und Copilot werden zunehmend in den Geschäftsalltag integriert – von der E-Mail-Verwaltung über die Erstellung von Notizen bis hin zur Suche und Generierung von Dokumenten. Diese Tools versprechen enorme Effizienzgewinne, werfen jedoch auch wichtige Fragen auf: Wie gehen wir mit sensiblen Informationen um? Können wir uns darauf verlassen, dass große Unternehmen Daten sammeln, um ihre AI-Systeme zu verbessern?

VIRO auf den Spuren der AI

„Ich war schon immer an AI interessiert und hatte mit zwei anderen Jungs ein Startup-Unternehmen. Als sie andere Prioritäten setzten, kontaktierte ich VIRO in Hengelo“, sagt Thomas. Das Timing hätte nicht besser sein können: In Hengelo war man gerade dabei, die Chancen und Möglichkeiten von AI zu erkunden. Also packte ich den Stier sofort bei den Hörnern. „Meine Arbeit untersteht direkt dem Niederlassungsleiter Jacob Vlasma. Eines meiner Projekte realisiere ich gemeinsam mit Theo de Vries von der Abteilung Software & Control. Diese Abteilung möchte wachsen – entweder durch die Einstellung neuer Mitarbeitender oder durch effizienteres Arbeiten. AI kann dabei eine entscheidende Rolle spielen, zum Beispiel durch die Rationalisierung und Automatisierung arbeitsintensiver Aufgaben wie das Schreiben von Codes und Dokumentationenen. Wir sind überzeugt, dass das möglich ist.“

Offen, geschlossen, oder beides?

Bei VIRO arbeiten wir sowohl mit offener als auch mit geschlossener Software – beide haben ihre Vorteile. Open-Source-Software ist innovativ, kann jedoch nur in begrenztem Umfang eingesetzt werden. Closed-Source-Software, etwa von Unternehmen wie Microsoft, bietet eine robustere Infrastruktur und leistungsfähigere AI-Modelle. Ohne weiter auf programmatische Details einzugehen, lässt sich sagen, dass Thomas und seine Kolleginnen und Kollegen eine wegweisende Lösung gefunden haben: Sie nutzen Open-Source-Software lokal und kombinieren sie mit den AI-Tools geschlossener Software.

Sicher, leistungsstark und skalierbar

„Basierend auf den Möglichkeiten, die wir zur Effizienzsteigerung der Prozesse bei VIRO sehen, haben wir unseren eigenen AI-Server entwickelt. Dieser läuft vollständig auf Open-Source-Software, arbeitet jedoch parallel zu geschlossenen AI-Systemen. Dadurch bleiben alle Daten innerhalb unserer Mauern, während wir dennoch die Vorteile der AI nutzen können. Die ersten Ergebnisse sind vielversprechend – das System ist leistungsfähiger als erwartet, gut skalierbar und wird kontinuierlich besser.“