Kostenlos starten Demo buchen Kontakt
Deutsch|Englisch
Plattform-Login
Private KI

Private KI: Sprachmodelle auf Ihrer eigenen Infrastruktur

Evoya AI betreibt Large Language Models dort, wo Ihre Daten bleiben müssen: im eigenen Rechenzentrum, in einer dedizierten Schweizer Cloud oder auf souveräner EU-Infrastruktur. Sie nutzen moderne KI, ohne die Kontrolle über Ihre Daten abzugeben.

Projekt besprechen Referenzen ansehen

Was ist Private KI?

Private KI bedeutet, dass Sprachmodelle (LLMs) in einer Umgebung laufen, die Ihre Organisation kontrolliert: auf eigenen Servern, in einer dedizierten Private Cloud in der Schweiz oder auf souveräner Infrastruktur in der EU. Eingaben, Dokumente und Ergebnisse verlassen diesen Bereich nicht und werden nicht für das Training fremder Modelle verwendet.

Möglich machen das offene Modelle, deren Gewichte frei verfügbar sind, etwa Llama von Meta, Mistral, Qwen oder das Schweizer Modell Apertus. Apertus wurde laut ETH Zürich im September 2025 von EPFL, ETH Zürich und dem Nationalen Hochleistungsrechenzentrum CSCS veröffentlicht, ist vollständig offen dokumentiert und berücksichtigt auch Schweizerdeutsch und Rätoromanisch.

Evoya AI aus Uster plant, baut und betreibt solche Lösungen für Schweizer Unternehmen und Organisationen. Wir liefern nicht nur ein Modell auf einem Server, sondern fertige Anwendungen: Suche und Assistenten über Ihre internen Daten, KI-Agenten und Integrationen in Ihre bestehenden Systeme.

Vorteile

Warum Private KI für Ihr Unternehmen

Private KI lohnt sich überall dort, wo Daten besonders schützenswert sind oder wo Sie nicht von einem einzelnen Cloud-Anbieter abhängig sein wollen.

Volle Datenhoheit

Daten werden ausschliesslich in der von Ihnen gewählten Umgebung verarbeitet. Sie bestimmen Standort, Zugriff und Aufbewahrung.

Compliance erleichtert

Ein kontrollierter Verarbeitungsort vereinfacht die Einhaltung von DSG, DSGVO und Berufsgeheimnis. Zugriffe durch ausländische Behörden oder Anbieter lassen sich weitgehend ausschliessen.

Unabhängig vom Anbieter

Offene Modelle lassen sich austauschen, ohne die Anwendung neu zu bauen. Preisänderungen oder Richtlinien eines einzelnen Anbieters betreffen Sie nicht direkt.

KI auf internem Wissen

Mit Retrieval-Augmented Generation (RAG) beantwortet das Modell Fragen auf Basis Ihrer Dokumente. Berechtigungen aus Ihren Systemen bleiben dabei erhalten.

Anpassbar an Ihre Fachsprache

Modelle können auf Ihre Begriffe, Formate und Abläufe abgestimmt werden. So entstehen Ergebnisse, die zu Ihrer Branche passen.

Planbare Betriebskosten

Bei eigener oder dedizierter Hardware zahlen Sie nicht pro Anfrage. Bei hohem, gleichmässigem Volumen werden die Kosten dadurch besser kalkulierbar.

Einsatzbereiche

Wann Private KI nötig ist

Nicht jede Anwendung braucht ein eigenes Modell. In diesen Situationen ist Private KI oft die sauberste Lösung.

Gesundheitswesen und Psychiatrie

Gesprächsprotokolle, Berichte und Patientendaten unterliegen dem Arztgeheimnis. Transkription und Berichtserstellung laufen vollständig in der Schweiz.

Verwaltungen und öffentliche Hand

Gemeinden, Kantone und öffentliche Institutionen bearbeiten Personendaten von Bürgerinnen und Bürgern. Private KI hält diese Daten in einer kontrollierten Umgebung.

Anwaltskanzleien, Notariate und Treuhand

Mandatsdaten fallen unter das Berufsgeheimnis nach Art. 321 StGB. Ein Modell im eigenen Netz vermeidet, dass solche Daten an externe Dienste gehen.

Banken, Versicherungen und Finanzdienstleister

Kundendaten und interne Analysen bleiben innerhalb der eigenen Sicherheitszone. Das erleichtert die Abstimmung mit internen Richtlinien und Aufsichtsvorgaben.

Industrie und Forschung

Konstruktionsdaten, Rezepturen und Entwicklungsunterlagen sind geistiges Eigentum. Private KI analysiert sie, ohne dass sie das Unternehmen verlassen.

Geschäftsprozesse mit Kundendokumenten

Bestellungen, Verträge und E-Mails enthalten vertrauliche Angaben. KI-Agenten verarbeiten sie automatisch und übergeben die Ergebnisse an ERP oder CRM.

Vorgehen

So setzen wir Private KI um

Wir beginnen beim Anwendungsfall, nicht bei der Hardware. Daraus ergibt sich, welches Modell und welche Infrastruktur sinnvoll sind.

  1. 1

    Anforderungen und Datenklassen klären

    Wir klären, welche Daten verarbeitet werden, welche rechtlichen Vorgaben gelten und welche Aufgaben die KI übernehmen soll. Daraus leiten wir den nötigen Schutzbedarf ab.

  2. 2

    Betriebsmodell und Modell wählen

    Wir empfehlen eigenes Rechenzentrum, Swiss Private Cloud oder souveräne EU-Infrastruktur und testen passende offene Modelle mit Ihren Beispieldaten.

  3. 3

    Anwendung entwickeln

    Wir bauen die Lösung mit KI als festem Bestandteil: RAG über Ihre Dokumente, Agenten, Oberflächen und Schnittstellen zu Ihren Systemen. KI-gestützte Entwicklung macht diese Projekte spürbar schneller als klassische Softwareprojekte.

  4. 4

    Installation und Inbetriebnahme

    Wir richten Modellserver, Zugriffsrechte, Protokollierung und Monitoring ein. Anschliessend testen wir Qualität, Antwortzeiten und Sicherheit im Echtbetrieb.

  5. 5

    Betrieb und Weiterentwicklung

    Neue Modellversionen erscheinen laufend. Wir prüfen Updates, spielen sie kontrolliert ein und entwickeln die Anwendung mit Ihnen weiter.

Technologie

Modelle, Infrastruktur und Bausteine

Wir kombinieren bewährte offene Technologien. Die Auswahl richtet sich nach Aufgabe, Sprache, Datenmenge und Ihrer IT-Umgebung.

Offene Sprachmodelle

  • Apertus (Swiss AI Initiative)
  • Mistral
  • Llama (Meta)
  • Qwen
  • Gemma (Google)

Betriebsmodelle

  • Eigenes Rechenzentrum (On-Premise)
  • Dedizierte Swiss Private Cloud
  • Souveräne EU-Infrastruktur
  • Hybrid mit Cloud-Modellen für unkritische Daten

Anwendungsbausteine

  • Retrieval-Augmented Generation (RAG)
  • Vektordatenbanken
  • KI-Agenten mit APIs und MCP
  • Transkription inkl. Schweizerdeutsch
  • Fine-Tuning und Adapter

Betrieb und Sicherheit

  • GPU-Server und Inferenz-Server
  • Rollen und Berechtigungen (Active Directory)
  • Protokollierung und Monitoring
  • Kontrollierte Modell-Updates
Warum Evoya AI

Ihr Partner für Private KI in der Schweiz

Eigene KI-Plattform

Evoya AI betreibt eine eigene Plattform mit über 30 Sprachmodellen, darunter Schweizer Open-Source-Modelle. Der Verarbeitungsort ist wählbar: Schweiz, EU, USA oder On-Premise.

Schweizer Hosting als Standard

Standardmässig hosten wir in ISO-27001-zertifizierten Schweizer Rechenzentren. Wir arbeiten DSG- und DSGVO-konform, mit Zero Data Retention und ohne Training mit Ihren Eingaben.

Erfahrung aus Schweizer Softwareprojekten

Unser Team bringt über 25 Jahre Erfahrung in Softwareprojekten für Schweizer Unternehmen mit. CTO Martin Bachmann verantwortet Entwicklung und KI-Innovation.

Umgesetzte Projekte mit Datenhoheit

Für die Integrierte Psychiatrie Winterthur läuft die Datenverarbeitung zu 100 % in der Schweiz. Für ASTORtec arbeitet Mistral auf souveräner EU-Infrastruktur.

Häufige Fragen

Private KI bezeichnet den Betrieb von Sprachmodellen in einer Umgebung, die eine Organisation selbst kontrolliert, etwa im eigenen Rechenzentrum oder in einer dedizierten Private Cloud. Die Daten verlassen diese Umgebung nicht und werden nicht für das Training fremder Modelle genutzt. Grundlage sind meist offene Modelle wie Mistral, Llama, Qwen oder Apertus.

Private KI ist sinnvoll, wenn besonders schützenswerte Daten verarbeitet werden, etwa Gesundheitsdaten, Mandatsdaten unter Berufsgeheimnis oder Geschäftsgeheimnisse. Sie lohnt sich auch bei hohem, gleichmässigem Anfragevolumen oder wenn Unabhängigkeit von einzelnen Anbietern wichtig ist. Für viele andere Aufgaben reicht eine sorgfältig konfigurierte Schweizer Cloud-Lösung.

Ja. Offene Modelle lassen sich auf eigenen GPU-Servern betreiben und über eine interne Schnittstelle nutzen. Die benötigte Hardware hängt von Modellgrösse, Anzahl Nutzender und gewünschter Antwortzeit ab. Evoya AI klärt diese Anforderungen im Projekt und richtet Modellserver, Zugriffsrechte und Monitoring ein.

Die grössten kommerziellen Modelle sind bei komplexen Aufgaben meist noch stärker. Für klar umrissene Unternehmensaufgaben wie Zusammenfassen, Klassifizieren, Extrahieren oder Antworten auf Basis interner Dokumente erreichen aktuelle offene Modelle oft eine gute Qualität. Wir testen deshalb vor dem Entscheid mit Ihren eigenen Beispieldaten.

Ja. Laut EDÖB ist das geltende Datenschutzgesetz direkt auf KI-gestützte Datenbearbeitungen anwendbar. Private KI erleichtert die Einhaltung, weil Verarbeitungsort, Zugriffe und Aufbewahrung in Ihrer Hand liegen. Transparenz gegenüber betroffenen Personen und dokumentierte Zwecke bleiben trotzdem nötig.

Das Berufsgeheimnis nach Art. 321 StGB verbietet die Offenbarung anvertrauter Geheimnisse, nicht den Einsatz von Werkzeugen. Bei Cloud-Diensten sind jedoch Verträge, Zugriffsrisiken und Hilfspersonen sorgfältig zu prüfen. Läuft das Modell im eigenen Netz oder in einer kontrollierten Schweizer Umgebung, verlassen die Daten den geschützten Bereich nicht.

Der EU AI Act regelt KI-Systeme nach ihrem Einsatzzweck, nicht nach dem Betriebsort. Er betrifft Schweizer Unternehmen, wenn sie KI-Systeme in der EU anbieten oder deren Ergebnisse dort genutzt werden. Private KI ändert die Pflichten also nicht, erleichtert aber Dokumentation, Protokollierung und Kontrolle.

Das vereinbaren wir je nach Betriebsmodell. Evoya AI kann Betrieb, Monitoring und Modell-Updates übernehmen oder Ihr IT-Team dafür befähigen. Neue Modellversionen werden vor dem Einsatz mit Ihren Anwendungsfällen getestet und kontrolliert eingespielt.

Private KI für Ihre Organisation planen

Schildern Sie uns Ihren Anwendungsfall und Ihre Datenanforderungen. Wir zeigen Ihnen, welches Betriebsmodell und welches Sprachmodell zu Ihnen passen.

Projekt besprechen Erstgespräch buchen