Künstliche Intelligenz: Begriff, Risiken und Governance im IT-Betrieb

Künstliche Intelligenz (KI) umfasst Verfahren, mit denen Software Regeln aus Daten ableitet, statt sie vollständig vorgegeben zu bekommen, und auf dieser Grundlage Prognosen, Empfehlungen, Texte oder Entscheidungen erzeugt. Ihre Ergebnisse sind statistisch begründet. Sie können zutreffen, ohne dass sich im Einzelfall genau sagen lässt, warum.

Für Organisationen in der Schweiz ist deshalb weniger die Technik die Kernfrage als die Kontrolle: Wer verantwortet ein KI-Ergebnis, wie wird es geprüft, wo liegen die Daten, und lässt sich später belegen, was passiert ist? Eine KI-spezifische Gesetzgebung gibt es in der Schweiz bisher nicht. Das Datenschutzgesetz gilt aber direkt, und für Finanzinstitute hat die FINMA ihre Erwartungen formuliert.

Das Wichtigste in Kürze

• Begriff: KI reicht von lernenden Klassifikationsmodellen bis zu grossen Sprachmodellen. Gemeinsam ist ihnen, dass Ergebnisse aus Daten abgeleitet und nicht fest programmiert sind.
• Recht: Das DSG ist technologieneutral und auf KI-gestützte Datenbearbeitungen direkt anwendbar. Der EU AI Act kann Schweizer Unternehmen erfassen, wenn die Ausgabe eines KI-Systems in der EU verwendet wird.
• Governance: Inventar, Risikoklassifizierung, Tests, Dokumentation und unabhängige Prüfung bilden das Gerüst, das die FINMA beschreibt. Es eignet sich auch ausserhalb des Finanzsektors.
• Betrieb: Im IT-Service-Management gehören Modelle, Prompts und Wissensquellen unter das Change Management wie jede andere Konfiguration.

Stand: November 2026 · Fachlich abgeglichen mit dem DSG (Fedlex), der Stellungnahme des EDÖB zu KI und Datenschutz, der FINMA-Aufsichtsmitteilung 08/2024, den Informationen des Bundesamts für Justiz und der EU-KI-Verordnung (Quellen am Ende des Artikels)

Wie KI zu Ergebnissen kommt

Ein klassisches Programm liefert bei gleicher Eingabe immer dieselbe Ausgabe, und die Regel dafür steht im Code. Ein KI-Verfahren dagegen wurde mit Beispielen trainiert und schätzt das wahrscheinlichste Ergebnis. Für Kontrollen bedeutet das: Man prüft nicht eine Regel, sondern das Verhalten eines Modells über viele Fälle.

Drei Familien von Verfahren

• Regelbasierte Systeme: Expertenwissen in Wenn-dann-Regeln. Vollständig nachvollziehbar, aber starr. Enge Definitionen zählen sie nicht mehr zur KI. Die FINMA erwartet dennoch eine ausreichend breite Definition, weil auch klassische Anwendungen ähnliche Risiken aufweisen können und gleiche Risiken gleich zu behandeln sind.
• Maschinelles Lernen: Modelle, die aus beschrifteten oder unbeschrifteten Daten Zusammenhänge lernen, etwa um Tickets einer Kategorie zuzuordnen oder ungewöhnliche Anmeldungen zu erkennen.
• Deep Learning und generative KI: Vielschichtige neuronale Netze, darunter grosse Sprachmodelle. Sie erzeugen Texte, fassen Dokumente zusammen und beantworten Fragen. Ihre innere Begründung ist nur eingeschränkt erklärbar.

Modellrisiken, die eine Kontrolle kennen muss

Die FINMA nennt als Modellrisiken mangelnde Robustheit, Korrektheit, Bias und Erklärbarkeit. Dazu kommt die Datendrift: Ein Modell, das auf Tickets von 2024 trainiert wurde, kennt die Systeme nicht, die 2026 eingeführt wurden, und wird schleichend schlechter. Bei Sprachmodellen tritt ein weiteres Risiko hinzu. Sie formulieren auch dann überzeugend, wenn sie keine Grundlage haben.

Ein verbreitetes Gegenmittel ist die Bindung an geprüfte Quellen (Retrieval-Augmented Generation). Das System sucht zuerst passende Dokumente, etwa in der Wissensdatenbank, und lässt das Sprachmodell nur daraus antworten. Für die Nachvollziehbarkeit ist das ein Gewinn, weil sich jede Antwort auf eine Quelle zurückführen lässt. Es verschiebt die Verantwortung aber auf die Pflege dieser Quellen.

Rechtsrahmen für KI in der Schweiz

Das Bundesamt für Justiz hält fest, dass es in der Schweiz aktuell keine spezifische KI-Gesetzgebung gibt. Der Bundesrat hat am 12. Februar 2025 das EJPD beauftragt, bis Ende 2026 eine Vernehmlassungsvorlage zu erarbeiten. Sie soll Transparenz, Datenschutz, Nichtdiskriminierung und Aufsicht umfassen und der Schweiz die Ratifizierung der KI-Konvention des Europarats ermöglichen. Bis dahin gelten die bestehenden Regeln.

Der EDÖB betont, dass Personen bei Sprachmodellen das Recht haben zu erfahren, ob sie mit einer Maschine kommunizieren und ob ihre Eingaben weiterverwendet werden, etwa zur Verbesserung des Modells. Für einen Service-Chatbot heisst das: Kennzeichnung, Information über die Weiterverwendung und eine Möglichkeit, an einen Menschen zu gelangen.

Wer Kundinnen oder Kunden in der EU bedient, sollte ausserdem prüfen, ob der AI Act greift. Angenommen, der Chatbot einer Schweizer Versicherung beantwortet auch Fragen von Versicherten in Deutschland: Dann ist die Frage nach dem AI Act konkret.

KI-Governance im Service Management

Die FINMA-Aufsichtsmitteilung 08/2024 beschreibt, was sie bei Beaufsichtigten beobachtet und beurteilt hat. Die Gliederung lässt sich ohne Weiteres auf den IT-Betrieb übertragen, auch für Organisationen, die nicht der FINMA unterstehen.

1. Inventar: Ein zentral geführtes Verzeichnis aller KI-Anwendungen, auch der eingekauften. Die FINMA stellte fest, dass Institute bei externen Lösungen teils nicht wussten, ob überhaupt KI enthalten ist. Im ITSM liegt es nahe, KI-Funktionen als Konfigurationselemente in der CMDB zu führen.
2. Risikoklassifizierung: Nach Wesentlichkeit und Eintrittswahrscheinlichkeit. Ein Vorschlag für die Ticketkategorie wiegt weniger als eine automatische Antwort an Kundinnen und Kunden.
3. Datenqualität: Vorgaben, damit Trainings- und Wissensdaten vollständig, korrekt und aktuell sind. Die FINMA hält fest, dass die Datenqualität oft wichtiger ist als die Wahl des Modells.
4. Tests und Überwachung: Vorab festgelegte Kennzahlen, Schwellenwerte und die Auswertung von Fällen, in denen Mitarbeitende einen KI-Vorschlag verworfen oder korrigiert haben.
5. Dokumentation und Change: Zweck, Datenquellen, Annahmen, Grenzen und Rückfallebene festhalten. Neue Modellversionen, geänderte Prompts oder zusätzliche Wissensquellen laufen über das Change Management.
6. Unabhängige Prüfung: Wer eine KI-Anwendung einführt, sollte sie nicht selbst abnehmen. Vier-Augen-Prinzip wie bei anderen kritischen Änderungen.

Datenhaltung klären

Bei jeder KI-Funktion gehören vier Fragen in die Lieferantenprüfung: Wo wird das Modell betrieben, welche Daten verlassen die eigene Umgebung, werden Eingaben gespeichert oder zum Training genutzt, und welche Unterauftragnehmer sind beteiligt? Ist der Betriebsstandort der Kernanwendung geklärt, gilt das noch nicht automatisch für angebundene KI-Dienste.

Was ky2help^® dazu beiträgt

ky2help^® lässt sich als SaaS oder On-Premises betreiben, als eigene Instanz in einem Rechenzentrum in der Schweiz oder in Deutschland. Der Funktionsumfang umfasst automatische Historisierung, ein integriertes Daten-Audit und revisionssichere Dokumentation, KYBERNA ist nach ISO/IEC 27001 zertifiziert. Der KI-Supportagent liefert Lösungsvorschläge und passende Problem-Tickets, der Chatbot «Apptiva Klar» des Schweizer Partners Apptiva übergibt ungelöste Anfragen an Mitarbeitende und legt Tickets mit dem Chatverlauf an. Dass sich HR-Prozesse mit ky2help^® lückenlos nachvollziehen, dokumentieren und archivieren lassen, beschreibt etwa das Personalamt des Kantons Thurgau.

Branche Finanz ansehen

Risiken nach Priorität

Die Reihenfolge folgt der Frage, welcher Schaden zuerst eintritt und am schwersten wiegt. Sie ersetzt keine eigene Risikobeurteilung.

Priorität 1: Datenabfluss über nicht freigegebene Werkzeuge

Mitarbeitende kopieren Ticketinhalte mit Personendaten oder Kundendaten in frei zugängliche KI-Dienste. Gegenmittel sind eine Liste freigegebener Werkzeuge, klare Datenregeln und technische Sperren, wo nötig.

Priorität 2: Falsche Antworten mit Aussenwirkung

Ein Chatbot gibt Kundinnen und Kunden eine falsche Auskunft zu Fristen, Kosten oder Sicherheitseinstellungen. Antworten nach aussen nur aus geprüften Quellen, mit Kennzeichnung und mit einem einfachen Weg zu einem Menschen.

Priorität 3: Manipulation über Eingaben

Versteckte Anweisungen in E-Mails, Tickets oder Dokumenten können ein Sprachmodell zu unerwünschten Aktionen bringen (Prompt Injection). KI-Funktionen sollten nur die Rechte erhalten, die sie für ihre Aufgabe brauchen, und keine Aktionen ohne Bestätigung ausführen.

Priorität 4: Abhängigkeit von Drittanbietern

Die FINMA verweist auf die steigende Abhängigkeit von Anbietern von Modellen und Cloud-Diensten in einem zunehmend konzentrierten Markt. Für wesentliche Anwendungen braucht es Vertragsklauseln zu Verantwortung und Haftung sowie eine Rückfallebene, falls ein Dienst ausfällt oder sich ändert.

Priorität 5: Fehlende Nachweise

Wenn sich nach einem Vorfall nicht mehr belegen lässt, welche Modellversion mit welchen Quellen eine Antwort erzeugt hat, fehlt die Grundlage für Aufarbeitung und Prüfung. Versionen, Konfigurationen und Freigaben gehören deshalb ins Änderungsprotokoll.

Häufige Fragen zu KI und Governance

Was ist Künstliche Intelligenz?

Künstliche Intelligenz bezeichnet Verfahren, mit denen Software Zusammenhänge aus Daten ableitet und daraus Prognosen, Empfehlungen, Texte oder Entscheidungen erzeugt. Dazu gehören maschinelles Lernen, Deep Learning und generative KI wie grosse Sprachmodelle.

Gilt der EU AI Act für Schweizer Unternehmen?

Er kann gelten. Nach Art. 2 Abs. 1 lit. c erfasst er Anbieter und Betreiber in Drittländern, wenn die Ausgabe des KI-Systems in der EU verwendet wird. Wer KI-Systeme in der EU in Verkehr bringt, fällt ebenfalls darunter. Rein schweizerische Anwendungen ohne EU-Bezug erfasst er nicht.

Ist das Datenschutzgesetz auf KI anwendbar?

Ja. Der EDÖB hält fest, dass das DSG technologieneutral formuliert und auf KI-gestützte Datenbearbeitungen direkt anwendbar ist. Zweck, Funktionsweise und Datenquellen müssen transparent sein, bei hohen Risiken ist eine Datenschutz-Folgenabschätzung nötig.

Was erwartet die FINMA beim Einsatz von KI?

Die Aufsichtsmitteilung 08/2024 beschreibt Governance mit klaren Zuständigkeiten, ein Inventar mit Risikoklassifizierung, Vorgaben zur Datenqualität, Tests und laufende Überwachung, Dokumentation, Erklärbarkeit und eine unabhängige Prüfung wesentlicher Anwendungen.

Wie bleibt KI im Service Desk nachvollziehbar?

Indem KI-Funktionen inventarisiert, Modelle, Prompts und Quellen über das Change Management geändert und Antworten auf geprüfte Wissensquellen gestützt werden. Verworfene Vorschläge werden ausgewertet, Versionen und Freigaben protokolliert.

Welche KI-Funktionen bietet ky2help®?

ky2help® enthält einen KI-Supportagenten, der Lösungsvorschläge liefert und passende Problem-Tickets anzeigt, sowie den Chatbot «Apptiva Klar», der auf die Knowledge Base zugreift, Tickets mit dem Chatverlauf anlegt und an Mitarbeitende übergibt. Datenflüsse und Betriebsort klären wir gerne im Gespräch.

Quellen und weiterführende Artikel

Quellen

• Fedlex: Bundesgesetz über den Datenschutz (DSG), Art. 21 und 22
• EDÖB: KI und Datenschutz
• Bundesamt für Justiz: Künstliche Intelligenz
• FINMA: Aufsichtsmitteilung 08/2024 – Governance und Risikomanagement beim Einsatz Künstlicher Intelligenz (PDF)
• EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung) und Änderungsverordnung (EU) 2026/1744
• NIST: AI Risk Management Framework

Weiterlesen im Glossar und in der Wissenswelt

• Machine Learning und Chatbot
• DSGVO und ISO 27001
• CMDB und Change Management
• KI im Helpdesk: Einsatz im Kundensupport
• KI-Integrationen in ky2help®