In einer Zeit, in der sich künstliche Intelligenz rasant entwickelt, untersucht der AI Safety Index – Summer 2025 des Future of Life Institute, wie gut führende Anbieter auf die Risiken fortgeschrittener KI-Systeme vorbereitet sind. Das Ergebnis ist ernüchternd: Bei Risikobeurteilung, Datenschutz und Governance bestehen weiterhin erhebliche Lücken.
Keines der sieben bewerteten Unternehmen erreicht die Bestnote. Die meisten weisen bei unmittelbaren ebenso wie bei langfristigen Risiken deutliche Schwächen auf.
Die wichtigsten Erkenntnisse
- Risikobeurteilung und Sicherheitsrahmen: Die bestehenden Verfahren reichen vielfach nicht aus, um Sicherheits- und Datenschutzrisiken systematisch zu erfassen – insbesondere bei der Verarbeitung sensibler Daten.
- Governance und Verantwortlichkeit: Klare Aufsicht, belastbare Prüfmechanismen und eindeutig zugewiesene Verantwortung halten nicht immer mit der technologischen Entwicklung Schritt.
- Privatsphäre und Datenschutz: KI-Modelle beruhen auf sehr grossen Datenbeständen, die auch Personendaten enthalten können. Ohne wirksame Schutzvorkehrungen steigt das Risiko von Missbrauch, Datenabfluss und unbefugtem Zugriff.
Wo KI-Sicherheit und Cybersicherheit zusammenkommen
KI-Sicherheit ist kein von der Cybersicherheit getrenntes Thema. Je autonomer und komplexer diese Systeme werden, desto mehr neue Angriffsflächen und Manipulationsmöglichkeiten entstehen. Ihr Einsatz in Gesundheit, Finanzwesen oder Bildung verlangt deshalb Schutzmassnahmen für Vertraulichkeit, Modellintegrität und Zugriffskontrolle.
Verantwortungsvolle Innovation setzt voraus, dass Cybersicherheit von Anfang an mitgedacht wird. Eine Kompromittierung kann nicht nur Daten treffen, sondern auch die vom System erzeugten Entscheidungen und das Vertrauen aller Beteiligten.
Die nächsten Prioritäten
- Risikobeurteilungen stärken: Schwachstellen regelmässig testen, Missbrauchsszenarien dokumentieren und Risiken vor der Einführung reduzieren.
- Personendaten schützen: Datenminimierung, Transparenz und Kontrolle für betroffene Personen umsetzen und die anwendbaren Datenschutzvorgaben einhalten.
- Governance klären: Aufsichtsgremien, unabhängige Prüfungen und klare Meldewege schaffen.
- Langfristige Risiken vorbereiten: Kontrollmechanismen, Abschaltverfahren und angemessene Notfallpläne für immer leistungsfähigere Systeme entwickeln.
Ein Aufruf zu Verantwortung
Der AI Safety Index 2025 ist ein Weckruf für KI-Unternehmen, Behörden und Fachpersonen der Cybersicherheit. KI eröffnet grosse Chancen. Nachhaltig wird ihre Einführung aber nur, wenn sie auf nachweisbarer Sicherheit, wirksamem Schutz der Privatsphäre und transparenter Governance beruht.
Die Verantwortung ist geteilt: Entwickler, einsetzende Organisationen und politische Entscheidungsträger müssen Vertrauen zu einer überprüfbaren Anforderung machen – nicht bloss zu einem Versprechen.