Eine KI-Richtlinie (auch "KI-Policy" oder "KI-Leitlinie") legt die Grundsätze, Regeln und Verfahren fest, nach denen eine Organisation Künstliche Intelligenz (KI) entwickelt, einsetzt und überwacht. Eine solche Richtlinie dient der verantwortungsvollen Nutzung von KI und hilft, ethische, rechtliche und gesellschaftliche Risiken zu minimieren. Typische Inhalte sind:
1. Einleitung und Geltungsbereich
- Ziel und Zweck der Richtlinie
- Geltungsbereich (z. B. für welche Abteilungen oder Anwendungsbereiche)
- Begriffsdefinitionen (z. B. KI, maschinelles Lernen, algorithmische Entscheidungsfindung)
2. Grundsätze für den Umgang mit KI
- Transparenz: KI-Systeme müssen nachvollziehbar und erklärbar sein.
- Fairness & Nichtdiskriminierung: Vermeidung von Bias, Gleichbehandlung aller Nutzer.
- Datenschutz & Sicherheit: Einhaltung der DSGVO und Schutz sensibler Daten.
- Verantwortlichkeit: Klare Zuweisung von Verantwortlichkeiten im Umgang mit KI.
- Nachhaltigkeit: Umweltaspekte und Ressourceneffizienz berücksichtigen.
- Menschenzentriertheit: Der Mensch bleibt im Mittelpunkt von Entscheidungen.
3. Einsatzbereiche und Anwendungsrichtlinien
- Definition zulässiger und unzulässiger Einsatzfelder
- Abgrenzung zwischen automatisierter und unterstützender Entscheidungsfindung
- Risikobewertung je nach Einsatzkontext (z. B. kritisch, moderat, unkritisch)
4. Technische Anforderungen
- Anforderungen an Trainingsdaten (z. B. Qualität, Diversität)
- Dokumentation von Modellen, Entscheidungen und Trainingsprozessen
- Anforderungen an Monitoring und regelmäßige Evaluierung
5. Governance und Verantwortlichkeiten
- Einrichtung eines KI-Boards oder einer Ethik-Kommission
- Rollen und Verantwortlichkeiten (z. B. Data Scientists, Compliance, IT)
- Schulung und Sensibilisierung der Mitarbeitenden
6. Compliance und rechtliche Anforderungen
- Berücksichtigung nationaler und internationaler Gesetze (z. B. EU AI Act)
- Maßnahmen zur Risikominimierung und Haftungsvermeidung
- Umgang mit Vorfällen, Missbrauch oder Fehlverhalten
7. Kontrolle, Monitoring und Reporting
- Verfahren zur laufenden Überwachung von KI-Systemen
- Berichtspflichten (z. B. regelmäßige Reviews, Audits)
- Mechanismen zur Fehlerbehebung und kontinuierlichen Verbesserung
8. Kommunikation und Transparenz nach außen
- Offenlegung von KI-Einsatz gegenüber Kunden oder Betroffenen
- Erstellung von Informationsmaterialien (z. B. FAQ, Datenschutzinfos)
9. Aktualisierung und Weiterentwicklung
- Regelmäßige Überprüfung und Aktualisierung der Richtlinie
- Anpassung an neue regulatorische oder technologische Entwicklungen
10. Anforderungen in der Medizin
- Sobald das KI-Modell / KI-System zum Medizinprodukt wird, muss es
- zugelassen sein
- zertifizierte sein
- ein CE-Siegel aufweisen