Das aktuelle Tempo bei der KI-Entwicklung wirft Fragen auf: Wo soll die Reise hingehen und welche regulatorischen Einschränkungen braucht es? Das wird KI Governance genannt.
Das Tempo, in dem im Augenblick KI-Systeme wie ChatGPT4, aber auch Bild-KIs weiter entwickelt werden, ist atemberaubend. Da ist es wahrlich an der Zeit, sich zu fragen: Was soll KI eigentlich dürfen und was nicht – welche Regeln braucht es?
Der Deutsche Ethikrate hat vor einigen Tagen einen umfassenden Regelplan aufgestellt – allerdings noch eher abstrakt formuliert. Jetzt haben sogar Dutzende prominente Menschen aus der IT-Branche einen offenen Brief unterschrieben, der fordert: Lasst uns die KI-Entwicklung für sechs Monate anhalten, damit wir in aller Ruhe über vernünftige Regeln nachdenken können.
Das finde ich sehr verantwortungsvoll, lobenswert – und auch richtig. Allerdings kennen die IT-Leader nicht die deutsche Politik. Sechs Monate reichen nicht mal, um sich auf ein „mögliches Ziel zu einigen“, geschweige, verbindliche Regeln zu entwickeln.
Elon Musk hat den offenen Brief auch unterschrieben
Was sind jetzt KI Governance Systeme?
KI-Governance-Systeme sind eine Sammlung von Prozessen und Verfahren, die Unternehmen und Organisationen dabei unterstützen, die ethischen, rechtlichen und regulatorischen Anforderungen im Zusammenhang mit der Entwicklung und dem Einsatz von künstlicher Intelligenz (KI) einzuhalten. Sie stellen sicher, dass die KI-Systeme in Übereinstimmung mit den gesetzlichen Vorschriften und ethischen Grundsätzen entwickelt und genutzt werden.
KI-Governance-Systeme umfassen typischerweise Richtlinien und Verfahren für die Datenerfassung, Datensicherheit, Datenschutz, Modellbildung, Modellüberwachung, Modellinterpretation und -erklärung sowie Verfahren zur Risikobewertung und Risikominimierung. Sie können auch die Einbeziehung von Stakeholdern wie Kunden, Mitarbeiter, Regulierungsbehörden und der Öffentlichkeit in den Prozess der KI-Entwicklung und -Nutzung umfassen.
Ein effektives KI-Governance-System ist entscheidend, um das Vertrauen in KI-Systeme aufzubauen und zu erhalten, da es sicherstellt, dass KI-Systeme ethisch und rechtmäßig eingesetzt werden und dass die damit verbundenen Risiken minimiert werden
