Künstliche Intelligenz

Hintergrund

Künstliche Intelligenz (KI) wird zunehmend in allen Sektoren unter Nutzung von Informationstechnologie eingesetzt und gilt als einer der zentralen wirtschaftlichen Treiber. Eine Folge dieser Entwicklung ist, dass bestimmte Anwendungen in den kommenden Jahren gesellschaftliche Herausforderungen mit sich bringen können.

Dieses Dokument soll Organisationen dabei unterstützen, ihre Rolle im Umgang mit KI-Systemen verantwortungsvoll wahrzunehmen, beispielsweise bei der Nutzung, Entwicklung, Überwachung oder Bereitstellung von Produkten oder Dienstleistungen, die KI einsetzen. Der Einsatz von KI bringt potenziell spezifische Fragestellungen mit sich, wie zum Beispiel:

Angewandte Normen

ISO/IEC 42001 legt Anforderungen für die Einrichtung, Umsetzung, Aufrechterhaltung und kontinuierliche Verbesserung eines Managementsystems für Künstliche Intelligenz innerhalb einer Organisation fest. Organisationen sollen die Anforderungen insbesondere auf jene Aspekte anwenden, die für Künstliche Intelligenz spezifisch sind. Bestimmte Eigenschaften von KI, wie die Fähigkeit zum kontinuierlichen Lernen und zur Weiterentwicklung oder mangelnde Transparenz bzw. Nachvollziehbarkeit, können zusätzliche Schutzmaßnahmen erforderlich machen, wenn dadurch im Vergleich zu herkömmlichen Verfahren erhöhte Risiken entstehen. Die Einführung eines Managementsystems für Künstliche Intelligenz zur Ergänzung bestehender Managementstrukturen stellt eine strategische Entscheidung der Organisation dar.

Die Bedürfnisse und Ziele der Organisation, ihre Prozesse, Größe und Struktur sowie die Erwartungen relevanter interessierter Parteien beeinflussen die Einrichtung und Umsetzung des Managementsystems für Künstliche Intelligenz. Weitere Einflussfaktoren sind die Vielzahl an Anwendungsfällen für KI sowie die Notwendigkeit, ein ausgewogenes Verhältnis zwischen Steuerungsmechanismen und Innovation sicherzustellen. Organisationen können die Anforderungen risikobasiert anwenden, um ein angemessenes Maß an Kontrolle für die jeweiligen KI-Anwendungsfälle, Dienstleistungen oder Produkte innerhalb des festgelegten Geltungsbereichs sicherzustellen. Diese Einflussfaktoren unterliegen Veränderungen und sollten regelmäßig überprüft werden.

Das Managementsystem für Künstliche Intelligenz sollte in die Prozesse und die Gesamtmanagementstruktur der Organisation integriert werden. Spezifische Aspekte im Zusammenhang mit KI sind bei der Gestaltung von Prozessen, Informationssystemen und Kontrollen zu berücksichtigen. Wichtige Beispiele für solche Managementprozesse sind:

• Festlegung von Organisationszielen, Einbindung interessierter Parteien sowie Entwicklung einer Organisationspolitik
• Management von Risiken und Chancen
• Prozesse zum Umgang mit Aspekten der Vertrauenswürdigkeit von KI-Systemen, wie Sicherheit, funktionale Sicherheit, Fairness, Transparenz, Datenqualität sowie die Qualität von KI-Systemen über ihren gesamten Lebenszyklus hinweg
• Prozesse zum Management von Lieferanten, Partnern und Dritten, die KI-Systeme für die Organisation bereitstellen oder entwickeln

Dieses Dokument enthält Leitlinien für die Implementierung geeigneter Kontrollen zur Unterstützung dieser Prozesse.

Es enthält keine spezifischen Vorgaben für einzelne Managementprozesse. Organisationen können allgemein anerkannte Rahmenwerke, andere internationale Normen sowie eigene Erfahrungen kombinieren, um zentrale Prozesse wie Risikomanagement, Lebenszyklusmanagement und Datenqualitätsmanagement entsprechend den spezifischen KI-Anwendungsfällen, Produkten oder Dienstleistungen umzusetzen.

Eine Organisation, die die Anforderungen dieser Norm erfüllt, kann Nachweise für ihre Verantwortung und Rechenschaftspflicht im Umgang mit KI-Systemen erbringen.

Die Reihenfolge der Anforderungen in diesem Dokument spiegelt weder deren Bedeutung wider noch gibt sie eine Reihenfolge für die Umsetzung vor. Die Aufzählungen dienen ausschließlich Referenzzwecken.

ISO/IEC 42001 folgt der harmonisierten Struktur von Managementsystemnormen, die identische Kapitelstrukturen, Bezeichnungen, Texte sowie gemeinsame Begriffe und Kerndefinitionen vorsieht. Diese Struktur dient der besseren Abstimmung zwischen verschiedenen Managementsystemnormen. Das Managementsystem für Künstliche Intelligenz enthält spezifische Anforderungen zur Steuerung von Risiken und Fragestellungen, die sich aus dem Einsatz von KI in Organisationen ergeben. Dieser einheitliche Ansatz erleichtert die Implementierung sowie die Konsistenz mit anderen Managementsystemnormen, beispielsweise in den Bereichen Qualität, Sicherheit, Informationssicherheit und Datenschutz.

Unsere Leistungen

SSA TIC plant, hochwertige Zertifizierungsleistungen für Managementsysteme für Künstliche Intelligenz von Organisationen auf Grundlage von ISO/IEC 42001 anzubieten.

Die Leistungen umfassen eine Kombination aus Vor Ort und Remote Bewertungen des Managementsystems für den Einsatz von Künstlicher Intelligenz innerhalb der Organisation.