Das «CAS Safe and Secure AI – Standards, Methods and Best Practices» richtet sich an Fachleute aus den Bereichen Sicherheitsmanagement, Projektmanagement, IT-Management, Data Science, Softwareentwicklung, Qualitätssicherung und Compliance. Es vermittelt sowohl fundierte theoretische Kenntnisse als auch praxisorientierte Fähigkeiten, um den steigenden Anforderungen an die Entwicklung, Implementierung und den Betrieb sicherer und vertrauenswürdiger KI-Systeme gerecht zu werden.

Die Teilnehmenden erwerben fundierte theoretische Kenntnisse sowie praxisorientierte Fähigkeiten für den sicheren Einsatz von Künstlicher Intelligenz. Der Kompetenzaufbau fokussiert sich dabei auf die folgenden zentralen Ziele:

• Vermittlung von Kenntnissen zu Regulationen und Standards für KI-Systeme, einschliesslich der Schweizer Gesetzgebung, des EU AI Act mit seinen Hauptdimensionen sowie relevanter IEEE- und ISO/IEC-Normen. 

• Erlernen von Management- und Lebenszyklusprozessen für KI-Systeme, einschliesslich Managementsystemen (ISO/IEC 42001), Lifecycle-Management (ISO/IEC 5338), Risikomanagement (ISO/IEC 23894) und Qualitätsmanagement (ISO/IEC 25058 und 25059).

• Vermittlung von Kenntnissen über Ethik, Fairness und Bias in KI-Modellen (ISO/IEC 24027 und ISO/IEC 12791).

• Verständnis des gesamten Datenlebenszyklus im Bereich Machine Learning, einschliesslich Datensammlung, -vorbereitung, -speicherung, Training, Testing, Validierung und Distribution (ISO/IEC 8183 und ISO/IEC 5259), sowie der Erstellung und Nutzung synthetischer Daten (ISO/IEC 42103) und der Einhaltung von Datenschutzbestimmungen gemäss der europäischen Datenschutz-Grundverordnung (GDPR).

• Förderung von Human Oversight und Transparenz in KI-Systemen, einschliesslich der Definition von Betriebsbedingungen (ConOps), Einbindung verschiedener Interessengruppen, Kontrollierbarkeit (ISO/IEC 8200), Erklärbarkeit (ISO/IEC 6254) und Methoden zur Umsetzung von Transparenz und XAI unter Berücksichtigung relevanter Standards.

• Vermittlung von Kenntnissen zur Sicherstellung der Accuracy, Robustheit und Cybersicherheit von KI-Modellen, einschliesslich der notwendigen Metriken (ISO/IEC 4213), Methoden zur Erhöhung der Robustheit (ISO/IEC TR 24029-1 & 2) und grundlegenden Aspekten der Cybersicherheit.

• Verständnis der funktionalen Sicherheit von KI-Systemen, einschliesslich des Safe AI-Development Lifecycle, Systemdesign, Anforderungsmanagement, Training, Verifikation und Validierung (ISO/IEC 29119, 17847) sowie Zertifizierung (ISO/IEC 42006) von KI-Systemen.

Modul 1: Regulations, Standards and Management

Regulierungen und Standards

• Schweizer Gesetzgebung
• EU AI Act (Grundlagen und Dimensionen)
• IEEE, ISO/IEC
• Weitere Organisationen (OECD, EASA, TÜV Austria etc.)
• Zertifizierte KI des Fraunhofer Institut IAIS (KI-Prüfkatalog)

Überblick über KI-Konzepte

• Anwendungsbereiche
• Modelle und Architekturen

Risk Assessment

• Risk Assessment
• Requirements for high risk and limited risk systems EU AI Act

Management und Lifecycle

• Management Systems (ISO/IEC 42001)
• Lifecycle (ISO/IEC 5338)
• Quality Management (ISO/IEC 25058)
• Quality Models (ISO/IEC 25059)
• Risk Management (ISO/IEC 23894)

Fairness und Bias

• Fairness und Bias (ISO/IEC 24027 und 12791)

Modul 2: Data Quality, Human Oversight and Transparency

Data and Data Governance

• Operational Design Domain
• Kompletter Daten Lifecycle (ISO/IEC 8183)
• (ISO/IEC 5259 ff.),
• Synthetische Daten (ISO/IEC 42103)
• Data Privacy (EU General Data Protection Regulation)

Human Oversight

• ConOps
• Stakeholders
• Human Oversight, Controllability (ISO/IEC 8200)

Transparency

• Explainability (ISO/IEC 6254)
• Transparency Methoden und Explainable AI im Vergleich

Modul 3: Accuracy, Robustness and Cyber Security

Accuracy, Robustness

• Accuracy und Metriken (ISO/IEC 4213)
• Robustness (ISO/IEC TR 24029-1 und 24029-2)
• Perturbations
• Formale Verifikation

Cyber Security

• Cyber Security und KI
• Adversarial Attacks
• Attacks on data, model, input and output

Modul 4: Verification, Validation, Safety and Certification

Verifikation und Validierung

• Verifikation auf Ebene Modell, Embedded Model und Gesamtsystem
• Validierung der gesamten Anwendung (ISO/IEC 29119, 17847)

KI und funktionale Sicherheit

• KI und sicherheitsrelevante Anwendungen ISO/IEC 5469, ISO 21448 (SOTIF) und EN IEC 61508
• Safe AI Development Lifecycle
• System Design
• Requirements
• Training
• Verification & Validation

Zertifizierung von KI

• Anforderungen aus Sicht der KI-Zertifizierung (ISO/IEC 42006)
• Methoden und Vorgehensweise der Zertifizierung

Präsentation Projekte

• Präsentation der praxisorientierten Projekte

Das «CAS Safe and Secure AI – Standards, Methods and Best Practices» kombiniert eine Vielzahl an Lernformaten, darunter Unterrichtseinheiten, methodische Anwendungsblöcke, Fallbeispiele und praxisorientierte Übungen. In den Übungen setzen die Teilnehmenden das erworbene Wissen anhand realer Fallbeispiele aktiv um und vertiefen dadurch ihre Kenntnisse.

Der Leistungsnachweis erfolgt in Form eines Berichts, der auf einer praxisnahen Fallstudie aus dem eigenen beruflichen Umfeld der Teilnehmenden basiert. Ziel ist es, die im CAS vermittelten Inhalte auf ein konkretes Unternehmensbeispiel anzuwenden und den Wissenstransfer in die berufliche Praxis sicherzustellen. Der Bericht wird thematisch entlang der Kursmodule strukturiert und dokumentiert die praktische Umsetzung der behandelten Konzepte.

Zum Abschluss präsentieren die Teilnehmenden ihre Fallstudie und stellen dabei die praktische Anwendung sowie die daraus gewonnenen Erkenntnisse in den Mittelpunkt.

Das «CAS Safe and Secure AI – Standards, Methods and Best Practices» wird berufsbegleitend durchgeführt. Der Unterricht findet einmal pro Woche am Dienstag von 13:15 bis 20:45 (8 Lektionen) statt. Den Stundenplan erhalten die Studierenden spätestens einen Monat vor Studienbeginn. Die schulfreie Zeit richtet sich nach den Schulferien der Stadt Zürich.

Das Team der Dozierenden besteht aus Experten mit umfassenden akademischen und praktischen Erfahrungen aus dem Fachbereich Safety, Security und KI. Hier ein Auszug auf der Dozierendenliste:

• Prof. Dr. Jasmina Bogojeska
• Prof. Dr. Christoph Heitz
• Dr. Stephan Neuhaus
• Prof. Dr. Monika Reif
• Martin Rejzek
• Dr. Joanna Weng

Zulassungsbedingungen für Personen mit Hochschulabschluss

Die Zulassung zum Lehrgang setzt voraus:

• Abschluss (Diplom, Lizentiat, Bachelor- oder Masterabschluss) einer staatlich anerkannten Hochschule beziehungsweise einer der Vorgängerschulen.
• 2 Jahre qualifizierte Berufserfahrung zum Zeitpunkt des Starts der Weiterbildung.

Zulassungsbedingungen für Personen ohne Hochschulabschluss

Die Zulassung zum Lehrgang setzt voraus:

• Nachweis eines Abschlusses in der höheren Berufsbildung (Tertiär-B): Berufsprüfung BP (eidgenössischer Fachausweis) oder Höhere Fachprüfung HFP (eidgenössisches Diplom) oder Höhere Fachschule HF. In Ausnahmefällen können weitere Personen zugelassen werden, wenn sich deren Befähigung zur Teilnahme aus einem anderen Nachweis ergibt.
• 3 Jahre qualifizierte Berufserfahrung zum Zeitpunkt des Starts der Weiterbildung.
• Bestehen eines Zulassungsgesprächs.