Generative AI Leader · §4 · ~15 %

Bereich 4: Geschäftsstrategien für Gen-AI-Lösungen

· ca. 5 Min. Lesezeit

Unabhängige Lernhilfe – nicht von Google, nicht mit Google verbunden.

Der letzte Bereich ist der strategische: wie Unternehmen eine Gen-AI-Lösung auswählen, einführen und ihren Wert messen, wie das Secure AI Framework (SAIF) KI-Systeme schützt und warum Responsible AI mit Transparenz, Fairness, Datenschutz und Verantwortlichkeit Geschäftsrisiken senkt. Gewicht in der Prüfung: ca. 15 %.

Titelgrafik: Prüfungsbereich 4 – Geschäftsstrategien für Gen-AI-Lösungen (ca. 15 % der Prüfung Generative AI Leader)

Auszug: Kernaussagen je Unterkapitel. Die vollständige Wissensseite mit allen Begriffen, Prüfungsfallen und Entscheidungsregeln gibt es in der App.

4.1 Google Cloud-recommended steps to implement a transformational gen AI solution

  • Gen AI kann create, summarize, discover, automate.
  • Lösungstypen laut Exam Guide: Text-, Bild-, Code-Generierung und personalisierte Nutzererlebnisse. Dazu kommen multimodale Lösungen, die mehrere Datentypen kombinieren (Text + Bild, Text + PDF, Video + Sensordaten).
  • Gen AI ist mehr als ein Chatbot: Sie steckt auch in Suche, Dokumentenverarbeitung, Agents und Workflows, die ohne Chat-Oberfläche auskommen.
  • Needs (Business Requirements):
  • Resources (technische und organisatorische Constraints): People (Gibt es AI-Expertise?), Money (Budget), Time (Zeitplan). Je individueller die Lösung, desto mehr Zeit, Geld und Fachwissen braucht sie.
  • Rollen:
    • Business leaders und Fachanwender nutzen fertige Anwendungen wie Gemini for Google Workspace, Gemini Enterprise oder Gemini Notebook (Applications-Layer).
    • Developers bauen Agents und integrieren AI in Apps, etwa mit Agent Studio, ADK oder der Gemini API (Agents- und Platform-Layer).
    • AI practitioners wählen, tunen, deployen, überwachen und optimieren Modelle auf Agent Platform und verankern Responsible AI im Betrieb (Platform, Models, Infrastructure).

Typische Prüfungsfalle

Nur top-down oder nur bottom-up ist falsch. Richtig ist die Kombination.

4.2 Secure AI: protecting AI systems from malicious attacks and misuse

  • Secure AI heißt, AI-Anwendungen vor Schaden zu schützen: Angriffe, Missbrauch, Datenabfluss, Manipulation.
  • Security über den ML-Lebenszyklus:
    • Gather data (Data ingestion): Daten sind das Fundament. Kontrollieren, wer Daten liefern, hinzufügen und lesen darf; nur rechtmäßig nutzbare Daten verwenden (SAIF-Risiko „Unauthorized Training Data“).
    • Prepare data: vertrauliche oder sensible Daten erkennen und anonymisieren bzw. de-identifizieren, validieren, sicher verarbeiten, protokollieren und überwachen (SAIF-Risiko „Excessive Data Handling“).
    • Train model: Trainingsdaten und Modellparameter vor unbefugtem Zugriff und Veränderung schützen, etwa gegen Data Poisoning und Manipulation der Modellquelle (SAIF: „Data Poisoning“, „Model Source Tampering“).
    • Deploy and predict: Zugriff auf Modell und Endpoint kontrollieren. Bei vorgefertigten oder Drittmodellen Herkunft verifizieren und auf Schwachstellen prüfen. Eingaben und Ausgaben absichern (SAIF: „Prompt Injection“, „Insecure Model Output“, „Model Exfiltration“).
    • Manage model: Best Practices aktuell halten, Sicherheitsupdates einspielen, Performance und Outputs auf Anomalien oder Manipulation überwachen, Zugriffsrechte regelmäßig prüfen.
  • Secure AI Framework (SAIF): Googles Framework mit Sicherheitsstandards und Best Practices für das Bauen und Deployen von AI-Systemen. Es hilft Organisationen, AI/ML-Modellrisiken zu managen und Sicherheit zu gewährleisten, und adressiert die besonderen Bedrohungen der AI-Landschaft, inzwischen ausdrücklich auch für Agents. SAIF ist kein Produkt und kein Tool, sondern ein Leitfaden: eine Landkarte der AI-Entwicklung aus Sicherheitssicht, ein Katalog von 15 Risiken mit zugehörigen Kontrollen und eine Selbsteinschätzung.
  • Google-Cloud-Security-Tools:
    • Secure-by-design infrastructure: Sicherheit ist von Grund auf in die Infrastruktur eingebaut und unterstützt den ganzen AI/ML-Lebenszyklus. Kundendaten werden at rest standardmäßig und automatisch verschlüsselt, ohne Zutun des Kunden.
    • Identity and Access Management (IAM): steuert, wer auf welche Ressource zugreifen darf – für Modelle und Endpoints genauso wie für andere Cloud-Ressourcen. Identitäten verwalten, Rollen zuweisen, Berechtigungen erteilen oder entziehen, Aktivität auditieren.
    • Security Command Center (SCC): zentrale Sicht auf die Security-Posture, Schwachstellen und Bedrohungen; mit „AI Protection“ auch speziell für AI-Workloads.
    • Workload monitoring tools (Cloud Logging, Cloud Monitoring, Observability): sichere AI-Systeme aufbauen und erhalten, Anomalien erkennen.
    • Mandiant: Threat Intelligence, Beratung und Incident-Expertise zum proaktiven Schutz von AI-Systemen, u. a. AI-Sicherheitsbewertungen und Red Teaming für AI. Zusammen mit der Google Threat Intelligence Group Basis für proaktive, AI-gestützte Abwehr.
  • Principle of least privilege: nur die minimal nötigen Rechte vergeben, im kleinstmöglichen Geltungsbereich, und Berechtigungen regelmäßig auditieren, weil Personen kommen, gehen und Rollen wechseln.

Typische Prüfungsfalle

SAIF-Ziel: Sicherheitsstandards und Best Practices für verantwortungsvolles Bauen und Deployen von AI setzen und AI-Risiken managen. Nicht AI-Entwicklung einschränken, nicht Innovation ohne Sicherheitsbetrachtung, nicht nur externe Angriffe.

4.3 The importance of responsible AI in business

  • Responsible AI: Sicherstellen, dass AI-Anwendungen keinen Schaden verursachen und ethisch genutzt werden. Das gilt über den gesamten Lebenszyklus: Datenaufbereitung, Training, Deployment, laufendes Monitoring.
  • Vier Grundlagen:
    • Transparency: Nutzer verstehen, wie ihre Daten verwendet werden und wie das System arbeitet. AI-Einsatz gegenüber Betroffenen offenlegen.
    • Privacy: Datenschutzrisiken kennen und Daten durch Anonymisierung oder Pseudonymisierung schützen. Verhindern, dass das Modell sensible Trainingsdaten preisgibt (SAIF-Risiken „Sensitive Data Disclosure“, „Inferred Sensitive Data“).
    • Data quality, bias, fairness: Ethische AI braucht hochwertige Daten und verantwortungsvolle Datennutzung. Modelle lernen aus großen Datensätzen, die Verzerrungen enthalten können; schon subtile Biases können sich in den Ausgaben verstärken und zu unfairen Ergebnissen führen. Fairness zu bewerten ist zentraler Teil verantwortungsvoller Entwicklung; Fairness lässt sich unterschiedlich definieren, und Bewertungen erfassen oft nur bestimmte Bias-Kategorien.
    • Accountability und explainability: Fairness braucht klare Verantwortlichkeit. Explainable AI macht Entscheidungsprozesse nachvollziehbar. Man muss verstehen, wie die eigene Anwendung die AI-Ausgaben nutzt und interpretiert.
  • Anonymisierung vs. Pseudonymisierung:
  • Datenqualität: accuracy, completeness, representativeness, consistency, relevance. Zugänglichkeit: availability, cost, format. Schlechte Daten führen zu Bias und unfairen Ergebnissen („garbage in, garbage out“). Was „gute Qualität“ ist, hängt vom jeweiligen Einsatzzweck ab.
  • Rechtliche Aspekte: Datenschutz, Nicht-Diskriminierung, geistiges Eigentum, Produkthaftung, Lizenzbedingungen von Modellen. Die Rechtslage entwickelt sich weiter (z. B. EU AI Act), deshalb laufend rechtlich beraten lassen.
  • Google AI Principles (erstmals 2018 veröffentlicht, seither überarbeitet) leiten die Entwicklung und den Einsatz von AI bei Google. Drei Säulen: kühne Innovation, verantwortungsvolle Entwicklung und Bereitstellung über den ganzen Lebenszyklus, gemeinsamer Fortschritt. Dazu gehören sorgfältiges Design, Tests, Monitoring und Schutzmaßnahmen, um Schaden und unfairen Bias zu vermeiden, sowie angemessene menschliche Aufsicht.

Typische Prüfungsfalle

AI-gestützte Schadensregulierung einer Versicherung ethisch machen (zwei Antworten): regelmäßig auditieren (Bias über die Zeit erkennen) und diverse, repräsentative Trainingsdaten nutzen. Falsch sind: Black-Box-Modell wegen höherer Genauigkeit, kein menschliches Monitoring, Geschwindigkeit vor Fairness.

Weiterlesen: Alle Prüfungsbereiche · Glossar · Produktlandkarte

Quellen