-
In diesem Kurs lernen Sie die unterschiedlichen Herausforderungen kennen, die sich bei der Produktion von generativen KI-gestützten Anwendungen im Vergleich zur traditionellen ML ergeben. Sie werden lernen, wie Sie das Experimentieren und die Abstimmung Ihrer LLMs verwalten, dann werden Sie besprechen, wie Sie Ihre LLM-gestützten Anwendungen bereitstellen, testen und warten. Schließlich werden Sie Best Practices für die Protokollierung und Überwachung Ihrer LLM-gestützten Anwendungen in der Produktion diskutieren.
-
Kursinhalt
-
- Einführung in die generative KI in der Produktion
- Verwaltung von Experimenten
- Generative KI in der Produktion
- Protokollierung und Überwachung für produktive LLM-Systeme
-
Zielgruppe
-
Entwickler und Ingenieure für maschinelles Lernen, die KI-basierte Anwendungen einsetzen möchten
-
Voraussetzungen
-
Besuch des Kurses Introduction to Developer Efficiency on Google Cloud oder gleichwertige Kennnisse.
-
Kursziel
-
- Beschreiben Sie die Herausforderungen bei der Produktion von Anwendungen mit generativer KI.
- Verwalten Sie die Erprobung und Bewertung von LLM-gestützten Anwendungen.
- Produktion von LLM-gestützten Anwendungen.
- Implementierung von Protokollierung und Überwachung für LLM-gestützte Anwendungen.
| Einführung in die generative KI in der Produktion |
| Themen: |
| AI-System-Demo: Kaffee auf Rädern |
| Traditionelle MLOps vs. GenAIOps |
| Generative KI-Operationen |
| Bestandteile eines LLM-Systems |
| Zielsetzungen: |
| Verstehen generativer KI-Operationen |
| Vergleich zwischen traditionellen MLOps und GenAIOps |
| Analysieren Sie die Komponenten eines LLM-Systems |
| Verwaltung von Experimenten |
| Themen: |
| Datensätze und Prompt Engineering |
| RAG- und ReACT-Architektur |
| LLM-Modellevaluation (Metriken und Rahmen) |
| Experimente zur Verfolgung |
| Zielsetzungen: |
| Experimentieren Sie mit Datensätzen und Prompt-Engineering. |
| Nutzung der RAG- und ReACT-Architektur. |
| Bewertung von LLM-Modellen. |
| Experimente verfolgen. |
| Aktivitäten: |
| Labor: Unit Testing generativer KI-Anwendungen |
| Optionales Labor: Generative AI mit Vertex AI: Prompt Design |
| Generative KI in der Produktion |
| Themen: |
| Bereitstellung, Paketierung und Versionierung (GenAIOps) |
| Testen von LLM-Systemen (Einheit und Integration) |
| Wartung und Aktualisierung (Betrieb) |
| Prompte Sicherheit und Migration |
| Zielsetzungen: |
| Modelle bereitstellen, verpacken und versionieren |
| LLM-Systeme testen |
| Pflege und Aktualisierung von LLM-Modellen |
| Prompte Sicherheit und Migration bewältigen |
| Aktivitäten: |
| Lab: Vertex AI Pipelines: Qwik Start |
| Labor: Absicherung mit Vertex AI Gemini API |
| Protokollierung und Überwachung für produktive LLM-Systeme |
| Themen: |
| Cloud-Protokollierung |
| Zeitnahe Versionierung, Bewertung und Verallgemeinerung |
| Überwachung auf Bewertungsverzerrung |
| Kontinuierliche Validierung |
| Zielsetzungen: |
| Cloud Logging nutzen |
| Version, Bewertung und Verallgemeinerung von Aufforderungen |
| Überwachen Sie die Schieflage bei der Bewertung |
| Kontinuierliche Validierung nutzen |
| Aktivitäten: |
| Labor: Vertex AI: Playbook für Gemini-Evaluierungen |
| Optionales Labor: Überwachtes Fine Tuning mit Gemini für Fragen und Antworten |
-
Classroom Training
- Bevorzugen Sie die klassische Trainingsmethode? Ein Kurs in einem unserer Training Center, mit einem kompetenten Trainer und dem direkten Austausch zwischen allen Teilnehmern? Dann buchen Sie einen der Classroom Training Termine!
-
Online Training
- Möchten Sie einen Kurs online besuchen? Zu diesem Kursthema bieten wir Ihnen Online-Kurstermine an. Als Teilnehmer benötigen Sie dazu einen PC mit Internet-Anschluss (mindestens 1 Mbit/s), ein Headset, falls Sie per VoIP arbeiten möchten und optional eine Kamera. Weitere Informationen und technische Empfehlungen finden Sie hier.
-
Inhouse-Schulung
-
Benötigen Sie einen maßgeschneiderten Kurs für Ihr Team? Neben unserem Standard-Angebot bieten wir Ihnen an, Kurse speziell nach Ihren Anforderungen zu gestalten. Gerne beraten wir Sie hierzu und erstellen Ihnen ein individuelles Angebot.
Die gesamte Beschreibung dieses Kurses mit Terminen und Preisen zum Download als PDF.-
In diesem Kurs lernen Sie die unterschiedlichen Herausforderungen kennen, die sich bei der Produktion von generativen KI-gestützten Anwendungen im Vergleich zur traditionellen ML ergeben. Sie werden lernen, wie Sie das Experimentieren und die Abstimmung Ihrer LLMs verwalten, dann werden Sie besprechen, wie Sie Ihre LLM-gestützten Anwendungen bereitstellen, testen und warten. Schließlich werden Sie Best Practices für die Protokollierung und Überwachung Ihrer LLM-gestützten Anwendungen in der Produktion diskutieren.
-
Kursinhalt
-
- Einführung in die generative KI in der Produktion
- Verwaltung von Experimenten
- Generative KI in der Produktion
- Protokollierung und Überwachung für produktive LLM-Systeme
-
Zielgruppe
-
Entwickler und Ingenieure für maschinelles Lernen, die KI-basierte Anwendungen einsetzen möchten
-
Voraussetzungen
-
Besuch des Kurses Introduction to Developer Efficiency on Google Cloud oder gleichwertige Kennnisse.
-
Kursziel
-
- Beschreiben Sie die Herausforderungen bei der Produktion von Anwendungen mit generativer KI.
- Verwalten Sie die Erprobung und Bewertung von LLM-gestützten Anwendungen.
- Produktion von LLM-gestützten Anwendungen.
- Implementierung von Protokollierung und Überwachung für LLM-gestützte Anwendungen.
| Einführung in die generative KI in der Produktion |
| Themen: |
| AI-System-Demo: Kaffee auf Rädern |
| Traditionelle MLOps vs. GenAIOps |
| Generative KI-Operationen |
| Bestandteile eines LLM-Systems |
| Zielsetzungen: |
| Verstehen generativer KI-Operationen |
| Vergleich zwischen traditionellen MLOps und GenAIOps |
| Analysieren Sie die Komponenten eines LLM-Systems |
| Verwaltung von Experimenten |
| Themen: |
| Datensätze und Prompt Engineering |
| RAG- und ReACT-Architektur |
| LLM-Modellevaluation (Metriken und Rahmen) |
| Experimente zur Verfolgung |
| Zielsetzungen: |
| Experimentieren Sie mit Datensätzen und Prompt-Engineering. |
| Nutzung der RAG- und ReACT-Architektur. |
| Bewertung von LLM-Modellen. |
| Experimente verfolgen. |
| Aktivitäten: |
| Labor: Unit Testing generativer KI-Anwendungen |
| Optionales Labor: Generative AI mit Vertex AI: Prompt Design |
| Generative KI in der Produktion |
| Themen: |
| Bereitstellung, Paketierung und Versionierung (GenAIOps) |
| Testen von LLM-Systemen (Einheit und Integration) |
| Wartung und Aktualisierung (Betrieb) |
| Prompte Sicherheit und Migration |
| Zielsetzungen: |
| Modelle bereitstellen, verpacken und versionieren |
| LLM-Systeme testen |
| Pflege und Aktualisierung von LLM-Modellen |
| Prompte Sicherheit und Migration bewältigen |
| Aktivitäten: |
| Lab: Vertex AI Pipelines: Qwik Start |
| Labor: Absicherung mit Vertex AI Gemini API |
| Protokollierung und Überwachung für produktive LLM-Systeme |
| Themen: |
| Cloud-Protokollierung |
| Zeitnahe Versionierung, Bewertung und Verallgemeinerung |
| Überwachung auf Bewertungsverzerrung |
| Kontinuierliche Validierung |
| Zielsetzungen: |
| Cloud Logging nutzen |
| Version, Bewertung und Verallgemeinerung von Aufforderungen |
| Überwachen Sie die Schieflage bei der Bewertung |
| Kontinuierliche Validierung nutzen |
| Aktivitäten: |
| Labor: Vertex AI: Playbook für Gemini-Evaluierungen |
| Optionales Labor: Überwachtes Fine Tuning mit Gemini für Fragen und Antworten |
-
Classroom Training
- Bevorzugen Sie die klassische Trainingsmethode? Ein Kurs in einem unserer Training Center, mit einem kompetenten Trainer und dem direkten Austausch zwischen allen Teilnehmern? Dann buchen Sie einen der Classroom Training Termine!
-
Online Training
- Möchten Sie einen Kurs online besuchen? Zu diesem Kursthema bieten wir Ihnen Online-Kurstermine an. Als Teilnehmer benötigen Sie dazu einen PC mit Internet-Anschluss (mindestens 1 Mbit/s), ein Headset, falls Sie per VoIP arbeiten möchten und optional eine Kamera. Weitere Informationen und technische Empfehlungen finden Sie hier.
-
Inhouse-Schulung
-
Benötigen Sie einen maßgeschneiderten Kurs für Ihr Team? Neben unserem Standard-Angebot bieten wir Ihnen an, Kurse speziell nach Ihren Anforderungen zu gestalten. Gerne beraten wir Sie hierzu und erstellen Ihnen ein individuelles Angebot.
Die gesamte Beschreibung dieses Kurses mit Terminen und Preisen zum Download als PDF.