AI Gem 8: Bestärkendes und multimodales Lernen

12.07.2024 - Stuttgart

Reinforcement Learning ist die Basis für eine Vielzahl von Anwendungen in der Robotik und anderen Fachdisziplinen. In dem Kurzseminar werden Quellcodes zum Actor Critic und Q Learning vorgestellt und Simulationen in Gym durchgeführt. Als Vorbereitung zum GPT Seminar erfolgt eine Einführung in Transformer und multimodales Lernen. Hierzu bietet sich insbesondere der von Erfolg geprägte Stable Diffusion Algorithmus (Text-to-Image) an der auch in TensorFlow implementiert wurde. Nachdem gezeigt wird, wie lokal Bilder mit einem Prompt generiert werden, wird OpenFlamingo (Image-to-Text) vorgestellt. Dieses OpenSource Projekt nutzt ein visuelles Bildsprachmodell, um eine Vielzahl von Objekten in Bildern erkennen zu können. Im Anschluss besteht die Möglichkeit einer Teilnahme an einer Fragenlektion. Praktische Kenntnisse können in den betreuten Übungen vertieft werden.

Lernziele:

• Grundlegendes Verständnis für Reinforcement Learning
• Simulationen in OpenAI Gym
• Grundlegende Kenntnisse in multimodales Lernen
• Lokales anwenden des Stable Diffusion Algorithmus mit TensorFlow
• Nutzung eines Bildsprachmodells mit OpenFlamingo

Vorkenntnisse:

• Grundkenntnisse in Python und Machine Learning
• Hard- und Softwarevoraussetzungen:
• Die Codebeispiele wurden auf einem I-Core i7 8. Generation Laptop mit 32 GB Ram und einer Nvidia Quadro P1000 Grafikkarte getestet. Weitere Installationshilfen sind in den Seminarfolien beschrieben.

Hinweis zur Organisation: Die Veranstaltung wird mit dem Online-Konferenztool „Zoom“ durchgeführt. Zur Teilnahme sind weder Download noch Registrierung nötig. Es genügt ein aktueller Webbrowser.

Der Zugangslink wird rechtzeitig zur Verfügung gestellt.

Diese Veranstaltung wird im Rahmen des KISMi Projekts angeboten. Das Projekt wird als regionales KI-Lab gefördert durch das Ministerium für Wirtschaft, Arbeit und Tourismus Baden-Württemberg im Rahmen der Initiative Wirtschaft 4.0 Baden-Württemberg (IW4.0).