ML4Safety – Absicherung von Machine-Learning-Algorithmen für sicherheitskritische Funktionen

14.11.2024 - AI xpress Böblingen

AI xpress NET ist der zentrale Techtalk für alle, die sich rund um KI-Themen auf hohem technischen Niveau austauschen möchten. Das Event richtet sich an Entwicklerinnen, Entwickler sowie KI-Expertinnen und -Experten, die Interesse an einem intensiven Austausch haben. AI xpress NET bietet eine Plattform für spannende Diskussionen und tiefgehende Einblicke in innovative Technologien im Bereich der Künstlichen Intelligenz.

In sicherheitskritischen Bereichen wie autonomen Fahrzeugen, Baumaschinen und Cobots eröffnet der Einsatz von Machine-Learning-Technologien (ML) vielversprechende Potenziale für Automatisierung und Effizienzsteigerung. Dennoch bestehen weiterhin Bedenken hinsichtlich der Zuverlässigkeit, Robustheit und Erklärbarkeit von ML-Modellen, die bislang einer breiten Anwendung im Wege stehen.

Das vorgestellte Fraunhofer-Projekt widmet sich genau diesen Herausforderungen und entwickelt ein umfassendes Framework zur Verifikation von ML-Systemen, das unter dem Namen safeML den sicheren Einsatz in sicherheitskritischen Systemen ermöglichen soll. Referent Björn Heiderich präsentiert in dieser Veranstaltung, wie fortschrittliche Ansätze zur Entwicklung und Überprüfung von ML-Systemen helfen können, ein ähnliches Sicherheitsniveau wie bei traditioneller Software zu erreichen.

Fokus der Präsentation:

1. Vorstellung des safeML-Frameworks und seiner Verifikationsansätze
2. Praktische Anwendungsszenarien in sicherheitskritischen Bereichen
3. Iterative, automatisierte Methoden zur Fehlerreduktion und zur Senkung der Entwicklungskosten

Das Projekt safeML zeigt damit auf, wie ML-Verfahren sicher und effizient in sicherheitskritischen Bereichen eingesetzt werden können, und unterstützt so die weitere Verbreitung dieser Technologien in der Industrie.