Künstliche Intelligenz (KI)

Um Chancen durch KI zu nutzen und gleichzeitig ihre Risiken zu minimieren, ist eine zuverlässige Prüfung und Zertifizierung von KI-Systemen notwendig.

Künstliche Intelligenz (KI) hat in den letzten Jahren einen starken Einfluss auf die Industrie und Arbeitswelt gewonnen. KI-Systeme haben das Potenzial, Sicherheit, Effizienz und Gesundheitsschutz am Arbeitsplatz erheblich zu verbessern. Der Einsatz intelligenter Assistenzsysteme, die Gefahren frühzeitig erkennen oder Prozesse sicherer gestalten, kann Unfälle verhindern und die Gesundheit der Beschäftigten schützen. Gleichzeitig birgt KI jedoch auch große Risiken – etwa durch Fehlfunktionen, unvorhersehbare Systemreaktionen oder unzureichende Datenqualität. Um solche Risiken zu minimieren, ist eine zuverlässige Prüfung und Zertifizierung von KI-Systemen notwendig.

Beispiele für präventiv wirkende KI-Systeme gibt es bereits: So können KI-basierte Assistenzsysteme an Maschinen Gefahren wie Annäherung von Händen oder Körperteilen erkennen und frühzeitig Maßnahmen wie das Stoppen einer Maschine einleiten. Damit wird der Arbeitsablauf sicherer und das Risiko für schwere Verletzungen deutlich reduziert.

Gesetzliche Grundlage geschaffen

Um jedoch sicherzustellen, dass solche KI-Systeme tatsächlich einen positiven Beitrag zur Arbeitssicherheit leisten und keine neuen Risiken schaffen, ist eine fundierte Prüfung und Zertifizierung erforderlich. Die verlässliche und transparente Funktionsweise von KI ist unerlässlich, um Vertrauen in diese neuen Technologien aufzubauen und sicherzustellen, dass sie im Arbeitsumfeld sinnvoll und sicher eingesetzt werden.

Die KI-Verordnung der EU, die am 2. August 2026 vollumfänglich in Kraft tritt, reagiert genau auf diese Entwicklungen und die steigende Bedeutung von KI. Sie soll europaweit einheitliche Rahmenbedingungen schaffen, die Sicherheit, Transparenz und ethisch verantwortungsbewusste Anwendung von KI fördern. Die KI-Verordnung teilt KI-Systeme in verschiedene Risikoklassen ein – darunter Systeme mit unakzeptablem Risiko, die verboten werden, bis hin zu Hochrisiko-Systemen, die strengen Anforderungen unterliegen. Damit unterstützt die Verordnung die Schaffung sicherer KI-Technologien, die das Wohl der Beschäftigten in den Mittelpunkt stellen.

Was macht DGUV Test rund um KI?

DGUV Test engagiert sich intensiv für die Entwicklung von Prüfmethoden und Standards zur Bewertung von KI-Systemen. Dies umfasst:

• Entwicklung von Bewertungsgrundsätzen für KI: Die DGUV Test Information 05 enthält allgemeine Grundsätze für die sicherheitstechnische Bewertung von KI-Technologien. Diese Grundsätze unterstützen die Entwicklung produktspezifischer Prüfanforderungen und helfen, sicherheitstechnische Fragestellungen im Umgang mit KI transparent zu machen. Sie bieten eine Orientierung, wie KI-Systeme hergestellt werden können, dass sie den hohen Anforderungen an Arbeitssicherheit und Gesundheitsschutz entsprechen. Gleichzeitig wird in den DGUV Test Prüf- und Zertifizierungsstellen an konkreten Prüfgrundsätzen für KI-Systeme gearbeitet.

• Erprobung von KI-Systemen in der Praxis: Ein anschauliches Beispiel ist die Zertifizierung eines KI-basierten Assistenzsystems zur Handerkennung an einer Formatkreissäge. Die Säge erkennt durch eine Kamera und Machine-Learning-Algorithmen, wenn eine Hand zu nahe an das Sägeblatt kommt, und schaltet in Sekundenschnelle ab, um Verletzungen zu verhindern. Hierbei hat DGUV Test umfassende Prüfungen zur Datenqualität und Wirksamkeit des Systems durchgeführt, etwa hinsichtlich der Erkennung verschiedener Hautfarben, Handbewegungen und anderer Einflussfaktoren. Durch die erfolgreiche Prüfung und Zertifizierung dieses Systems wird ein sicherer und verlässlicher Einsatz in der Praxis ermöglicht.

• Unterstützung von Herstellerunternehmen und Entwicklern: Herstellerunternehmen, die KI-basierte Systeme entwickeln, suchen oft eine unabhängige Zertifizierung, um nachzuweisen, dass ihre Produkte den Anforderungen an Sicherheit und Gesundheitsschutz entsprechen. DGUV Test unterstützt diese Herstellerunternehmen durch Prüfungen dabei, dass ihre KI-Systeme vertrauenswürdig und sicher eingesetzt werden können. Auch ohne bestehende Normen und Standards für KI-Produkte kann DGUV Test durch entwicklungsbegleitende Prüfungen sicherstellen, dass diese Systeme den Anforderungen des Arbeitsschutzes gerecht werden.

Weiterführenden Links und Hinweise

• KI-Verordnung der EU: Informationen zur neuen KI-Verordnung, die den rechtlichen Rahmen für den Einsatz und die Entwicklung von KI in Europa bildet. Weitere Informationen finden Sie hier.
• DGUV Test Information 05: Die umfassenden Grundsätze für die sicherheitstechnische Bewertung von KI-Technologien helfen Entwicklern und Prüfern dabei, KI-Systeme sicher und transparent zu gestalten.
• Praxisbeispiele für KI-Anwendungen: Erfahren Sie mehr über Projekte, bei denen DGUV Test KI-Systeme erfolgreich geprüft und zertifiziert hat, darunter maschinelle Lernsysteme zur Gefahrenerkennung, und über Prüfbereiche, bei denen die sogenannte KI im Mittelpunkt steht.

Für individuelle Beratung stehen Ihnen die Fachleutevon DGUV Test gerne zur Verfügung.