Die neue EU KI-Verordnung – Auswirkungen auf Schweizer Unternehmen

Nach mehrjährigen Verhandlungen hat nun die Europäische Union eine Verordnung beschlossen, die den regulierten und sicheren Einsatz von Artificial Intelligence vorsieht. Zum 1. August tritt die neue KI-VO in Kraft und zielt darauf ab, die Entwicklung und den Einsatz von AI-Systemen innerhalb der EU zu regulieren, um ethische Grundsätze, Sicherheit und den Schutz der Grundrechte zu gewährleisten (siehe EU-VO2024/1689).

Diese Verordnung ist besonders relevant für Unternehmen, die die Implementierung und Verwaltung von AI-Technologien planen und bereits umgesetzt haben. Wir geben einen Überblick über die wichtigsten Bestimmungen der Verordnung, ihre Auswirkungen auf Unternehmen und speziell auf Schweizer Unternehmen, die in der EU tätig sind.

Die EU KI-Verordnung verfolgt einen risikobasierten Ansatz zur Regulierung von AI-Systemen. Dies bedeutet, dass AI-Systeme je nach ihrem Risiko für die Gesellschaft und die Grundrechte der Menschen in verschiedene Kategorien eingeteilt werden:

• Unakzeptables Risiko: AI-Systeme, die eine klare Bedrohung für die Sicherheit, die Lebensgrundlagen oder die Rechte der Menschen darstellen, sind vollständig verboten. Dazu gehören unter anderem Systeme zur sozialen Bewertung durch Regierungen und bestimmte Arten von biometrischer Überwachung.
• Hohes Risiko: Diese Systeme sind zulässig, unterliegen jedoch strengen Auflagen. Beispiele sind AI-Systeme, die in der kritischen Infrastruktur, im Bildungswesen, bei der Personalrekrutierung oder in der Strafverfolgung eingesetzt werden.
• Begrenztes Risiko: Diese Systeme unterliegen spezifischen Transparenzpflichten. Nutzer müssen beispielsweise darüber informiert werden, dass sie mit einem AI-System interagieren.
• Minimales Risiko: Diese Systeme unterliegen keinen zusätzlichen Anforderungen. Dazu zählen die meisten AI-Anwendungen, die keine signifikanten Risiken bergen.

Für Hochrisiko-AI-Systeme definiert die Verordnung strenge Anforderungen, die erfüllt werden müssen, bevor diese Systeme auf den Markt gebracht werden dürfen. Dazu gehören:

• Datenqualität: Sicherstellung der Qualität und Relevanz der Trainingsdaten, um Verzerrungen zu minimieren und genaue Ergebnisse zu erzielen.
• Dokumentation und Protokollierung: Umfassende Dokumentation und Protokollierung, die Transparenz und Nachvollziehbarkeit der Entscheidungen ermöglicht.
• Transparenz und Information: Bereitstellung von klaren und verständlichen Informationen über das Funktionieren und die Einschränkungen des AI-Systems.
• Überwachung und menschliche Aufsicht: Einrichtung von Mechanismen zur Überwachung des AI-Systems und zur menschlichen Aufsicht, um Fehlfunktionen rechtzeitig zu erkennen und zu korrigieren.

Nun sind die EU-Mitgliedsstaaten beauftragt bis zum 02.08.2025 eine Aufsichtsbehörde für die Kontrolle der Verordnung zu benennen. Diese Behörden haben weitreichende Befugnisse, einschließlich der Durchführung von Audits, der Anordnung von Korrekturmaßnahmen und der Verhängung von Geldstrafen bei Verstößen gegen die Verordnung. Unternehmen, die AI-Systeme entwickeln oder einsetzen, müssen mit diesen Behörden zusammenarbeiten und auf Anfrage relevante Informationen zur Verfügung stellen. Die EU KI-Verordnung sieht strenge Sanktionen bei Verstößen vor. Die Höhe der Geldstrafen hängt von der Schwere des Verstoßes ab und kann bis zu 7% des weltweiten Jahresumsatzes eines Unternehmens betragen. Unternehmen in den EU-Mitgliedsstaaten sind nun angehalten, ihre AI-Systeme gem. dieser Verordnung zu prüfen und einzustufen. Hieraus ergeben sich verschiedene neue Tätigkeiten zur Einhaltung:

• Unternehmen, die AI-Systeme entwickeln oder einsetzen, müssen Ressourcen in die Einhaltung der neuen Vorschriften investieren. Dies umfasst die Schulung von Mitarbeitern, die Einrichtung neuer Prozesse und Systeme zur Überwachung und Dokumentation von AI-Anwendungen sowie die Durchführung regelmäßiger Audits und Konformitätsbewertungen.
• Die Verordnung könnte sowohl positive als auch negative Auswirkungen auf Innovation und Wettbewerb haben. Einerseits könnten die strengen Vorschriften und die Notwendigkeit zur Konformität die Innovationsfähigkeit von Unternehmen hemmen und den Markteintritt neuer Akteure erschweren. Andererseits könnte die Schaffung eines klaren und verlässlichen Rechtsrahmens das Vertrauen der Verbraucher und Investoren in AI-Technologien stärken und somit langfristig die Marktchancen für Unternehmen verbessern, die konforme und sichere AI-Lösungen anbieten.
• Die Verordnung legt großen Wert auf den Schutz der Grundrechte und die Einhaltung ethischer Prinzipien. Unternehmen müssen sicherstellen, dass ihre AI-Systeme keine diskriminierenden oder unfairen Entscheidungen treffen und dass sie den Datenschutz und die Privatsphäre der Nutzer respektieren. Dies erfordert eine enge Zusammenarbeit zwischen technischen, rechtlichen und ethischen Experten innerhalb der Unternehmen.
• Unternehmen, die in der EU tätig sind, müssen nicht nur die lokalen Vorschriften einhalten, sondern auch die Entwicklungen auf internationaler Ebene im Auge behalten. Die EU KI-Verordnung könnte als Modell für ähnliche Regelungen in anderen Regionen dienen, was zu einer Angleichung der globalen Standards führen könnte. Unternehmen, die frühzeitig die Anforderungen der EU-Verordnung erfüllen, könnten somit einen Wettbewerbsvorteil erlangen und ihre Position auf dem internationalen Markt stärken.

Auswirkungen für Schweizer Unternehmen
Die EU KI-Verordnung betrifft auch Schweizer Unternehmen, die innerhalb der EU Geschäfte betreiben oder ihre Produkte und Dienstleistungen in die EU liefern. Sie müssen sicherstellen, dass die eingesetzten AI-Systeme (z. B. Copilot for M365, ChatGPT, DeepL, SAP AI) die in ihren EU-Niederlassungen verwendet werden, den Vorschriften entsprechen und dass sie dies nachweisen können. Somit müssen sich auch Schweizer Unternehmen mit dieser EU-KI-Verordnung auseinandersetzen, um weiterhin rechtskonform agieren zu können. Allerdings kann dies auch als Chance gesehen werden, wenn Schweizer Unternehmen, die eigene AI-Lösungen anbieten, die EU-KI-Verordnung frühzeitig berücksichtigen und umsetzen. Damit können sie sich als vertrauenswürdige und verantwortungsvolle Anbieter von AI-Systemen positionieren und die europäischen Kunden und Partner überzeugen. Dies kann zu einem Wettbewerbsvorteil auf dem EU-Markt führen, der für viele Schweizer Unternehmen von grosser Bedeutung ist.

Für die zu erbringende Nachweise haben die Unternehmen je nach AI-System teilweise noch etwas Zeit. So gilt es verbotene KI-Systeme bis zum 02.02.2025 zu deaktivieren. Die meisten Pflichten aus diesem Gesetz gelten ab dem 02.08.2026. Ausgenommen sind Regelungen für die Hochrisiko Systeme, welche ab dem 02.08.2027 gelten. Die Einhaltung der strengeren Vorschriften erfordert Investitionen in Ressourcen und Expertise, bietet jedoch langfristig die Möglichkeit, das Vertrauen der Verbraucher zu gewinnen und die Wettbewerbsposition auf dem internationalen Markt zu stärken.

Teile gerne deine Meinung mit uns. Wir sind gespannt auf dein Feedback.

*Ergebnisse werden anonymisiert gespeichert

Stelle sicher, dass du keinen Beitrag zum Thema AI verpasst und in Zukunft direkt über Neuigkeiten im Bereich Artificial Intelligence informiert bleibst. Registriere dich jetzt für das kostenlose Blog-Abo.

Hast du weitere Fragen? Dann zögere nicht und melde dich bei uns. Wir stehen dir gerne persönlich zur Verfügung. Du erreichst uns unter marketing@bithawk.ch oder 058 226 01 01.

Weitere Themen auf unserem Blog