Künstliche Intelligenz ist aus der Unternehmenslandschaft nicht mehr wegzudenken - eine Tatsache, die Fragen bezüglich ethischer Standards und Compliance aufwirft. Wie können Unternehmen KI verantwortungsvoll nutzen?

Künstliche Intelligenz (KI) ist dabei, den Status der technologischen Ausnahmeerscheinung abzulegen. Und obwohl KI gerade erst anfängt, die Arbeitsweisen in Unternehmen Stück für Stück zu verändern, beweist das enorme Verbreitungstempo eindrucksvoll das große Potenzial der Technologie. Mit dem Einzug der KI in Unternehmensalltag wachsen auch die Anforderungen an ethische und regulative Standards. Neben dem Gesetzgeber und den Unternehmen, die KI einsetzen, stehen dabei vor allem die KI-Entwickler selbst im Fokus.

KI überwachen, schützen und steuern

Unternehmen wie Infosys, ein Anbieter für digitale Dienstleistungen und Beratung der nächsten Generation, sehen sich in der Pflicht, dieser Entwicklung Rechnung zu tragen. Eine Umfrage des Infosys Knowledge Institute unter Unternehmensentscheidern ergab, dass Organisationen weltweit Datenschutz, Security, Ethik und Voreingenommenheit als die größten Herausforderungen ansehen, die mit Innovationen durch KI einhergehen. Aus diesem Grund hat Infosys die Responsible AI Suite entwickelt. Sie soll Unternehmen helfen, Innovation mit ethischen Erwägungen in Einklang zu bringen und KI bestmöglich einzusetzen.

Die mehr als zehn verschiedenen Lösungen verteilen sich auf die Bereiche, die den Umgang mit KI bestimmen: Überwachung, Schutz und Steuerung. Im Bereich der Überwachung werden in einer Datenbank allgemeine KI-Risiken, rechtliche Rahmenbedingungen und mögliche Schwachstellen der Systeme hinterlegt. Somit ist der Compliance-Status aller damit verbundenen KI-Projekte stets ab- und nachprüfbar. 

Die Komponenten im Bereich Schutz sind technische Leitplanken und Kontrollmechanismen, die sicherstellen sollen, dass alle zugrundeliegenden Richtlinien bereits beim Aufsetzen einer KI-Lösung berücksichtigt werden. Das Angebot rund um die Steuerung von KI umfasst Beratungs- und Consulting-Services. Teil des Angebots ist es, KI-Strategien zu formulieren sowie Rechtsberatung und Vertragsprüfungen durchzuführen.

Worauf Unternehmen achten müssen

Infosys hat diese Prinzipien für seine eigene Arbeit bereits verinnerlicht: „Sobald wir ein KI-Projekt mit einem Kunden beginnen, stellen wir sicher, dass unser Team für Rechts- und KI-Fragen involviert ist. Von der Beratung über die Durchführung bis hin zur Dokumentation möchten wir ein ganzheitliches Angebot machen“, sagt Andrea Hendrickx, Leiterin von Infosys Deutschland.

Was ist der EU AI Act?

Kurzdefinition

Der EU AI Act ist ein Regelwerk der Europäischen Union, das darauf abzielt, den Einsatz von Künstlicher Intelligenz (KI) zu regulieren. Der Gesetzesentwurf klassifiziert KI-Systeme basierend auf ihrem Risikoniveau und legt entsprechende Anforderungen fest.

Unzulässige KI-Praktiken

Verbietet bestimmte Anwendungen, die als klare Gefahr für die Sicherheit, Lebensgrundlagen oder Rechte der Menschen betrachtet werden.

Hochrisiko-KI-Systeme

Stellt strenge Anforderungen an Transparenz, Genauigkeit und Sicherheit für KI-Systeme, die in kritischen Bereichen wie Gesundheitswesen, Polizeiarbeit oder Verkehr eingesetzt werden.

Geringeres Risiko

Für KI-Systeme mit geringerem Risiko sind weniger strenge Vorschriften vorgesehen, aber Transparenzmaßnahmen sind erforderlich, beispielsweise müssen Nutzer wissen, wenn sie mit einer KI interagieren.

Minimales Risiko

Für viele KI-Anwendungen, die allgemein als sicher gelten, gibt es keine oder nur minimale Anforderungen.

Eine umfassende Beratung auf allen drei Ebenen habe für Unternehmen zudem noch einen Vorteil, sagt Hendrickx: „Sie können sicher sein, im Rahmen des EU AI Acts keine bösen Überraschungen zu erleben.“ Das Regelwerk der Europäischen Union soll KI-basierte Innovation fördern, während gleichzeitig Missbrauch verhindert und das Vertrauen der Öffentlichkeit in die Technologie gestärkt werden soll. Das Gesetz definiert zu diesem Zweck Risikoklassen für KI-Systeme und legt entsprechende Anforderungen fest. „Der EU AI Act ist ein wettbewerbsfreundliches, starkes Gesetz für die Mitgliedsstaaten der Europäischen Union. Wer eine gesetzeskonforme Lösung entwickelt, kann sie im gesamten europäischen Wirtschaftsraum nutzen“, erklärt Hendrickx.

Um es Unternehmen einfacher zu machen, sich KI-Lösungen zu nähern, hat Infosys zehn Handlungsempfehlungen zusammengestellt:

Zehn Punkte, die Unternehmen beim Einsatz von KI angehen sollten

1. Vergänglichkeit von Modellen akzeptieren

Daten und Wissen zur Organisation sind langlebig und bilden eine stabile Grundlage für Unternehmen. Im Gegensatz dazu sind KI-Modelle vergänglich, da neue und verbesserte Modelle kontinuierlich entwickelt werden. Unternehmen sollten daher eine flexible Infrastruktur schaffen, die es ihnen ermöglicht, Modelle je nach Bedarf auszutauschen, um die neuesten Innovationen zu nutzen.

2. Halluzinationen in LLMs angehen

Große Sprachmodelle (Large Language Models, kurz: LLMs) neigen zu Halluzinationen, also zu falschen oder irreführenden Antworten. Diese Probleme erfordern fortlaufende Aufmerksamkeit und Korrekturen, indem die Trainingsdaten von Fehlinformationen und Verzerrungen bereinigt werden. Zusätzlich sollten Techniken wie Retrieval Augmentation, also das das Anbinden zusätzlicher Wissensquellen, eingesetzt werden, um Wissen abzugrenzen und die Genauigkeit der Modelle zu verbessern.

3. Spezialisierte Modelle entwickeln

Obwohl der Trend zu immer größeren allgemeinen Modellen geht, ist die Entwicklung spezialisierter, fein abgestimmter Modelle für bestimmte Aufgaben oft effektiver. Diese können mit weniger Daten und in kürzerer Zeit entwickelt werden, zudem sind sie in der Anwendung häufig effizienter und zielgerichteter.

4. Poly-AI-Architektur einführen

Eine vielfältige KI-Architektur ermöglicht es Unternehmen, verschiedene KI-Systeme und -Modelle zu nutzen, um Abhängigkeiten von einzelnen Anbietern zu minimieren. Dies fördert eine flexible Anpassung an wechselnde Anforderungen und unterstützt die Nutzung der jeweils besten Technologie für spezifische Aufgaben.

5. Strategische AI-Wertanalyse durchführen

Eine tiefgehende Analyse der Geschäftsprozesse kann aufzeigen, wo KI den größten Einfluss haben kann. Durch die Identifizierung von Bereichen mit hohem Geschäftswert statt isolierter Anwendungsfälle können Unternehmen ihre Ressourcen gezielter einsetzen und den Nutzen von KI maximieren.

6. Zusammenarbeit der Unternehmensbereiche

Eine ganzheitliche Architektur, die Daten, Wissen und Modelle unternehmensweit vernetzt, ist entscheidend, um die Potenziale von KI voll auszuschöpfen. Diese Zusammenarbeit zwischen den Bereichen fördert Innovationen und erlaubt es, schnell auf Veränderungen zu reagieren und neue Geschäftschancen zu nutzen.

7. Robustes Datenmanagement etablieren

Ein effektives Datenmanagement ist die Grundlage für erfolgreiche KI-Anwendungen. Datenschutz, Datensicherheit und die Usability von Daten müssen gewährleistet sein, um Modelle effektiv trainieren und einsetzen zu können. Ein verantwortungsvolles Datenmanagement umfasst auch die Einhaltung von Compliance-Vorgaben und die Absicherung von Daten in allen Zuständen.

8. Zwei Innovationsansätze verfolgen.

Die schnelle, teils unübersichtliche Entwicklung neuer KI-Technologien und -Modelle erfordert von Unternehmen einen bimodalen Umgang damit. Der erste Modus konzentriert sich auf Effizienz und Stabilität. Er beinhaltet die Nutzung bewährter Technologien und Methoden, um die Kerngeschäftsprozesse zu unterstützen und sie zu verbessern. Der zweite Modus dreht sich um das Experimentieren mit neuen Technologien und Arbeitsweisen, auch wenn diese noch nicht vollständig ausgereift sind. So nutzen Organisationen die Vorteile von schnellen technologischen Fortschritten, ohne ihre operative Integrität zu gefährden.

9. KI-Regulationen proaktiv managen

Da KI-Regulationen schnell fortschreiten und sich ständig verändern, müssen Unternehmen proaktiv bleiben und ihre Prozesse entsprechend anpassen. Dies umfasst die Überwachung internationaler Entwicklungen und die Implementierung von Systemen, die eine Einhaltung der regulatorischen Anforderungen sicherstellen.

10. Das Potenzial des Menschen durch KI steigern

KI sollte die Fähigkeiten der Mitarbeitenden erweitern und nicht nur Aufgaben automatisieren. Die Technologie kann dazu beitragen, dass Mitarbeitende produktiver werden und sich auf wertstiftende Aktivitäten konzentrieren können. Die Entwicklung von KI-Kompetenzen bei den Mitarbeitenden ist ebenso wichtig, um das volle Potenzial der Technologie auszuschöpfen.