Heilsbringerin oder Gefahrenquelle? Zu künftigen KI-Anwendungen und internationalen Regulierungsbemühungen

In der vergangenen Woche hielt Dr. Lars Siebert, LL.M. (Emory) den Einführungsvortrag zum „17. Berchtesgadener Dialog - Artificial Intelligence“ mit dem Titel „Heilsbringerin oder Gefahrenquelle? Ein Blick auf künftige KI-Anwendungen und internationale Regulierungsbemühungen“. Dabei führte er zunächst durch zahlreiche KI-Definitionen über Ländergrenzen und Jahrzehnte hinweg. Auf dieser Basis wandte er sich aktuellen Anwendungsbeispielen und Einsatzzwecken von KI zu, um anschließend auf die heutigen Grenzen der KI einzugehen. Schließlich beleuchtete er weltweite Regulierungsansätze in den USA, China, UK und der EU und wagte eine Zukunftsprognose für Anwendungen und Regelsysteme in Unternehmen, die KI als Produzenten oder Nutzer zum Einsatz bringen wollen.

In der Geschichte gab es zahlreiche KI-Definitionen, die sich mit der Entwicklung der Technologie veränderten. KI wurde einst verstanden als „a machine behaving in ways that would be called intelligent if a human were so behaving” (- Dartmouth Summer Research Project on Artificial Intelligence, 1955 -). In der KI-Verordnung der EU ganz aktuell wird KI wie folgt definiert: „A machine-based system that is designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment, and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environment” (- Art. 3 Nr. 1 AI-Act -). Die Definitionen gehen weg vom reinen Vergleich mit dem Menschen, hin zu einer abstrakteren Beschreibung dessen, welche Arbeitsschritte in den Maschinen stattfinden. Sie ändern sich aber auch in Abhängigkeit von den Einsatzzwecken: Intelligentes Fahren, Wort-, Bild- und Videoverarbeitung, -erkennung und -generierung sind einige der Entwicklungen, die in naher Zukunft bevorstehen. KI als Personal Assistants und als gängiges Tool im Zusammenhang mit Arztsprechstunden, in der Sicherheitsbranche, als Ermittlungswerkzeug der Behörden, in der Discovery, im Film sind nur einige Anwendungen, die darüber hinaus für die kommenden Jahre erwartet werden.

Begrenzt sind diese Fortschritte, zumindest momentan, von Schwächen der maschinellen Informationsverarbeitung. Dies erläuterte Dr. Lars Siebert, LL.M. (Emory) anhand verschiedener Beispiele zum schnellen oder langsamen Denken bzw. zu Small oder Big Data. In vielen Fällen ist der Mensch mit seiner Wahrnehmung und Intuition der Maschine noch überlegen, bei der Verarbeitung großer Datenmengen liegen die Maschinen hingegen schon heute regelmäßig vorne.

Die weltweiten Regulierungsansätze unterscheiden sich teils deutlich. In manchen Ländern sind bisher nur Behörden Adressaten der Gesetzgebung, in anderen Behörden und Unternehmen, die KI auf den Markt bringen. Am umfassendsten ist der Regulierungsansatz in der EU, die nicht nur Hersteller, sondern auch Nutzer von KI in die Pflicht nehmen wird. Dr. Lars Siebert, LL.M. (Emory) verglich diese Herangehensweise mit den wesentlich liberaleren Ansätzen in den USA und UK, aber auch der anziehenden Gesetzgebung in China.

Dr. Lars Siebert, LL.M. (Emory) schloss seinen Vortrag mit folgenden Fragen zur Überleitung in die Diskussion:

• Brauchen wir bald KI-Systeme, um KI-Systeme zu verstehen/kontrollieren?
• Wie können KI-basierte Compliance-Systeme die Rechtsabteilung entlasten?
• Wird die Compliance bald hauptsächlich durch (KI) Ethik getrieben werden?
• Wie reguliert man eine Technologie, die schneller lernt als Gesetze geschrieben werden?
• Erfordert der Einsatz von KI die Etablierung einer neuen ePerson?

Bei Fragen zu künftigen KI-Anwendungen, internationalen Regulierungsbemühungen, Gesetzesentwürfen und -vorhaben oder für eine vorausschauende rechtliche Beratung wenden Sie sich gern an Dr. Lars Siebert, LL.M. (Emory) und die weiteren Spezialisten von Büsing Müffelmann und Theye aus IT-Recht und Datenschutz, Forschung & Entwicklung, Technikrecht.

Der Berchtesgadener Dialog, organisiert von AUDI AG, Zentraler Rechtsservice, ist eine Seminarform, die einem kleinen Kreis an Teilnehmer/innen aus Wirtschaft und Recht einen intensiven Austausch ermöglicht. Er findet jährlich statt.