Künstliche Intelligenz (KI) oder auch Artificial Intelligence (AI) wird zu einem wichtigen Bestandteil unseres Lebens – vom Betrieb autonomer Fahrzeuge bis zur Nutzung virtueller Assistent*innen. Dabei ist KI ein komplexes und leistungsfähiges Werkzeug, das ohne Vertrauen in seine richtige, zuverlässige Funktion nicht zielführend eingesetzt werden kann.

So erfordert die Akzeptanz Künstlicher Intelligenz nicht nur technisches Verständnis, sondern auch Vertrauen in ihre Schöpfer*innen sowie die Verpflichtung der Nutzer*innen, KI verantwortungsvoll einzusetzen. Regeln, Gesetze, Normen und Standards spielen entscheidende Rollen, damit Künstliche Intelligenz ethisch, verantwortungsvoll und effizient genutzt werden kann.

1. Künstliche Intelligenz ist ja gerade in aller Munde – was unterscheidet Ihr Buch von den vielen anderen Beiträgen bzw. wo hat es seinen Fokus?

Unser Buch verfolgt einen besonderen Ansatz, denn es richtet sich weder ausschließlich an Technologie-Insider noch ausschließlich an technologieferne Leser. Vielmehr eröffnen wir damit eine Betrachtung künstlicher Intelligenz aus mehreren Perspektiven, ausgehend von den Feldern „Wissenschaft“, „Politik“, „Wirtschaft“ und „Zivilgesellschaft“. Viele Abbildungen und Empfehlungen für die Praxis machen das anspruchsvolle Thema leicht verstehbar. Unser wesentlichster Beitrag ist dabei eine Konkretisierung des in der öffentlichen Diskussion häufig nur unscharf definierten Begriffs der „künstlichen Intelligenz“ aus wissenschaftlichem Blickwinkel. Darauf aufbauend kann „Vertrauenswürdigkeit von KI“ erreicht werden als Wettbewerbsvorteil, Verkaufsargument oder zur Erfüllung der gesetzlichen Anforderungen. Insbesondere wird die europäische KI-Verordnung im Detail diskutiert. Gleichzeitig legen wir entscheidende Ankerpunkte für KI-Software, umgesetzte, KI-rechtfertigende Anwendungsszenarien sowie die Erfüllung gesetzlicher Anforderungen. Währenddessen wird eine Reihe von konkreten und typischen KI-Projekten wird im Detail vorgestellt. Insgesamt bietet sich unser Buch also für einen breiten Adressatenkreis an, von Entscheidungsträgern, über Top-Spezialisten aus Technik und Gesetzgebung, bis hin zu Menschen aus der Zivilgesellschaft mit geringerer Affinität für Technik oder technologische Innovationen.

2. Wie sehen Sie das europäische KI-Gesetz im Hinblick auf die KI-Standorte Deutschland und Europa – Fluch oder Segen?

Das europäische KI-Gesetz verfolgt einen risikobasierten Ansatz, d.h. insbesondere sollten KI-Systeme mit hohem Risiko reguliert werden, im Gegensatz dazu sollen alle anderen KI-Systeme mit weniger Risiko kaum reguliert werden. Dieser differenzierte Ansatz ist zu begrüßen, da er auf der einen Seite Risiken begrenzt und auf der anderen Seite Innovation fördert. Das Buch stellt dieses Konzept im Detail vor, inkl. praktischer Empfehlungen.

In Verbindung damit ist das europäische KI-Gesetz im Rahmen einer angemessenen Regulierung aufgrund der Konkretisierung von Anforderungen zur Schaffung von Vertrauenswürdigkeit bei KI-Systemen und Diensten durchaus ein hilfreicher Ansatz. Währenddessen wird aufgrund von europaweiten Qualitätsstandards eine angemessene funktionale Mindestqualität auf Grundlage der Adressierung von Bedürfnissen von Nutzerinnen und Nutzern aus unserer Zivilgesellschaft sowie Wirtschaft und Wissenschaft erreicht. Im Rahmen der Adressierung von Bedürfnissen erreicht die europäische Gesetzgebung eine Binnenmarkttauglichkeit von KI-Produkten und Diensten mittels der feingranulareren Formulierung von Anforderungen zu dem bevorstehenden, europäischen KI-Gesetz.

3. Gehen Sie davon aus, dass KI irgendwann tatsächlich autonom entscheiden wird und wer trägt dann die Verantwortung für ihre Entscheidungen?

KI wird in der Tat laufend intelligenter, neue Geschäftsmodelle entstehen und die Autonomie der KI steigt. Daher dürfen Unternehmen, Städte und Länder beim Aufbau von Kompetenzen nicht abgehängt werden. Währenddessen ist die Sicherstellung der europäischen digitalen Souveränität entscheidend. Damit zusammenhängende Erfolgsfaktoren und Konzepte für vertrauensvolle KI werden im Buch vorgestellt.

Der entscheidende Durchbruch im Bereich KI, der künstliche Intelligenz zu einem vergleichbaren Intelligenzlevel im Vergleich zur menschlichen Intelligenz macht, ist bislang trotz vieler beeindruckender Fortschritte noch nicht wirklich absehbar. Ebenso wenig sind die Anforderungen für die Verantwortung dazu vollumfänglich spezifizierbar. Juristen unterscheiden hier zum Beispiel zwischen der Verantwortung des Herstellers bei der Entwicklung und der Verantwortung des Betreibers eines KI-Systems im laufenden Einsatz. Weitere Aspekte und deren konkrete Ausgestaltung der Verantwortung werden vermutlich Gesetzgeber und Rechtsprechung nach und nach definieren müssen, da gesetzliche Pflichten zum Aufzeigen grundlegender Anforderungen an Schutz und Sicherheit aus der bisherigen Regulierungspraxis unabdingbar sind. Im Buch werden Diskussionsansätze dazu mit vielen Abbildungen griffig dargestellt.

4. Es wird ja gerade sehr viel über KI und die Erstellung von Texten oder Bildern gesprochen – was ist aus Ihrer Sicht das nächste große Thema, das durch KI verändert wird?

Die Fähigkeit von Computern, etwas nicht explizit Vorgegebenes zu generieren, ist tatsächlich ein großer Schritt. Deshalb ist „Generative AI“, wie z.B. ChatGPT, in aller Munde. Diese „kreativen KI-Fähigkeiten“ werden in die SW-Anwendungen für Unternehmen, bzw. die KIs für klassische Geschäftsprozesse eingebaut. Daher könnte ein nächster Schritt sein, die effektive Kombination mehrerer komplexer Fähigkeiten innerhalb eines KI-Systems sein, das deutlich mehr Aufgaben erfüllen kann als gegenwärtige Systeme. In diesem Zusammenhang werden Anforderungen an Transparenz und Kontrolle zunehmend an Bedeutung gewinnen. Konzepte für Transparenz und Vertrauenswürdigkeit von KI stellen das Herzstück des Buches dar. Manche Experten erwarten hier sogar die Entstehung einer „Super-KI“, die dem Menschen überlegen sein könnte. Aus unserer Sicht ist es jedoch eine offene Frage, ob dies tatsächlich so eintreten wird. Wahrscheinlicher ist die schrittweise Automatisierung von Geschäftsprozessen. Eventuell könnte auch eine KI-getriebene Optimierung funktionaler Anwendungen innerhalb des Metaverse ein Thema werden, beispielsweise zur Optimierung von hochvernetzter Informations- und Kommunikationstechnik im Hinblick auf Ressourceneffizienz und funktionale Charakteristiken. Für all das ist Vertrauen in KI die Voraussetzung. Wie dies zu erreichen ist, trägt das Buch mit Konzepten bei.

5. KI spielt in vielen Büchern, Filmen und Computerspielen eine Rolle – welches ist Ihr persönliches Lieblingswerk bzw. kommt Ihrer Vorstellung von KI am nächsten?

Uns gefällt die Entwicklung von KIs im Bereich der Spiele besonders gut: 1997 schlägt „Deep Blue“ Garri Kasparow im Schach, 2011 gewinnt „Watson“ u.a. gegen Kenn Jennings die beliebte US-Fernsehshow „Jeopardy!“ und beantwortet schwierige Fragen in natürlicher Sprache schneller als die Champions, gefolgt 2016 von „AlphaGo“, welche den weltführenden Profispieler im Spiel „Go“ Lee Sedol auf der Basis von antrainierten Spielmustern besiegt. Die drei Beispiele zeigen die stetig zunehmenden Möglichkeiten von intelligenten Assistenten auf. Die zugrundeliegenden KI-Methoden werden im Buch ausführlich vorgestellt und diskutiert; hier: klassische KI mit Vorhersagen, symbolische KI mit NLP und bei „Go“ die Mustererkennung mittels Methoden des maschinellen Lernens. Unabhängig davon gefällt uns der Film „Ex-Machina“ besonders gut, weil er anhand der Geschichte um die humanoide Roboterin Ava spannend die Frage aufwirft, ob und unter welchen Bedingungen wir intelligenten Maschinen vertrauen können. Dies ist auch das Herzstück unseres Buches.

Dr. Wolfgang Hildesheim erklärt, warum KI für unsere Wirtschaft wichtig ist und welche Rolle klare Regeln für Schöpfung und Nutzung von Künstlicher Intelligenz dabei spielen.