Gespräche über KI – warum das Ganze?

Künstliche Intelligenz (KI), bzw. Artificial Intelligence (AI), ist in aller Munde. Es gibt große Versprechungen und große Befürchtungen von vielen Seiten. Seit ChatGPT auf dem Markt ist, scheint es, als ob KI die Lösung aller Probleme der Menschen ist und gleichzeitig neue Probleme schafft. Es stellen sich viele Fragen. Wir bemühen uns hier, belastbaren Antworten zumindest ein wenig näherzukommen.

Was meint ein sächsischer Innenminister, wenn er sagt: „Ich bin schon länger der festen Überzeugung, dass wir in der Gefahrenabwehr ohne das Element KI nicht auskommen werden.“

Wie soll es aussehen, wenn KI zur „innovativen Weiterentwicklung des Mobilitätssystems durch Digitalisierung und digitale Vernetzung im Verkehrssektor eingesetzt wird“, wie auf Seite 18 vom „Entwurfs eines Klimaschutzprogramms 2023 der Bundesregierung“ zu lesen ist?

Vieles klingt, als ob es die eine KI, ähnlich wie in „Golem XIV“ von Stanisław Lem (1921–2006), geben wird, die ich etwas frage und sie gibt mir die eine Lösung. Spoiler: Golem hat den Kontakt zu den Menschen getrennt, sie waren ihm einfach zu dumm. Es stellt sich also grundlegend die Frage, ob KI das kann, was einige Protagonisten uns versprechen, oder ob sie nur ein weiteres Werkzeug in unserem Werkzeugkoffer ist, ähnlich wie Rechenschieber, Taschenrechner und MS-Excel.

Was ist diese KI?

Gute Frage, nächste Frage – seit kurzem gibt es den Digital Service Act (DSA) der den Einsatz von KI in Europa regeln soll. Diese bezieht sich auf die Definition für KI der OECD, was finden wir da? Unter „Was ist KI“ steht: „Eine allgemein anerkannte Definition von KI gibt es nicht“, aber es wurde 2018 eine Expertengruppe eingesetzt, um eine Definition zu erarbeiten.

Diese finden wir dann auf Seite 5 eines anderen Dokumentes: „Ein KI-System ist ein maschinenbasiertes System, das für bestimmte von Menschen definierte Ziele Voraussagen machen, Empfehlungen abgeben oder Entscheidungen treffen kann, die das reale oder virtuelle Umfeld beeinflussen. KI-Systeme können mit einem unterschiedlichen Grad an Autonomie ausgestattet sein.“

Demzufolge wäre der altbekannte Amazon-Algorithmus „Menschen, die das kauften, interessierten sich auch für das“ schon KI, dieser beeinflusst ja eventuell unser Kaufverhalten durch seine Empfehlungen.

Es ist aber noch ganz anders, denn der DSA kennt Ausnahmen von dieser Definition. Warten wir also ab, was eventuell Gerichte, bei dem Versuch der Durchsetzung des DSA, entscheiden werden.

Kann KI den Menschen ersetzen?

Ja – nein – vielleicht ist die wahrscheinliche Antwort. Es wird, wie schon bei vielen Erfindungen und Entwicklungen, große Umbrüche in Berufsfeldern geben.

Der Kutschenbauer und der Peitschenmacher wurden durch die Automobilisierung überflüssig, der Verkehrspolizist bekam andere Aufgaben als die Verkehrsregelung durch die Einführung der Verkehrsampeln und der Traktorfahrer ersetzte den Gespannführer in der Landwirtschaft. Alte Berufe fielen weg, neue entstanden oder die alten Berufe änderten sich.

Mitunter gab es, durch die Einführung neuer Techniken, extreme Änderungen – so wird es wohl auch bei der KI-Revolution werden. Ist das ein Grund, Angst davor zu haben?

Kann KI Bildung ersetzen?

Falsche Frage, der Umgang mit KI wird vielleicht eine andere Bildung erfordern. Es wird nicht mehr ausreichen, dass Zahlen, Daten und Fakten auswendig gelernt werden. Mit dem Datenschatz, der einer KI zur Verfügung steht, können wir nicht konkurrieren. Das können wir aber heute schon, bei dieser Art von Wissen, mit Google und anderen Suchmaschinen nicht.

Bildung muss uns dazu befähigen, die Ergebnisse, die uns eine KI vorschlägt, auf Plausibilität zu prüfen, diese nicht kritiklos zu akzeptieren und den Output der KI nicht als Anweisung, sondern als Empfehlung anzusehen. Es wird dringend Umbrüche im Bildungssystem geben müssen.

Können wir uns auf KI verlassen?

Auch eine falsche Frage, richtig wäre: „Können wir uns auf Menschen, Firmen und Institutionen, die KI entwickeln und trainieren, verlassen?“ Wer, mit welcher Intention, die Algorithmen schreibt und die Trainingsdaten auswählt, das muss transparent werden.

Nehmen wir an, eine KI wird mit den Märchen der Gebrüder Grimm, mit dem „Hexenhammer“ von Henricus Institoris und der Bibel trainiert. Wahrscheinlich reicht es schon aus, dass diese ohne den Kontext „Märchen“, „Propaganda“ und „religiöse Schrift“ in den Trainingsdaten enthalten sind. Wie groß ist dann die Wahrscheinlichkeit, dass die KI auf die Frage „Bärbel ist eine alte Hexe, was soll ich mit ihr machen?“ mit „Eine Hexe sollst du nicht am Leben lassen.“ (Ex. 22.17) antwortet?

In meinem ersten Artikel zu KI habe ich beschrieben, dass ChatGPT die zweite Strophe vom „Heideröslein“ erfunden hat. Warum, da kann ich nur spekulieren. Vielleicht weil in den Trainingsdaten einerseits enthalten war „Das Heideröslein ist ein Gedicht mit drei Strophen“, aber andererseits nur die erste Strophe in Textform aufgenommen wurde.

Die Frage ist also wirklich: Können wir den Menschen vertrauen, die die KI für uns bauen?

Die Gespräche

Wir können diese Fragen nicht beantworten, also spreche ich mit Menschen über ihre Erfahrungen mit, Erwartungen an und Befürchtungen durch den Einsatz von KI.

Als Erstes habe ich mit einem Lehrer und Autor über seine Kritik an dem Einsatz von KI in Schulen, einem Pfarrer über ein KI-Experiment, einer Psychologin über hybride Gesellschaften und einem KI-Programmierer über Daten-Anonymisierung gesprochen.

Weitere Gespräche mit Juristen, Ärzten, Personalern und anderen werden folgen. Ich bin selbst gespannt, wohin uns diese Reise führt.

„Gespräche über KI – warum das Ganze?“ erschien erstmals im am 03.05.2024 fertiggestellten ePaper LZ 124 der LEIPZIGER ZEITUNG.

Sie wollen zukünftig einmal im Monat unser neues ePaper erhalten? Hier können Sie es buchen.