Papal writing «Artificial Intelligence and the Wisdom of the Heart: Towards a Fully Human Communication”

deutsch- Künstliche Intelligenz und Weisheit des Herzens:
für eine wahrhaft menschliche Kommunikation
Liebe Brüder und Schwestern!
Die Entwicklung von Systemen sogenannter „künstlicher Intelligenz“, über die ich mich bereits in
meiner jüngsten Botschaft zum Weltfriedenstag geäußert habe, verändert die Information und
Kommunikation und damit einige der Grundlagen des zivilen Zusammenlebens in radikaler Weise.
Es handelt sich um einen Wandel, der alle betrifft, nicht nur Fachleute. Die beschleunigte
Verbreitung wunderbarer Erfindungen, deren Funktionsweisen und Potenziale den meisten von
uns verschlossen bleiben, löst ein Erstaunen aus, das zwischen Begeisterung und
Orientierungslosigkeit schwankt und uns unweigerlich mit grundlegenden Fragen konfrontiert: Was
ist der Mensch, was ist seine Besonderheit, und wie sieht die Zukunft unserer Spezies homo
sapiens im Zeitalter der künstlichen Intelligenz aus? Wie können wir wahrhaft Mensch bleiben und
den stattfindenden kulturellen Wandel zum Guten lenken?
Vom Herzen ausgehen
Zunächst einmal lohnt es sich, das Terrain von schwarzmalerischen Lesarten und ihren
lähmenden Auswirkungen zu räumen. Romano Guardini, der sich bereits vor hundert Jahren
Gedanken über die Technik und den Menschen machte, rief dazu auf, sich nicht gegen das
„Neue“ zu versteifen, in dem Bemühen, »eine schöne Welt zu bewahren […], die untergehen
muss«. Zugleich warnte er aber auch eindringlich und prophetisch: »Unser Platz ist im
Werdenden. Wir sollen uns hineinstellen, jeder an seinem Ort,[…] ehrlich unser Ja dazu sprechen;
doch zugleich mit unbestechlichem Herzen fühlend bleiben für alles, was darin zerstörend,
unmenschlich ist«. Und er schloss mit den Worten: »Wohl handelt es sich um technische,
wissenschaftliche, politische Aufgaben; die aber sind nur vom Menschen her zu lösen. Ein neues
Menschentum muss erwachen, von tieferer Geistigkeit, neuer Freiheit und Innerlichkeit« [1].
In diesem Zeitalter, das in der Gefahr steht, reich an Technik und arm an Menschlichkeit zu sein,
muss unser Nachdenken vom menschlichen Herzen ausgehen [2]. Nur wenn wir eine geistliche
Sichtweise einnehmen, nur wenn wir wieder eine Herzensweisheit erlangen, können wir die
Neuerungen unserer Zeit deuten und interpretieren und den Weg zu einer wahrhaft menschlichen
Kommunikation wiederentdecken. Das Herz, biblisch verstanden als Sitz der Freiheit und der
wichtigsten Lebensentscheidungen, ist ein Symbol der Ganzheit, der Einheit, aber es hat auch mit
Gefühlen, Wünschen und Träumen zu tun; vor allem ist es ein innerer Ort der Gottesbegegnung.
Die Herzensweisheit ist also jene Tugend, die es uns ermöglicht, das Ganze und die Teile, die
Entscheidungen und ihre Folgen, die Stärken und die Schwächen, die Vergangenheit und die
Zukunft, das Ich und das Wir miteinander zu verbinden.
Diese Weisheit des Herzens lässt sich von denen finden, die sie suchen, und sie lässt sich von
denen erblicken, die sie lieben; sie kommt denen zuvor, die nach ihr verlangen, und sie geht auf
die Suche nach denen, die ihrer würdig sind (vgl. Weish 6,12-16). Sie ist bei denen, die sich
beraten lassen (vgl. Spr 13,10), bei denen, die ein fügsames Herz, ein hörendes Herz haben (vgl.
1 Kön 3,9). Sie ist eine Gabe des Heiligen Geistes, die es ermöglicht, die Dinge mit den Augen
Gottes zu sehen, die Zusammenhänge, Situationen, Ereignisse zu verstehen und ihre Bedeutung
zu entdecken. Ohne diese Weisheit wird das Leben fade, denn es ist gerade die Weisheit – deren
lateinische Wortwurzel sapere sie mit sapor (Geschmack) verbindet – die dem Leben Geschmack
verleiht.
Chancen und Gefahren
Wir können diese Weisheit nicht von Maschinen erwarten. Auch wenn der Begriff künstliche
Intelligenz inzwischen den korrekteren, in der wissenschaftlichen Literatur verwendeten Begriff
maschinelles Lernen verdrängt hat, ist allein schon die Verwendung des Wortes „Intelligenz“
irreführend. Maschinen verfügen sicherlich über eine unermesslich größere Fähigkeit als der
Mensch, Daten zu speichern und sie untereinander in Beziehung zu setzen, aber es ist kommt
dem Menschen zu, und nur ihm, deren Sinn zu verstehen. Es geht also nicht darum von
Maschinen zu verlangen, menschlich zu wirken. Es geht vielmehr darum, den Menschen aus der
Hypnose zu wecken, in die er aufgrund seines Allmachtswahns verfällt, indem er sich für ein völlig
autonomes und selbstbezügliches Subjekt hält, das von allen sozialen Bindungen losgelöst ist und
seine Geschöpflichkeit vergessen hat.
In Wirklichkeit macht der Mensch seit jeher die Erfahrung, dass er sich selbst nicht genügt und er
versucht, seine Verwundbarkeit mit allen Mitteln zu überwinden. Bei den frühesten prähistorischen
Artefakten angefangen, die als Verlängerung der Arme benutzt wurden, über die Medien, die als
Erweiterung des Sprechens eingesetzt werden, sind wir heute bei den ausgefeiltesten Maschinen
2
angelangt, die als Hilfsmittel für das Denken dienen. Jede dieser Wirklichkeiten kann jedoch durch
die Urversuchung vergiftet werden, ohne Gott wie Gott zu werden (vgl. Gen 3), d.h. aus eigener
Kraft das erobern zu wollen, was eigentlich als Geschenk Gottes angenommen und in der
Beziehung zu anderen gelebt werden sollte.
Je nach Ausrichtung des Herzens wird alles, was sich in den Händen des Menschen befindet, zur
Chance oder zur Gefahr. Selbst sein Körper, der als Ort der Kommunikation und Gemeinschaft
geschaffen wurde, kann zu einem Mittel der Aggression werden. Ebenso kann jede technische
Erweiterung des Menschen ein Werkzeug liebevollen Dienstes oder feindlicher Beherrschung
sein. Die Systeme künstlicher Intelligenz können zur Befreiung von der Unwissenheit beitragen
und den Informationsaustausch zwischen verschiedenen Völkern und Generationen erleichtern.
Sie können zum Beispiel eine enorme Fülle von Wissen, das in vergangenen Zeiten
aufgeschrieben wurde, zugänglich und verständlich machen oder Menschen in ihnen unbekannten
Sprachen kommunizieren lassen. Aber sie können zugleich auch Instrument „kognitiver
Verschmutzung“ sein, einer Verzerrung der Wirklichkeit durch teilweise oder gänzlich falsche
Narrative, die dennoch geglaubt – und verbreitet – werden, als ob sie wahr wären. Es genügt, an
das Problem der Desinformation zu denken, mit der wir seit Jahren in Form von Fake News [3] zu
tun haben und die sich heute des Deep Fake bedient, d.h. der Erstellung und Verbreitung von
Bildern, die vollkommen echt wirken, aber falsch sind (auch ich war davon schon betroffen), oder
auch von Audiobotschaften, die die Stimme einer Person verwenden, um Dinge zu sagen, die
dieselbe niemals gesprochen hat. Die Simulation, die diesen Programmen zugrunde liegt, kann in
einigen speziellen Bereichen nützlich sein, aber sie wird dort abartig, wo sie die Beziehung zu den
anderen und zur Wirklichkeit verdreht.
Die erste Welle der künstlichen Intelligenz, die der sozialen Medien, haben wir bereits in ihrer
Ambivalenz verstanden, indem wir neben ihren Chancen auch ihre Risiken und Pathologien
hautnah erlebt haben. Die zweite Stufe generativer künstlicher Intelligenz markiert einen
unbestreitbaren qualitativen Sprung. Es ist daher wichtig, die Möglichkeit zu haben, die
Instrumente zu verstehen, zu begreifen und zu regulieren, die in den falschen Händen zu
negativen Szenarien führen können. Wie alles andere, das aus dem Geist und den Händen des
Menschen hervorgegangen ist, sind auch Algorithmen nicht neutral. Daher ist es notwendig,
präventiv zu handeln und Möglichkeiten für eine ethische Regulierung vorzuschlagen, um die
schädlichen und diskriminierenden oder sozial ungerechten Auswirkungen von Systemen
künstlicher Intelligenz einzudämmen und um zu verhindern, dass sie zur Verringerung von
Pluralismus, zur Polarisierung der öffentlichen Meinung oder zur Herausbildung eines
Einheitsdenkens eingesetzt werden. Ich erneuere daher meinen Appell und fordere »die
Völkergemeinschaft auf, gemeinsam daran zu arbeiten, einen verbindlichen internationalen
Vertrag zu schließen, der die Entwicklung und den Einsatz von künstlicher Intelligenz in ihren
vielfältigen Formen regelt« [4]. Doch wie in jedem Lebensbereich reicht eine Reglementierung
nicht aus.
3
In der Menschlichkeit wachsen
Wir sind aufgerufen, gemeinsam zu wachsen, in der Menschlichkeit und als Menschheit. Die
Herausforderung, vor der wir stehen, liegt darin, einen qualitativen Sprung zu machen, um einer
komplexen, multiethnischen, pluralistischen, multireligiösen und multikulturellen Gesellschaft
gerecht zu werden. Es ist unsere Aufgabe, uns über die theoretische Entwicklung und den
praktischen Gebrauch dieser neuen Instrumente der Kommunikation und der Erkenntnis
Gedanken zu machen. Große Chancen auf Gutes gehen mit dem Risiko einher, dass sich alles in
ein abstraktes Kalkül verwandelt, das die Menschen auf Daten reduziert, das Denken auf ein
Schema, die Erfahrung auf einen Einzelfall, das Gute auf den Profit und vor allem, dass am Ende
die Einzigartigkeit eines jeden Menschen und seiner Geschichte geleugnet wird und sich die
Konkretheit der Wirklichkeit in eine Reihe statistischer Daten auflöst.
Die digitale Revolution kann uns freier machen, aber sicher nicht, wenn sie uns in Modelle
einsperrt, die heute als Echokammern bekannt sind. In solchen Fällen besteht die Gefahr, sich in
einem anonymen Sumpf zu verlieren und die Interessen des Marktes oder der Macht zu bedienen,
statt den Informationspluralismus zu steigern. Es ist nicht hinnehmbar, dass der Gebrauch
künstlicher Intelligenz zu einem anonymen Denken, zu einer Zusammensetzung von
unbestätigten Daten und zu einer kollektiven redaktionellen Verantwortungslosigkeit führt. Die
Abbildung der Wirklichkeit in Big Data, so zweckmäßig sie für den Gebrauch von Maschinen auch
sein mag, impliziert nämlich einen erheblichen Verlust hinsichtlich der Wahrheit der Dinge, was die
zwischenmenschliche Kommunikation behindert und unsere Menschlichkeit selbst zu
beeinträchtigen droht. Information kann nicht von lebendiger Beziehung getrennt werden: Sie
umfasst den Körper, das Stehen in der Wirklichkeit; sie verlangt, nicht nur Daten, sondern auch
Erfahrungen miteinander in Beziehung zu setzen; sie erfordert das Gesicht, den Blick, das
Mitgefühl und den Austausch.
Ich denke an die Berichterstattung über Kriege und an jenen „Parallelkrieg“, der durch
Desinformationskampagnen geführt wird. Und ich denke daran, wie viele Reporter vor Ort verletzt
werden oder sterben, damit wir sehen können, was ihre Augen gesehen haben. Denn nur, wenn
wir das Leiden von Kindern, Frauen und Männern hautnah erleben, können wir die Absurdität von
Kriegen verstehen.
Die Nutzung künstlicher Intelligenz wird einen positiven Beitrag im Bereich der Kommunikation
leisten können, wenn sie die Rolle des Journalismus vor Ort nicht beseitigt, sondern ihn
unterstützt; wenn sie die Professionalität der Kommunikation zur Geltung kommen lässt und jeden
Kommunikator in die Verantwortung nimmt; wenn sie jedem Menschen wieder die Rolle eines
kritikfähigen Subjekts der Kommunikation zurückgibt.
Fragen für Heute und Morgen
4
Es stellen sich daher spontan einige Fragen: Wie können die Professionalität und die Würde der
Beschäftigten im Bereich der Kommunikation und Information sowie die der Nutzer weltweit
geschützt werden? Wie kann die Interoperabilität der Plattformen gewährleistet werden? Wie kann
sichergestellt werden, dass die Unternehmen, die digitale Plattformen entwickeln, ebenso
Verantwortung für das übernehmen, was sie verbreiten und wovon sie profitieren, wie die Anbieter
von traditionellen Medien? Wie können die Kriterien transparenter gemacht werden, die hinter den
Algorithmen zur Indizierung und De-Indizierung sowie für Suchmaschinen stehen, welche in der
Lage sind, Menschen und Meinungen, Geschichten und Kulturen zu verherrlichen oder
auszulöschen? Wie lässt sich die Transparenz von Informationsprozessen gewährleisten? Wie
kann man die Urheberschaft von Schriften ersichtlich und die Quellen nachvollziehbar machen,
um einen Schirm der Anonymität zu verhindern? Wie kann offenkundig werden, ob ein Bild oder
ein Video ein Ereignis abbildet oder es simuliert? Wie kann man vermeiden, dass sich Quellen auf
eine einzige reduzieren, auf ein einziges, algorithmisch erzeugtes Denken? Und wie kann
stattdessen ein Umfeld gefördert werden, das geeignet ist, den Pluralismus zu wahren und die
Komplexität der Wirklichkeit darzustellen? Wie können wir dieses leistungsstarke, teure und
extrem energieintensive Instrument nachhaltig werden lassen? Wie können wir es auch für
Entwicklungsländer zugänglich machen?
Anhand der Antworten auf diese und andere Fragen werden wir verstehen, ob künstliche
Intelligenz am Ende neue, auf Informationsdominanz basierende Kasten hervorbringen wird und
neue Formen der Ausbeutung und Ungleichheit schafft oder ob sie im Gegenteil mehr Gleichheit
mit sich bringt, indem sie korrekte Information und ein größeres Bewusstsein für den
Zeitenwandel, den wir durchlaufen, fördert sowie das Hören auf die vielfältigen Bedürfnisse von
Menschen und Völkern in einem artikulierten und pluralistischen Informationssystem begünstigt.
Auf der einen Seite zeichnet sich das Gespenst einer neuen Sklaverei ab, auf der anderen Seite
ein Zugewinn an Freiheit; einerseits die Möglichkeit, dass einige wenige das Denken aller
bestimmen, andererseits die Chance, dass alle an der Entwicklung des Denkens mitwirken.
Die Antwort steht nicht fest, sie hängt von uns ab. Es liegt am Menschen zu entscheiden, ob er
zum Futter für Algorithmen wird oder ob er sein Herz mit Freiheit nährt, das Herz, ohne das wir
nicht in der Weisheit wachsen können. Diese Weisheit reift, indem man aus der Geschichte lernt
und die Verletzlichkeit akzeptiert. Sie wächst im Bündnis der Generationen, zwischen denen, die
sich an das Vergangene erinnern und denen, die Zukunftsvisionen hegen. Nur in Gemeinschaft
wächst die Fähigkeit, zu unterscheiden, wachsam zu sein und die Dinge von ihrer Erfüllung her zu
sehen. Lasst uns – damit wir unsere Menschlichkeit nicht verlieren – die Weisheit suchen, die
früher als alles erschaffen wurde (vgl. Sir 1,4), die Gottesfreunde und Propheten schafft, indem sie
in reine Seelen eintritt (vgl. Weish 7,27): Sie wird uns helfen, auch die Systeme künstlicher
Intelligenz auf eine wahrhaft menschliche Kommunikation hin auszurichten.
Rom, Sankt Johannes im Lateran, 24. Januar