Papst Franziskus warnt vor Künstlicher Intelligenz, fordert Regulierung

Vatikanstadt, 14 Dezember, 2023 / 11:30 AM

In seiner am Donnerstagvormittag veröffentlichten Botschaft zum Weltfriedenstag hat Papst Franziskus das Zusammenspiel von Künstlicher Intelligenz (KI) und Frieden betrachtet – und dabei teils deutliche Warnungen ausgesprochen sowie eine internationale Regulierung gefordert.

Seit dem Pontifikat von Papst Paul VI. bezeichnet die Kirche den 1. Januar als Weltfriedenstag. Aus diesem Anlass verfassen die Päpste jeweils eine Botschaft.

„Wir freuen uns zu Recht über die außerordentlichen Errungenschaften von Wissenschaft und Technik und sind dankbar dafür, dass dadurch zahllose Übel, die das menschliche Leben heimsuchten und großes Leid verursachten, beseitigt werden konnten“, so Papst Franziskus einerseits, um andererseits zu betonten: „Gleichzeitig legen die wissenschaftlichen und technischen Fortschritte, die eine noch nie dagewesene Kontrolle über die Wirklichkeit ermöglichen, eine Vielzahl von Möglichkeiten in die Hände der Menschen, von denen einige ein Risiko für das Überleben der Menschen und eine Gefahr für das gemeinsame Haus darstellen können.“

„Die bemerkenswerten Fortschritte in den neuen Informationstechnologien, insbesondere im digitalen Bereich, bergen daher erstaunliche Möglichkeiten und ernsthafte Risiken, mit schwerwiegenden Auswirkungen auf das Streben nach Gerechtigkeit und Harmonie zwischen den Völkern“, führte der Pontifex aus.

Für KI gelte: „Bis heute gibt es in der Welt der Wissenschaft und Technik keine einheitliche Definition dafür. Der Begriff selbst, der inzwischen in den allgemeinen Sprachgebrauch eingegangen ist, umfasst eine Vielzahl von Wissenschaften, Theorien und Techniken, die darauf abzielen, dass Maschinen in ihrer Funktionsweise die kognitiven Fähigkeiten des Menschen reproduzieren oder imitieren.“

Vor diesem Hintergrund müsse KI „als eine Galaxie verschiedener Wirklichkeiten verstanden werden, und wir können nicht a priori davon ausgehen, dass ihre Entwicklung einen positiven Beitrag zur Zukunft der Menschheit und zum Frieden zwischen den Völkern leisten wird. Ein solches positives Ergebnis wird nur möglich sein, wenn wir uns als dazu fähig erweisen, verantwortungsbewusst zu handeln und grundlegende menschliche Werte wie ‚Inklusion, Transparenz, Sicherheit, Gerechtigkeit, Vertraulichkeit und Zuverlässigkeit‘ zu respektieren.“

„Es reicht auch nicht aus, bei denjenigen, die Algorithmen und digitale Technologien entwickeln, eine Verpflichtung zu ethischem und verantwortungsvollem Handeln vorauszusetzen. Es müssen Organismen gestärkt oder gegebenenfalls geschaffen werden, die sich mit den neu auftretenden ethischen Fragen befassen und die Rechte derjenigen schützen, die Formen der künstlichen Intelligenz nutzen oder von ihnen beeinflusst werden“, forderte Papst Franziskus.

Auch auf die Thematik des maschinellen Lernens ging der Papst ein, denn dadurch würden Fragen aufgeworfen, „die über den Bereich der Technologie und des Ingenieurwesens hinausgehen und mit einem Verständnis zu tun haben, das eng mit dem Sinn des menschlichen Lebens, den grundlegenden Prozessen des Wissens und der Fähigkeit des Geistes, zur Wahrheit zu gelangen, verbunden ist. Die Fähigkeit einiger Geräte, syntaktisch und semantisch kohärente Texte zu produzieren, ist zum Beispiel keine Garantie für Zuverlässigkeit.“

„Vertraulichkeit, Dateneigentum und geistiges Eigentum sind weitere Bereiche, in denen die betreffenden Technologien ernsthafte Risiken bergen, zu denen noch weitere negative Folgen ihres Missbrauchs hinzukommen, wie Diskriminierung, Einmischung in Wahlprozesse, das Aufkommen einer Überwachungsgesellschaft, digitale Ausgrenzung und die Verschärfung eines Individualismus, der sich zunehmend von der Gemeinschaft abkoppelt. All diese Faktoren bergen die Gefahr, Konflikte zu schüren und den Frieden zu behindern“, ergänzte er.

Papst Franziskus warnte: „Wenn der Mensch, der definitionsgemäß sterblich ist, […] meint, mit Hilfe der Technik jede Grenze zu überschreiten, läuft er durch die Besessenheit alles kontrollieren zu wollen Gefahr, die Kontrolle über sich selbst zu verlieren; auf der Suche nach absoluter Freiheit in die Spirale einer technologischen Diktatur zu geraten. Das Anerkennen und Akzeptieren der eigenen geschöpflichen Grenzen ist für den Menschen die unverzichtbare Bedingung, um die Fülle als Gabe zu erlangen, oder besser, anzunehmen.“

Der Pontifex sprach mehrere ethische Fragen an, etwa, wie die Bewertung der Kreditwürdigkeit einer Person durch KI ablaufen könne: „Das Fehlen unterschiedlicher Vermittlungsebenen, das diese Systeme mit sich bringen, ist für bestimmte Formen von Vorurteilen und Diskriminierung besonders anfällig: Systemfehler können sich leicht vervielfachen und so nicht nur in Einzelfällen zu Ungerechtigkeiten, sondern durch einen Dominoeffekt auch zu echten Formen sozialer Ungleichheit führen.“

Auch die Auswirkungen von KI auf den Arbeitsmarkt seien zu bedenken, denn „Tätigkeiten, die früher ausschließlich der menschlichen Arbeitskraft vorbehalten waren, werden rasch von industriellen Anwendungen der künstlichen Intelligenz übernommen. Auch in diesem Fall besteht das erhebliche Risiko eines unverhältnismäßigen Vorteils für einige wenige zum Preis der Verarmung vieler. Die Achtung der Würde der Arbeitnehmer und die Bedeutung der Beschäftigung für den wirtschaftlichen Wohlstand der Personen, der Familien und der Gesellschaften, die Sicherheit der Arbeitsplätze und faire Gehälter sollten für die internationale Gemeinschaft eine hohe Priorität darstellen, während diese Formen der Technologie immer tiefer in die Arbeitswelt eindringen.“

Unmittelbar mit Blick auf das Thema Frieden warnte der Papst vor dem Gebrauch von KI für Waffensysteme: „Kurz gesagt, die Welt hat es wirklich nicht nötig, dass die neuen Technologien zu einer unfairen Entwicklung des Waffenmarktes und -handels beitragen und so den Wahnsinn des Krieges fördern.“

Auf der anderen Seite könne der Frieden aber gefördert werden, wenn KI „zur Förderung einer ganzheitlichen menschlichen Entwicklung eingesetzt würde, wichtige Innovationen in der Landwirtschaft, der Bildung und der Kultur, eine Verbesserung des Lebensstandards ganzer Nationen und Völker sowie das Wachstum der menschlichen Geschwisterlichkeit und der sozialen Freundschaft bewirken“.

„Die globale Reichweite der künstlichen Intelligenz macht deutlich, dass neben der Verantwortung der souveränen Staaten, deren Einsatz innerhalb ihres eigenen Hoheitsgebiets zu regeln, internationale Organisationen eine entscheidende Rolle beim Abschluss multilateraler Vereinbarungen spielen können und dabei, deren Anwendung und Umsetzung zu koordinieren“, betonte Papst Franziskus. Er fordere „die Völkergemeinschaft auf, gemeinsam daran zu arbeiten, einen verbindlichen internationalen Vertrag zu schließen, der die Entwicklung und den Einsatz von künstlicher Intelligenz in ihren vielfältigen Formen regelt“.