Papst Leo XIV. fordert globale KI-Regulierung in wegweisendem Lehrschreiben

Papst Leo XIV. hat sein erstes Lehrschreiben veröffentlicht. Darin fordert er eine strikte internationale Regulierung künstlicher Intelligenz und warnt davor, dass die Technologie Macht in wenigen Händen konzentriert, Desinformation verbreitet und bewaffnete Konflikte befeuert. Das 83-seitige Dokument mit dem Titel „Magnifica Humanitas“ (Herrliche Menschheit) wurde am Montag im Vatikan vorgestellt. Es richtet sich an die 1,4 Milliarden Mitglieder der katholischen Kirche sowie an alle Menschen guten Willens.

KI darf nicht in privaten Händen bleiben

Im Mittelpunkt des Lehrschreibens steht eine Warnung davor, wer KI kontrolliert. „Wenn eine solche Macht in den Händen weniger konzentriert ist, neigt sie dazu, undurchsichtig zu werden und sich der öffentlichen Aufsicht zu entziehen“, schreibt Leo. Er fordert, dass KI-Daten nicht allein in privaten Händen bleiben dürfen, und verlangt robuste rechtliche Rahmenbedingungen, unabhängige Aufsichtsbehörden sowie ein politisches System, das „seine Verantwortung nicht abgibt.“

Der Papst wendet sich direkt gegen Tech-Manager, die Einschränkungen ablehnen. Er argumentiert, dass „Besonnenheit, strenge Bewertung und bisweilen auch ein langsameres Tempo bei der Einführung von KI“ kein Widerstand gegen Fortschritt sei, sondern „verantwortungsvolle Fürsorge für die Menschheitsfamilie.“

Das Lehrschreiben wurde gemeinsam mit Chris Olah vorgestellt, dem Mitgründer von Anthropic, dem Unternehmen hinter dem KI-Assistenten Claude. Olah räumte ein, dass KI-Unternehmen wie seines in einem Umfeld von „Anreizen und Zwängen“ operierten, die „manchmal im Widerspruch zum richtigen Handeln stehen.“ Er rief Religionsgemeinschaften, Zivilgesellschaft und Regierungen dazu auf, die Entwicklung stärker zu hinterfragen.

Die zentralen Kritikpunkte im Überblick

• KI im Krieg: Der Papst erklärt es für „nicht zulässig“, KI-Systemen tödliche Entscheidungen zu überlassen. Der militärische Einsatz von KI senke „die moralische Hemmschwelle im Konflikt.“
• Desinformation: Leo warnt, dass „Gleichgültigkeit gegenüber der Wahrheit langsam, aber sicher in den Totalitarismus führt.“ Er fordert eine „Ökologie der Kommunikation“ auf Basis von Transparenz und überprüftem Journalismus.
• Arbeitnehmerrechte: KI zwinge Beschäftigte häufig dazu, „sich dem Tempo und den Anforderungen der Maschinen anzupassen“, statt umgekehrt. Der Papst fordert Arbeitsschutz und eine Erneuerung der Gewerkschaften.
• Neue Ausbeutungsformen: Leo verurteilt die Arbeitsbedingungen von Menschen, die seltene Erden für KI-Hardware abbauen. Ihre Körper seien „gezeichnet, verletzt und verschlissen, damit der Rechenstrom ununterbrochen fließen kann.“
• Algorithmische Diskriminierung: Der Papst warnt vor „undurchsichtigen Algorithmen“, die Diskriminierung verfestigen, und bezeichnet das Erstellen von Profilen und das Vorhersagen von Verhalten als „eine neue Form der Macht.“

Das Lehrschreiben richtet sich auch gegen Transhumanismus und Posthumanismus, Philosophien, die menschliche Grenzen als technisch zu lösende Probleme betrachten. Leo argumentiert das Gegenteil: „Die Menschheit gedeiht nicht trotz ihrer Grenzen, sondern oft gerade durch sie.“ Wer Menschen durch Maschinen ersetze, provoziere eine „anthropologische Regression.“

Zu KI-Modellen, die wie Anthropics Claude interne Ethikrichtlinien entwickelt haben, stellt Leo eine entscheidende Einschränkung klar: „Eine moralischere KI reicht nicht aus, wenn diese Moral von wenigen bestimmt wird.“ Ethische Rahmenbedingungen für KI müssten gemeinsamen Standards der sozialen Gerechtigkeit unterliegen.

Das Dokument beschreibt zudem ein „neues Gesicht des Kolonialismus“: die großflächige Aneignung von Gesundheitsdaten, genetischen Karten und demografischen Profilen durch KI-Unternehmen. „Diese sind zu den neuen seltenen Erden der Macht geworden“, schreibt Leo. Er fordert, dass Menschen wieder Kontrolle darüber erhalten, wie ihre Daten genutzt werden.

Das Lehrschreiben wurde am 15. Mai unterzeichnet, dem 135. Jahrestag von „Rerum Novarum“, dem Lehrschreiben von Papst Leo XIII. aus dem Jahr 1891, das die Rechte der Arbeiter während der Industriellen Revolution thematisierte. Leo XIV. zieht diesen Vergleich bewusst und beschreibt KI als die entscheidende Herausforderung einer neuen industriellen Ära.

Brian Patrick Green, Direktor für Technologieethik am Markkula Center for Applied Ethics der Santa Clara University, bezeichnet das Dokument als „eine wegweisende Gelegenheit für die Welt, eine neue Technologie zu betrachten und wirklich darüber nachzudenken, wofür sie da ist.“

Quellen

• Pope Leo’s ‚Magnifica humanitas‘: AI must serve humanity not concentrate power – Vatican News
• Quotes from Pope Leo’s document warning world of AI risks – Reuters
• Pope Leo Issues AI Manifesto Warning That ‚Opaque Algorithms‘ Controlled by a ‚Few‘ Companies Can Bring ‚New Forms of Dehumanization‘ – Variety
• In his first encyclical, Pope Leo XIV says AI must serve humanity, not the powerful few – Religion News Service
• Pope, urging AI regulation, warns some weapons now beyond human control – Reuters