Weltrettungs-Science-Fiction mit Risiko

Die Liste der Risiken im Umgang mit Künstlicher Intelligenz ist lang. Sie reicht von Diskriminierung, mangelhaftem Datenschutz und Copyright-Verletzungen bis hin zu Unfällen beim autonomen Fahren. Was dagegen eher wenige auf ihrer KI-Risiko-Liste haben: die Übernahme der Weltherrschaft durch Künstliche Intelligenz und die Auslöschung der menschlichen Spezies. Klingt unwahrscheinlich? Das kommt ganz auf den Zeitraum an, den wir betrachten, würden wohl einige der Teilnehmenden des NeurIPS Workshops antworten, die sich Anfang Dezember treffen werden, um sich mit x-risk („existential risk“) KI zu beschäftigen.

Das Treffen wird vom FTX Future Fund gesponsert, also mit Geld, das Sam Bankman-Fried, der illustre Gründer der FTX-Kryptobörse, eigentlich gerade verspielt hat. Bankman-Fried ist Teil einer Bewegung, die sich „effektiver Altruismus” (EA) nennt und genau zu wissen glaubt, was die größten Gefahren der Menschheit sind – darunter die mögliche Auslöschung unserer Spezies durch KI – und wie man sie erfolgreich abwendet.

Vielleicht beträgt die Wahrscheinlichkeit der KI-Weltherrschaft außerhalb der Science-Fiction-Literatur nur 1:100.000 – einmal locker aus der Hüfte quantifiziert, wie auch EA-Anhänger:innen das gern machen. Wenn aber in ferner Zukunft viele Milliarden Menschen unterschiedlichste Planeten besiedeln, wovon EA-Anhänger:innen ausgehen, sind zumindest potenziell sehr viele Menschenleben durch die KI-Weltherrschaft bedroht. Nach dieser kruden Rechnung sogar mehr Leben, als wir heute durch Medizin, Hungerhilfe und Umweltschutz zusammen retten können. 

Das ungefähr ist die Denkweise des radikalen EA-Fügels: Potenziert man auch das geringste Risiko mit allen – absolut allen – zukünftigen Menschen, die betroffen sein könnten, steigt es ins Unermessliche. Dann rechtfertigt dieses Risiko sowohl den Einsatz von geschätzten 46 Milliarden US-Dollar EA-Vermögen, die Einflussnahme in höchsten diplomatischen Kreisen, als auch Elon Musks private Raumfahrtmission zur Marsbesiedlung. Denn auch Musk steht der EA-Bewegung gedanklich sehr nahe.

Effektiver Altruismus ist daher mehr als schräge Weltrettungs-Science-Fiction. Seine Anhänger:innen sind reich, mächtig und gefallen sich außerdem darin, angeblich wissenschaftlicher vorzugehen als Hilfsorganisationen. Jede Gefahr für die Menschheit wird berechnet und quantifiziert. Die Bewegung, die etwa so divers ist wie der typische DAX-Vorstand, vergisst dabei eines: Wissenschaft macht aus, dass Ergebnisse zur Diskussion stehen und niemand sich im Besitz der absoluten Wahrheit glaubt. EA-Anhänger:innen dagegen halten niemanden für effektiver als sich selbst.

von Lea Beiermann

---

Personal Growth

Datenaltruismus: Selbstloses Datensammeln

Angesichts von geltungssüchtigen Superreichen, die sich gerne als effektiv-altruistische Heilsbringer feiern lassen mag es absurd klingen, aber: Im Kern bedeutet Altruismus, selbstlos zu handeln, ohne eine Gegenleistung zu erwarten. Ein Prinzip, das den kommerziellen Mechanismen des Digitalen heute fremd zu sein scheint. Wie jeder weiß nutzen wir soziale Medien kostenlos, zahlen aber mit unseren Daten. Viele Menschen stehen größeren Datenerhebungen deshalb sehr kritisch gegenüber. Dabei könnte man mit den richtigen Daten viel Gutes tun. Das hat auch die EU erkannt und wirbt deshalb schon länger für eine besondere Form des digitalen Altruismus: den „Datenaltruismus“.

Dabei stellen Individuen oder Organisationen von ihnen erzeugte Daten freiwillig zur Verfügung, damit diese der Allgemeinheit dienen können. Vor allem in den Bereichen Gesundheit, Umwelt und Mobilität sind entsprechende Daten von unschätzbarem Wert. Doch bisher scheiterten datenbasierte, grenzüberschreitende Projekte an fehlenden Standards und Tools. Der im Juni diesen Jahres veröffentlichte Data Governance Act der EU soll dies ändern und die Grundlage für einen besseren europäischen Datenaustausch schaffen.

Ein Beispiel für ein datenaltruistisches Projekt, zu dem man auch selbst beitragen kann, ist die Smart Citizen-Plattform: Hier sammeln Freiwillige Informationen über ihre Umwelt und stellen diese der Öffentlichkeit über eine zentrale Plattform zur Verfügung. Auf Basis dieser Daten können Forscher:innen, Stadtplaner:innen und Bürger:innen schließlich gezielte Lösungen entwickeln.

Und du? Wärst du bereit, mehr Daten zu teilen, wenn du wüsstest, dass diese zum Gemeinwohl beitragen? Wenn ja, unter welchen Bedingungen?

von Finn Blug

---

Dive Deeper

Effektiver Egoismus

SFTX-Gründer Sam Bankman-Fried inszenierte sich als Wohltäter und Weltverbesserer – jetzt fehlen Milliarden. Wie oft wollen wir uns noch einreden lassen, dass ein einziger Mensch die Welt retten kann?

von Miriam Meckel

Jetzt lesen

---

Und zuletzt:

In diesem Mini Game könnt ihr eure Fähigkeiten im Datamanagement testen.

---

Dies ist das Archiv unseres wöchentlichen Newsletters, dem Brief aus der Zukunft. Gelange hier zur Sammlung, um mehr zu entdecken.