Die Probleme des effektiven Altruismus gehen über Sam Bankman hinaus

Sam Bankman-Fried machte effektiven Altruismus zu einer Pointe, aber hinter seiner Philosophie des maximalen Wohlwollens verbirgt sich eine blühende Kultur räuberischen Verhaltens.

Ellen Huet

Illustration: Sophi Gullbrants für Bloomberg Businessweek

Abonnentenvorteil

Abonnieren

Sonia Joseph war 14 Jahre alt, als sie zum ersten Mal „Harry Potter und die Methoden der Rationalität“ las, ein überaus beliebtes Fanfiction-Stück, das den jungen Zauberer als starren Empiriker darstellt. Dieser rationale Potter testet die Zaubersprüche seiner Professoren mit der wissenschaftlichen Methode, spottet über alle Ungereimtheiten, die er findet, und löst alle Probleme der Zauberer, bevor er 12 wird. „Ich habe es geliebt“, sagt Joseph, die als Teenager viermal HPMOR las. Sie war eine neurodivergente, ehrgeizige Indianerin, die sich an ihrer Highschool in einem Vorort von Massachusetts fehl am Platz fühlte. Die Geschichte, sagt sie, „spreche kluge Außenstehende sehr an.“

Die Suche nach weiteren Texten des Autors der Fanfiction, Eliezer Yudkowsky, öffnete Joseph weitere Türen. Seit Anfang der 2000er Jahre argumentiert Yudkowsky, dass feindliche künstliche Intelligenz die Menschheit innerhalb von Jahrzehnten zerstören könnte. Dieser treibende Glaube hat ihn zu einem intellektuellen Paten in einer Gemeinschaft von Menschen gemacht, die sich Rationalisten nennen und darauf abzielen, unvoreingenommen zu denken, auch wenn die Schlussfolgerungen beängstigend sind. Josephs aufkeimendes Interesse am Rationalismus zog sie auch zum effektiven Altruismus, einer verwandten Moralphilosophie, die durch ihre Verbindung mit dem in Ungnade gefallenen Krypto-Ex-Milliardär Sam Bankman-Fried berüchtigt wurde. Im Kern betont effektiver Altruismus den Einsatz rationalen Denkens, um einen möglichst effizienten positiven Einfluss auf die Welt zu erzielen. Diese unterschiedlichen, aber sich überschneidenden Gruppen entwickelten sich in Online-Foren, in denen Beiträge über die Gefahren der KI an der Tagesordnung waren. Aber sie versammelten sich auch in der Bay Area, wo sie begannen, ein Forschungsgebiet namens KI-Sicherheit zu entwerfen, ein Versuch, die Wahrscheinlichkeit zu verringern, dass Maschinen uns alle töten.