
Stephen Levy
porträtiert den Mathematiker
Dario Amodei und dessen
KI-
Firma Anthropic, die nichts weniger versucht, als den
Messias unter den KIs hervorzubringen: ein allwissendes KI-Modell, das - noch viel wichtiger - vor allem
allgütig ist, also mit einer Vielzahl von Maßnahmen und Tweaks auf ethische Verhaltensweisen und moralische Selbstbefragung getrimmt werden soll. Das Ziel: der Sprung von der KI zur
KAI, der
Künstlichen Allgemeinen Intelligenz, die durch skalierendes Selbstlernen den Menschen auf jedem seiner Gebiete schlägt, aber ausschließĺich zur Mehrung des Schönen, Guten und Wahren. Amodei ist dabei kein bloßer Evangelist, wie sie in der digitalen Welt seit Jahrzehnten immer wieder auftauchten, eher ist er ein Apokalyptiker, der den Endkampf der Menschheit angebrochen sieht und die Entscheidungsschlacht um Verdammnis oder das Paradies hienieden angebrochen sieht. "Amodei hat den Eindruck, dass die Gesellschaft die
Dringlichkeit der Lage überhaupt erst noch verstehen muss. 'Es liegen zwingende Hinweise darauf vor, dass Sprachmodelle
verheerende Schäden anrichten können'. sagt er. Ich frage ihn, ob er meint, dass wir im Grunde genommen erst ein
KI-
Pearl-
Harbour brauchen, damit die Leute die Situation ernst nehmen. 'Im Grunde genommen, ja', antwortet er." Aber "auch wenn Amodei unzufrieden damit ist, wie wenig sich die Öffentlichkeit der Gefahren durch KI bewusst ist, sorgt er sich auch darum, dass die
Vorzüge nicht ausreichend klar werden. Es überrascht nicht, dass die Firma, die sich rund um das Gespenst der KI-Verdammnis dreht, synonym für Schwarzmalerei steht." In seinem Essay "Maschinen liebevoller Gnade" formulierte er daher einen "Glücksfall, der, wenn umgesetzt wird, die
hunderte Milliarden Dollars, die in KI investiert werden, als
epochales Schnäppchen erscheinen lässt. ... Die Vision, die er darin entfaltet, lässt Shangri-La wie einen Slum wirken. Nicht allzuweit in der Zukunft,
vielleicht 2026, wird Anthropic oder jemand anderes KAI erreichen. Die Modelle schlagen Nobelpreisgewinner. Diese Modelle werden Objekte in der Realität kontollieren und sich vielleicht sogar ihre eigenen Computer bauen. Millionen von Kopien des Modells werden zusammenarbeiten - man stelle sich eine ganze Nation von Genies in einem Datenzentrum vor! Tschüss, Krebs, infektiöse Krankheiten, Depressionen.
Hallo,
Lebenserwartung von 1200 Jahren." 1200 Jahre Trump? Echt paradiesisch.