In den nächsten Wochen möchte ich Euch die Grundgedanken des Buches hier näher bringen. Heute der Anfang, dort, wo auch das Buch beginnt, nämlich bei der Fortschrittsangst.
Die These dieser Woche: Wer heute vor der Künstlichen Intelligenz warnt, wiederholt ein Muster, das so alt ist wie die Schrift selbst. Das macht den Inhalt der Warnung nicht automatisch falsch. Aber es hilft, sie besser einordnen zu können.
Im Mai 2023 unterzeichneten mehr als 350 führende Köpfe der KI Branche, darunter Sam Altman, Demis Hassabis und Geoffrey Hinton, eine Erklärung des Center for AI Safety, die in ganzen 23 Wörtern die Eindämmung des Aussterberisikos der Menschheit durch KI auf eine Stufe mit Pandemien und Atomkriegen stellt. Wenige Wochen zuvor hatte das Future of Life Institute mit über 30.000 Unterschriften, unter ihnen Elon Musk und Yoshua Bengio, einen sechsmonatigen Entwicklungsstopp für Systeme jenseits von GPT4 gefordert. Beide Appelle blieben folgenlos. Die Systeme wurden größer, nicht kleiner.