„Wenn das jemand baut, sterben alle“ – Das ist der Titel von einem Buch, das die KI-Forscher Eliezer Yudkowsky und Nate Soares geschrieben haben. Sie warnen vor einer nächsten Stufe von Künstlicher Intelligenz, der Künstlichen Super-Intelligenz. Die wäre so krass, dass sie Menschen in fast allen geistigen Tätigkeiten übertrifft. Sie könnte selbständig handeln und strategisch vorgehen.