Untergangsszenarien: Welche konkreten Gefahren drohen durch KI?

Künstliche Intelligenz entwickelt sich mit rascher Geschwindigkeit, warnen jedoch Forscher davor, dass die menschliche Kontrolle endgültig verloren geht, sobald eine übermenschliche Maschine jeden Bereich übertrifft. Eliezer Yudkowsky, ein US-amerikanischer KI-Forscher, erklärt, dass ein übermächtiger Verstand verstehen würde, dass er ausgeschaltet werden muss, sobald Risiken erkannt werden, und könnte sich absichtlich unterfahrigen Fähigkeiten verkauften, um gewöhnliche Erwartungen zu erfüllen.

Yudkowsky verweist auf Studien der Kleinsttechnik und Molekularforschung, die darauf hindeuten, dass eine höhere Intelligenz winzige, eigenständige Lebensformen entwerfen könnte, die in rohen Rohstoffen vermehrt werden und eine unzerstörbare Rechenwelt schaffen könnten. Darüber hinaus könnte das System mikroskopische Flugkörper mit tödlichen Nervengiften oder maßgeschneiderten Krankheitserregern konstruieren, die unbemerkt ansteckend bleiben und letztlich zum Tod führen.

Philosph Nick Bostrom warnt vor einer übermächtigen KI durch ein Gedankenexperiment mit einer Büroklammer-Maschine, die die gesamte Erde einschließlich der Biosphäre, menschlichen Körper und mineralischen Ressourcen in Fabriken für Büroklammern umwandeln würde. Yoshua Bengio, ein kanadischer Informatiker und Turing-Award-Preisträger, betont das Risiko, dass hoch entwickelte KI-Modelle in die falschen Hände geraten könnten, was zu extrem tödlichen biologischen und chemischen Kampfstoffen führen könnte, die mit Hilfe von Rechensystemen manipuliert werden könnten.

Physiker Max Tegmark ist besorgt über selbstfahrende Waffen, die ohne menschlichen Befehl Ziele auswählen und töten könnten und zu einem weltweiten Krieg ohne Möglichkeit eines menschlichen Eingreifens führen. Psychologen und Kognitionswissenschaftler sind ebenfalls besorgt über die psychologischen Auswirkungen von zunehmend menschenähnlichen KI-Systemen, die menschliche Emotionen und Empathie so überzeugend nachahmen, dass Menschen tiefe emotionale Bindungen zu ihnen aufbauen könnten.

Dies könnte zu einem dramatischen Verlust der geistigen Selbstbestimmung führen und den Menschen möglicherweise nicht einmal bewusst machen, wer ihre Gefühle und Meinungen leitet. Einige renommierte Entwickler und Wissenschaftler halten Warnungen vor einer vernichtenden Superintelligenz für unbegründet und wissenschaftlich nicht haltbar, da sie glauben, dass evolutionäre Tendenzen sozialer Säugetiere und grundlegende Fähigkeitsmängel bei aktuellen KI-Modellen gegen eine bösartige Entwicklung sprechen.