P(Untergang) ⇐ Artikelentwürfe

[Anonymous]

''P(doom)'' ist ein Begriff in der KI-Sicherheit, der sich auf die Wahrscheinlichkeit katastrophaler Folgen (oder „Doom“) als Ergebnis künstlicher Intelligenz bezieht.
Ursprünglich als Insider-Witz unter KI-Forschern entstanden, erlangte der Begriff im Jahr 2023 nach der Veröffentlichung von GPT-4 große Bedeutung, als hochkarätige Persönlichkeiten wie Geoffrey Hinton
== Beispiel-P(Doom)-Werte ==
== Kritik ==
Es gab einige Debatten über die Nützlichkeit von P(doom) als Begriff, teilweise aufgrund der mangelnden Klarheit darüber, ob eine bestimmte Vorhersage von der Existenz künstlicher allgemeiner Intelligenz abhängt, des Zeitrahmens und der genauen Bedeutung von „Untergang“.
== In der Populärkultur ==
Im Jahr 2024 gründete die australische Rockband King Gizzard & the Lizard Wizard ihr neues Label mit dem Namen p(doom) Records.
== Siehe auch ==

* Existenzielles Risiko durch künstliche allgemeine Intelligenz
* Stellungnahme zum Risiko des Aussterbens von KI
* KI-Ausrichtung
* KI-Sicherheit

==Notizen==
Bedingt durch K.I. nicht „stark reguliert“, Zeitrahmen von 30 Jahren.
Basierend auf einer geschätzten „50-prozentigen Wahrscheinlichkeit, dass KI innerhalb eines Jahrzehnts Fähigkeiten auf menschlichem Niveau erreichen würde, und einer über 50-prozentigen Wahrscheinlichkeit, dass KI oder der Mensch selbst die Technologie in großem Maßstab gegen die Menschheit wenden würden.“
Anstieg von ~20 % vor 2 Jahren.
Entspricht „P(der gesamte Sauerstoff in meinem Zimmer bewegt sich spontan in eine Ecke und erstickt mich dadurch)“.
Innerhalb der nächsten 100 Jahre.
„Weniger wahrscheinlich als ein Asteroid, der uns auslöscht.“


Existenzielles Risiko durch künstliche allgemeine Intelligenz