Teknikmiljardärer verkar förbereda sig för ett samhällskollaps. Bör vi alla vara oroliga? Det är vad BBC frågar.

Facebooks grundare och Metas VD Mark Zuckerberg sägs ha börjat arbeta på Koolau Ranch, hans 1.400 hektar stora egendom på den hawaiianska ön Kauai, redan 2014.

Anläggningen kommer att omfatta ett skyddsrum med egen energi- och livsmedelsförsörjning, men de snickare och elektriker som arbetade på platsen fick inte prata om det på grund av sekretessavtal, enligt en rapport från tidningen Wired. En mur skymde projektet från en närliggande väg.

När Zuckerberg förra året fick frågan om han höll på att bygga en domedagsbunker svarade han med ett bestämt nej. Han förklarade att det underjordiska utrymmet, som är cirka 5 000 kvadratmeter stort, är ”precis som ett litet skyddsrum, det är som en källare”.

Det har inte stoppat spekulationerna – inte heller hans beslut att köpa 11 fastigheter i Crescent Park-området i Palo Alto, Kalifornien, och tydligen lägga till ett 7.000 kvadratmeter stort underjordiskt rum under dem.

Zuckerberg sägs ha spenderat 110 miljoner dollar på fastigheter i ett område i Palo Alto.

Mark Zuckerberg satsar stort på AI

Även om hans bygglov avser källare, kallar vissa av hans grannar det enligt New York Times för en bunker. Eller en miljardärs batcave. Och sedan finns det spekulationer kring andra teknikledare, av vilka vissa verkar ha varit upptagna med att köpa upp tomter med underjordiska rum, redo att omvandlas till lyxiga bunkrar.
Reid Hoffman, medgrundare av LinkedIn, har talat om ”apokalypsförsäkring”. Detta är något som ungefär hälften av de superrika har, har han tidigare hävdat, och Nya Zeeland är ett populärt resmål för bostäder.

Så förbereder de sig verkligen för krig eller andra katastrofer som vi andra ännu inte har hört talas om?

Sam Altman spekulerade en gång om att ansluta sig till Peter Thiel på en avlägsen egendom i Nya Zeeland i händelse av en global katastrof.

Under de senaste åren har utvecklingen av artificiell intelligens (AI) bara bidragit till listan över potentiella existentiella problem. Många är djupt oroade över hur snabbt utvecklingen går. Ilya Sutskever, chefsforskare och en av grundarna av Open AI, sägs vara en av dem.

I mitten av 2023 hade det San Francisco-baserade företaget lanserat ChatGPT – den chattbot som nu används av hundratals miljoner människor runt om i världen – och de arbetade snabbt med uppdateringar.

Men den sommaren blev Sutskever alltmer övertygad om att datavetare var på väg att utveckla artificiell allmän intelligens (AGI) – den punkt där maskiner matchar mänsklig intelligens – enligt en bok skriven av journalisten Karen Hao.

Under ett möte föreslog Sutskever enligt uppgift sina kollegor att de skulle gräva en underjordisk skyddsbunker för företagets främsta forskare innan denna kraftfulla teknik släpptes lös på världen, skriver Hao.

”Vi borde definitivt bygga en bunker innan vi lanserar KGI”, ska han ha sagt, även om det är oklart vem han menade med ”vi”.

Detta belyser ett märkligt faktum: många ledande datavetare och teknikchefer, av vilka vissa arbetar hårt för att utveckla en mycket intelligent form av AI, verkar också vara djupt rädda för vad den en dag kan komma att göra. Teknikchefer har hävdat att KGI är nära förestående. OpenAI:s vd Sam Altman sa i december 2024 att det kommer att ske ”snabbare än de flesta människor i världen tror”.
Sir Demis Hassabis, medgrundare av DeepMind, har förutspått att det kommer att ske inom de närmaste fem till tio åren, medan Anthropics grundare Dario Amodei förra året skrev att hans föredragna term – ”kraftfull AI” – kan vara här redan 2026.

Andra är skeptiska. ”De flyttar hela tiden målet”, säger Dame Wendy Hall, professor i datavetenskap vid Southampton University. ”Det vetenskapliga samfundet säger att AI-tekniken är fantastisk”, tillägger hon, ”men den är långt ifrån mänsklig intelligens.”

Men en av anledningarna till att idén väcker entusiasm hos vissa i Silicon Valley är att den anses vara en föregångare till något ännu mer avancerat: ASI, eller artificiell superintelligens – teknik som överträffar mänsklig intelligens.

Förespråkarna för KGI och KSI hävdar att vi kommer att hitta nya botemedel mot dödliga sjukdomar och en rad andra problem med denna teknik. Men kan den kapas av terrorister och användas som vapen, eller tänk om den bestämmer att mänskligheten är orsaken till världens problem och förstör oss?

”Om den är smartare än du, måste vi hålla den under kontroll”, varnade Tim Berners Lee, skaparen av World Wide Web, när han talade med BBC tidigare denna månad. ”Vi måste kunna stänga av den.” Neil Lawrence är professor i maskininlärning vid Cambridge University. Han anser att debatten i sig är nonsens. ”Idén om artificiell allmän intelligens är lika absurd som idén om ett artificiellt allmänt fordon”, argumenterar han. ”Vilket fordon som är rätt beror på sammanhanget. Jag flög till Kenya med en Airbus A350, jag använder en bil för att ta mig till universitetet varje dag, jag går till cafeterian… Det finns inget fordon som kan göra allt detta.”