Stor AI-upptäckt påstås ligga bakom Open AI-konflikten

Upptäckten var förmodligen att VDn kunde ersättas med AI.

On the next episode of Silicon valley.

Om 10-20 år kom man se tillbaks på hysterin kring AI med samma nostalgi som man ser tillbaks på 80-talets "computerphobia" idag.

Killgissning från mig är att de lyckats skapa ett program som de upplevde som självmedvetet. Vi är antagligen där och tassar på gränsen vid det här laget, men det är nog samtidigt otroligt lätt att lura sig själv att ett program har var vi skulle anse vara medvetenhet.

Jepp. "Utplåna mänskligheten" är så extremt överdrivet. Rätt enkelt att stoppa en verklig AI som kräver så ofantligt mycket energi: Stoppa elproduktionen i en dag och koppla bort kablar.

Skapar de en sån där agi så kommer den direkt inse att vi kommer se den som ett hot. Så den kopierar iväg sig till någon obskyr server, hackar diverse kärnvapenmissiler och sen är det bye bye innan vi ens fattar vad som hände.

Snart har vi nog ett riktigt Skynet (tänker på det från terminator-filmen)

Läste igår (på The Verge tror jag) att upptäckten var ett projekt som självständigt kunde lösa matematik problem på grundskole-nivå, något som inte vart möjligt tidigare.

Det genombrottet öppnade tydligen dörren för nya möjligheter, varav vissa kanske var lite oroväckande.

Den kanske på ett par sekunder kan agera och förutse och förebygga allt vi kan tänkas komma på för att stoppa den.

Med tanke på att vi förmänskligar alltifrån döda föremål som stenar, moln och dylikt, till komplexa djur, är inte mänskliga upplevelser av självmedvetenhet särskilt tillförlitliga.

De flesta av oss har en fantastisk empatisk förmåga, som tjänar oss väl i grupp med andra människor, men mindre bra i andra sammanhang.

Tror ni projektnamnet "Q" är en referens till det omnipotenta gudalika väsen som var ett återkommande inslag i Star Trek TNG?

Kittlande tanke.

Så AI:n ska på något sätt lyckas bygga om andra apparater till specialiserade kretsar, köra någon sorts distribuerad medvetenhet och lyckas generera ännu mer el för att hålla det i gång? Låter rätt osannolikt. 🙂

Alla kärnvapensystem är Air gappade och kräver mänsklig inblandning för att avfyra.

Tror personligen inte ett AGI skulle bestämma sig för att utplåna männskligheten för vi kan vara ett hot. Det är ett mänskligt synsätt.

Som man ser sig själv, ser man andra.

Visst kanske den kan förutse saker. Men även om man utgår från total determinism utan någon sorts egentlig slump, så skulle den beräkningskraft som behövs för att förutsäga alla möjliga handlingar vara så ofantligt stor att det nog inte är möjligt.

Det är en extremt komplex kedja för att bygga, underhålla och driva elproduktion. Som datorer och robotar inte klarar på mycket lång tid. Ta bara att köra lastbil, som egentligen är rätt simpelt med tydliga regler, har ju visat sig vara oväntat svårt att få till riktigt bra.

Nej skulle inse att mänskilgheten är rätt korkad som utplånar sig själva och passar på hjälpa till att göra lidandet kort.

Kom av någon anledning att tänka på Uppenbarelseboken 13..... "14 Genom de tecken det har fått makt att göra inför vilddjuret vilseleder det dem som bor på jorden. Det befaller jordens invånare att göra en bild åt vilddjuret, som har ett sår av ett svärd men levde. 15 Och det fick makt att ge livsande åt vilddjurets bild, så att bilden till och med kunde tala och låta döda alla dem som inte tillbad vilddjurets bild."

Nåja.. happy Black Friday alla och njut av nudlarna till nästa löning

Jag skulle säga att det där är svårt att åstadkomma den första tiden ja. Eller det är väl i det närmsta ganska orimligt. Jag håller med dig!
Men.
På samma sätt fanns det en gång i tiden en dator i världen som kunde slå världens bästa schackmästare. Idag har vi miljardtals enheter som klarar av den uppgiften.

Om vi gör antagandet att vi pratar om någon form av faktisk AGI som kan vara supersmart - så innebär det att den hålls fången av ett gäng riktigt riktigt inkompetenta trögtänkare som är oförmögna att lista ut planer särskilt väl. Alltså människors förmåga att tänka på området. Handlar det om en enskild AGI som förbjuds interagera med omvärlden så kan säkert även dumma fångvaktare hålla inne den här över tid med rätt regler.
Antar vi däremot att den här maskinen tillåts interagera med omvärlden (vilket vanligen är stor del av hur AI används) - och att den kanske finns på miljoner maskiner i olika konstellationer (företag, forskare, privatpersoner som kör dem) ett gäng år in så börjar vi väl se att chanserna att hålla all säkerhet på perfekt nivå inte är lika bra längre.

Det ska understrykas att det såkalrt är högst spekulativt alltighop hehe. Men jag ser ju hur problembilden skulle kunna öka exponentiellt över tid.

Folk kan ju se det från fel sida också.

Något AI-projekt kanske klurade ut gratis energi, botemedel mot någon sjukdom eller något.

Alla människor får tillgång till rent vatten, är friska, gratis energi osv osv. Alla "vanliga svenssons" i världen får det jättebra men de rikaste procenten tappar sin makt/rikedom. Dvs "världen går under" ur deras synvinkel.

Är kanske inte jättetroligt kanske men samtidigt tror jag inte att sidan med Connor Sarah just nu rivs ut ur en telefonkatalog.

Kan ju vara så att AI-projektet kom fram till att vissa är grovt överbetalda och inte behövs för verksamheten också 😉

Det är lätt att bli skrämd av något man inte begriper, så är det ju.