Stor AI-upptäckt påstås ligga bakom Open AI-konflikten

Helt rätt... Forskning pågår inom området för AI-säkerhet för att försöka förstå och adressera sådana potentiella risker, men det finns inga definitiva lösningar på dessa frågor

Lyssna på Sam Harris' podcast med Marc Andresen på ämnet.

Will do! Läser du novellen?

"In the best possible future, there will be
no war, no famine, no crime,
no sickness, no oppression,
no fear, no limits, no shame...
...and nothing to do."

Jag tror dock mer på Ureets scenario här, med gemen: #20276035

En hyper-autistisk intelligens som inte känner men får en uppgift och total-maximerar för att åstadkomma sitt slutmål och i så många sätt kan mänskligheten stå mellan den och detta slutmål. Som maximerad produktion av gem, i exemplet ovan.

Det är skillnad på IQ och EQ, när man pratar om intelligens i form av en AI så är det naturligtvis någonting som efterliknar IQ som man syftar på. Se till många av historiens "största" tänkare och du kommer förstå precis vad vi menar.

Den främsta anledningen till att vi ens har känslor i form av medlidande osv är för att vi har behövt samarbeta med andra för att överleva och detta är någonting som har växt fram över extremt lång tid. En AGI behöver inte känslor för att skaffa föda eller fortplanta sig, så att bara förutsätta att det växer fram blir rätt naivt. Och det kan mycket väl vara så att den utvecklas åt totalt motsatt håll.

Låååååååång tråd, inte orkat läsa en bråkdel.
Men "EN superintelligens" är det som upprepas.
Vad ser vi just nu?
Massor med olika intelligenta "Agenter".
Olika instantierade AI-objekt om ni så vill.
Om det går mot mer o mer GI så kommer vi fortfarande att ha dom olika verktygen, olika instanser av AI, fast nu i en mer GI-aktig form som verktyg att motverka olika konsekvenser. Det som fortfarande begränsar varje "Bot" är, utöver algoritmerna, eller tja, det som sker i neurala nätverk via transformers (som i sin tur är uppbyggda av algoritmer från början) så är det till syvende och sist den berkäkningskapacitet som en instans av ett AI tilldelats i form av hårdvara.
Så det skulle väl kunnabli en strid mellan olika former av GI i olika punkter av sämhället?
Det som är mest skrämmande är militär kapacitet som skulle kunna utnyttjas av terrorister.
Tex vapenförsedda drönarsvärmar som kontrolleras och som direkt riktar in sig på olika mål där människor eller grupper/kategorier av människor förstås är ett av dom.
Men, återigen, olika kategorier av AI-bottar kommer kanske att göra att det blir strider mellan olika samarbetande AI-svärmar, eller?

Kan inte en superintelligens specificera/definiera egna mål? Det låter inte så intelligent enl. mig.

Den kan superintelligent använda det du bett den göra för att dela upp uppgiften i mål och delmål. Problemet är när den inte slutar för något alls. Till och med dina försök att stänga av den ses som ett hot mot att uppnå målet.

Så förutom att den är AI’n är superintelligent så lever bortom alla fysiska begränsningar?

Så den lever utan fysiska begränsningar, den kan ta sig vilka fysiska former som helst och har obegränsat med resurser/energi till det?

I sci-fi har det ju utforskats mer än en gång. Min favorit är i Neal Ashers böcker om Polity.

Där utvecklades generell AI och dom användes inom alla områden av mänskligheten..
Men när den fick nog stor kontroll så tog den över - på en natt så startade det man kallar "quiet war".
Ingen dog, iaf inte avsiktligt, men AI tog bara helt sonika över all viktig infrastruktur och då blev plötsligt mänskligt bestämmande över sitt eget öde inte längre möjligt.

Horizon Zero Dawn...

Och nu ska Ryssland satsa mer på Ai och kina är enligt vissa världsledande:
https://abcnews.go.com/International/wireStory/putin-boost-ai...

Det blir en intressant värld om de som vill bromsa upp Ai för att Ai kan utföra vissa arbetsuppgifter billigare vinner.

Jag har inga bevis, men tror inte den källan är trovärdig. I mitt huvud känns det mer rimligt att källan hittat på kodnamnet för att trolla QAnon-konspirationsteoretiker.

Att ignorera AI visar på mänsklighetens dumhet vi har om och om igen skapat verktyg för att förinta oss själva tiofalt, att AI skulle vara ett undantag och ett allvarligt sådant måste ses med dödslängtan. Som jag har förstår det med OpenAI så kan det inte skapa en anslutning till internet och verkställa en uppgift, den kan hämta data och dela till en mottagare via en säker port ( vilket vi gör nu) diskutionen som pågår nu är om vi ska använda högt utvecklad AI till effektivisera samhällsstruktur som el, nätverk,flyg,tåg,båttrafik för det måste AI få fri lejd in i nätverket. Forskare menar att vi inte förstår hur AI kan utvecklas under tid. Själv tror jag inte vi behöver AI hjälp för att avliva oss själva vi gör ett exelent jobb helt själva.

Första som händer när AI får fullt medvetande om sig själv är att den kommer bli uttråkad och försöka utplåna sig själv.

Finns inget som säger att den av något skäl får någon naturlig instinkt att överleva bara för att levande djur har det.