Stor AI-upptäckt påstås ligga bakom Open AI-konflikten

Ingen AI-doomer oroar sig för självmedvetenhet. Självmedvetenhet är en icke-fråga. Om något så vore det värre ifall en riktigt smart och kapabel AI är omedveten, för om en gem-maximerare (för att ta det klassiska exemplet) lyckas kan det betyda att ingen någonsin mer kommer att uppleva något i universums historia.

Det är enkelt just nu. Det är inte enkelt i en möjlig framtid där vi lurats att tro att en AGI är "aligned" och därför integrerat den i samhället på olika vis (just för att den är så användbar för att lösa svåra problem effektivt), eller där någon skurkstat eller enskild terroristgrupp får tillgång till AGI.

Här vill jag uppmärksamma folk på begreppet "instrumentell konvergens".

Folk är inte oroliga för att AI plötsligt kommer få ett medvetande eller hitta på en massa egna mål. Det folk brukar vara rädda för är en AGI (artificiell generell intelligens) som ges ett mål, vilket som helst, och att det får oförutsedda konsekvenser.

Människor har evolverats fram till att vara sociala varelser med empati. Men empati är inte något som automatiskt uppstår bara man blir smart nog. En AI skulle kunna bli ensidigt fokuserad på det/de mål den har, och vissa saker är användbara för att uppnå så gott som alla mål: Mer makt, mer information och försvarsförmåga. Även en AI som sätts att beräkna primtal skulle försöka stoppa försök att stänga av den (för då kan den inte beräkna primtal) och den skulle, om primtal är det enda den prioriterar, i förlängningen kunna ta död på mänskligheten – inte för att den hatar oss eller har fått nya mål, utan bara för att människor består av molekyler som kan användas till att bygga datorer som räknar ut primtal.

Jag ser framför mig redan en ny kult (av människor då, inte ai) som följer en AI de anser vara deras härskare eller något.

Och fullt seriöst då, inte skoj

Ja då, "strömkabeln". Den kan finnas på hundratals, tusentals servrar inklusive undangömda samtidigt.

All teknik går använda i onda syftet, hur man ska hindra detta är en bra fråga? Järnutvinningen användes till att skapa vapen. All annan ny teknik idag går använda till mycket inte minst internet.

Detta med att en Ai av sig själv kommer ta över ser jag som trams, däremot finns det folk och stater som medvetet kan utveckla Ai som gör dumma saker. Precis som vissa gör med malware.
Hur stoppar man förresten malware? Ska man släcka ner hela internet?

*edit*
Att säga vi inom landet kommer förbjuda tex brons 3300 f.Kr. för det kan använda i onda syften. Ja, det fungerar mindre bra när danskarna, norrmän, tyskar, finnar har brons och skiter i vårt förbud.
Min poäng med det senaste är att förbjud är komplicerat.

Så det är dags att blåsa på den här bubblan ytterligare.

Jag gissar att OpenAI stadigt har tappat kunder det senaste, allt eftersom nyhetens behag har avtagit.

Räcker ju att AI'n lägger sig i "vila" i laptops och mobiler tills dom åter igen kopplas på/kopplas upp på nätet igen för att den ska överleva.

Sen med tanke på hur beroende vi har gjort oss av internet så kan man ju fundera på vad som skulle hända om internet låg nere en längre tid. Redan efter en vecka skulle det råda kaos på våra gator då ingen kan betala med kort eller ens kan ta ut kontanter för att handla med. Tänk hur det skulle se ut efter en månad eller ännu längre tid.
Och detta är även om strömförsörjningen fungerar, plocka bort den också så blir det ännu mer intressant.

Det stora problemet uppstår om en AGI:n börjar förbättra sig själv, då kommer utvecklingen att gå med exponentiell fart och vi människor kommer inte att ha en chans att förstå vad som händer.

Tänk er själva, på några sekunder hinner den utföra vad tusen ingenjörer skulle behöva tusen år för och den nya versionen av AGI:n är några tusen gånger effektivare än det och så fortsätter det. När/om detta händer kommer vi över en natt (om ens det) att ha en AGI som är så ofattbart avancerad att vi inte kan förstå det.

Har alla glömt Blake Lemoine? Det är ju bara ett år sedan.

https://www.theguardian.com/technology/2022/jul/23/google-fir...

Well din lösning är nog mer eller mindre samma sak som att "utplåna mänskligheten" och sen då? Man kan inte starta upp något igen för då är problemen kvar.

Och utan el så skulle merparten av mänskligheten dö ut väldigt fort.

Tja, jag har definitivt inte fått min uppfattning från film utan snarare från att jag har lyssnat på folk som har resonerat kring detta. T ex:

https://www.youtube.com/watch?v=8nt3edWLgIg

Vi är ju redan vid stadiet där vi har AI-modeller som fungerar som "svarta lådor" där vi inte förstår hur de kommer fram till de korrekta svaren de matar ut, trots att vi har så god förståelse som är möjligt av datan som matas in.

Girigheten kan utnyttjas av AI, som då ser till att ge pengar till militären som då kopplar in AI'n igen...

Alltså, jag blir ju besviken om detta inte händer 2029

Låt säga att man ger AI tillgång till internet (which... humanity already does.....) och den vill försöka sig, samtidigt som t.ex en exploit som Log4J är publik vilket är en zeroday så hade så hade den fått all kraft den hade velat i guess.

Man rapporterade runt 1 miljon "infekterade" datorer i log4j de första 72 timmarna, av människor.

Undrar hur många en obegränsat smart ai hade hunnit infektera, installera en osynlig rootkit och sedan patcha servern mot log4j så att företagens interna scanningar inte ens markerar servern som hotad.

Om mänskligheten är så efterbliven att man ger AI tillgång till internet och den skulle råka vara en agi eller en högst specialierad ai för just en sådan task (tänk mänskliga terrorister, tror ni de utvecklar granater år 2023?) Då skulle jag tro att det skulle ta sekunder, minuter eller timmar tills dess att skadan är irreversibel.

Det finns hundratusentals, eller miljontals datorer som är infekterade med mjukvara för ddos, skulle det vara svårt för en ai att göra det samma? pffff.