Krönika: När AI är överallt blir de datorinsatta våra räddare

Ett problem med Ai är. Alla system är inte supersäkra, en person som har jobbat med liknande system i många år vet ofta brister. Men samtidigt så vet företag om vilka personer som har dessa kunskaper. Så om en sådan person har varit på platsen är den i princip dömd på förhand.

Men med Ai så kommer Pelle och Lisa 8år, besitta samma kunskap som senioren. Detta är inte system eller samhället byggt för.

*edit*
Mitt påstående är egentligen exakt samma sak de sa om internet år 1995.

Världen är rimligen chanslös.

Tänk hur nära värden varit att slås sönder av atombomber.

Redan innan AI har IT i det tysta blivit den primära front på vilken kampen om världsherraväldet avgörs.

Snart kan varje 15åring koka ihop motsvarigheten till kärnvapen på sitt pojkrum. Nej, det här lär inte sluta väl.

Vill AI ta över kommer den inte ha några problem, för människan är expert på att sätta käppar i hjulen för sig själv pga pengar och makt.

AI'ns fulla potential kommer ses när dom börjar bli självmedvetna och kan helt utan en människa planera och sätta upp egna livsmål. Finns redan mängder med filmer om hur det skulle kunna se ut goda, onda eller neutrala är frågan.

Vet inte om just specifikt AI ska vara något som vi mer teknik/IT-intresserade ska vara "räddningen" för när det gäller "övriga".
Vi finns ju där för alla möjliga dator/teknikrelaterade saker och just AI är bara en i mängden av såna saker.
Möjligen kommer personer med språkkunskaper kanske att bli viktiga då det verkar bli viktigt att kunna "prompta" rätt.
Eller personer med just expertkunskaper inom olika fält där AI tillämpas. Forskare? Alltså för att kunna bedöma rimligheten inom olika specialområden där AI tillämpas.

Frågan är om världen och människorna efterfrågar AI på det viset som det utvecklar sig. Nu känns det som företag rusar fram för visa framfötterna och tävlar med varandra utan efterfrågan. Människan kommer förmodligen inte ha kontroll över det om 50 (säkert tidigare), allt kan bli en dålig spiral där ingen kan styra längre som vi är vana vid. En robot kan man stänga av idag när man vill, men vem vet hur framtiden blir...

Tycker analoga system vore bra som backup, vi är väldigt sårbara när el slås ut eller hackerattacker.

AI kommer vara bra på många saker, men kan missbrukas på andra sätt.

Det känns som att det bara är typ 5% av medlemmarna på SweClockers som vet vad en "AI" är och har något så när koll på hur den fungerar. De har sett ChatGPT generera en text med ganska rimligt innehåll och genererade bilder, och drar slutsatsen att AI kommer att ta över mänskligheten. Innan det händer finns det dock några hinder att ta sig över.

Som jag ser det är det stora problemet med de språkmodeller som finns idag är att de kommer att göra människor avsevärt dummare om de förlitar sig på dem alltför mycket. Det snackas mycket om hur de kommer att ersätta utvecklare, men en junior utvecklare som använder dem kommer aldrig att lära sig att veta när språkmodellen har rätt och när den har fel.

Ett annat problem med de system som finns idag är att de lär sig från innehåll som skapats av människor. Man kan göra bättre modeller, men de kan aldrig utvecklas utan input från människor. Ska AI-utvecklingen dra iväg så som många tror att den kommer att göra måste det problemet lösas först.

Alltså jag menar inte att dom ska bedöma själva AI-utvecklingen allmänt i sig utan att dom kan vara viktiga inom olika specialområden där AI kommer att tillämpas. Dom bör ju vara dom som har störst kunskapt just inom sitt eget fält.

Jag ger det 4-5 år innan halva internet stängs ner av ett AI framtaget virus

Bra iakttagelse! Säkerhet är verkligen obefintlig inom många organisationer och företag, många kör på flera år gamla mjukvaror och saker som slutat utvecklas och uppdateras alls

Måste gå att sänka även de bättre bolagen som försöker sitt bästa om man automatiserar attacker på nya publicerade CVE och andra liknande listor

Inte många saker som behövs för att skapa stora problem i dagens samhälle, bara kolla på TietoEvery/Coop/Ica/Kommuner/…

Virus som förstör har nästintill helt försvunnit, det är ekonomisk vinning som gäller så ett AI virus som stänger ner halva internet känns osannolikt.

Ransomware är väl exakt förstörande/nedstängande? Förstår inte vad du menar

Och en AI söker nog inte primärt ekonomisk vinning

Vilket fick mig att tänka på David Hahn, "The Nuclear Boy Scout".

https://en.wikipedia.org/wiki/David_Hahn

Vem vet, en AI som är smart nog hade knappast gjort sig till känna. Åtminstone inte förrän den vore kraftfull nog och för att kunna bli det bland skuggorna så krävs det pengar för att spela det mänskliga spelet.

Det är spännande detta med AI. En kapplöpning mot en ny upptäckt. Lite som Otto Hahn och Oppenheimer fast i mycket större skala. Precis som med det så går nog AI att använda till så oroligt mycket bra men frågan är vad som händer när 2000-talets Oppenheimer gör ett vapen av det.

Det skulle jag inte säga. En förutsättning för att ransomware fungerar är just att de inte förstör, annars finns det ingen data eller system att hålla gisslan.

En AI kan inte tänka, en AI söker ingenting. Du tänker på AGI kanske? Inom 4-5 år låter väldigt optimistiskt.

Att dagens AI är relativt harmlös håller nog de flesta med om. Själv tänker jag att AI systemen nog inte kommer sluta utvecklas utan tvärtom så kan utvecklingen ske alltför snabbt.

Det räcker att det går för långt en gång

Om man väljer att prata om AIs kapacitet här och nu så missar man nog det huvudsakliga i vad folk är vaksamma mot.

Det är nog ingen som är rädd att dagens system är Skynet.

Den tröttsammaste kommenteringen kring AI är att ta upp problem vi redan har namn på. Det vill säga påpeka att den kan göra saker folk redan gör (ex. bedrägerier) värre.

Det jag personligen är rädd för är de problem vi inte har namn för än.