Inlägg

Det är möjligt att den gode professorn har fel. Men någon får förklara hur en sådan intelligens skulle kunna uppstå. Innan någon kan göra det är det bara science fiction. Ett tankeexperiment som vi kan ägna oss åt just för att vi har en sådan fantastisk intelligens.

Vad får vi för svar när vi frågar en språkmodell (som inte har någon kropp) hur den upplever det att inte ha några ben? Vi får ett syntetiserat svar som delvis bygger på hur andra människor som har en kropp, men inte några ben, berättat att de upplever det blandat med en mängd andra upplevelser och tankar om ämnet som andra människor haft och som finns nedtecknade för en modell att göra analys av och representera i sin "projektion" av verkligheten. Tillsammans med vikter som representerar dramatiska, syntaktiska och rent logiska regler som går att härleda ur den text som modellen är tränad på kan den ge ett svar som en människa bedömer är i linje med hur en människa skulle kunna svara.

Människor med olika typer av sensoriska begränsningar (medfödda eller något som tillkommit senare i livet) har inte lägre poäng på intelligenstest än andra och de har ofta betydligt högre förmågor än gemene man på de sinnen som de har kvar. Detta är mänsklig intelligens i et nötskal, förmågan att anpassa sig.

Du begår ett logiskt felslut i din härledning. Bortfall av några sinnen hos en människa gör inte människan mindre intelligent eftersom själva definitionen av intelligens är bland annat att klara av anpassning under sådana förhållanden, vilket vi har visat sker i stor omfattning. Du försöker att visa att en språkmodell, utan sinnen, kan vara intelligent eftersom att en människa med bortfall av något sinne kan vara det.

En språkmodell är begränsad till de data den tränats på och de algoritmer som styr dess processer. Den saknar förmågan att på egen hand söka ny information eller anpassa sig till nya miljöer på samma sätt som människor kan. Visst kan den söka information inom samtalets kontext, men den informationen är inte en del av modellen och således inte tillgänglig i framtida invokeringar av modellen. Modellen har inget medvetande. Den föds med information och kan framkalla fakta genom att tolka text till ny text.

Just förmågan till självmedvetenhet och subjektiv erfarenhet anser jag är en avgörande aspekt hos mänsklig intelligens och något som är helt frånvarande i de AI-modeller vi har sett hittills. Därför är det inte rättvist eller korrekt att jämföra intelligensen hos en person som anpassar sig till en sensorisk förlust med en AI som opererar utan sinnen.

Intelligens hänger tätt samman med evolutionen för den ras man studerar och varierar därför mycket mellan raser. Definitionen av mänsklig intelligens är problemlösning och anpassningsbarhet. Den senare styrs både av de ärftliga- och miljöfaktorerna. Därav blir slutsatsen att det krävs liv (reproduktion) för att kunna erhålla något som liknar mänsklig intelligens.

Även om du kan göra avtryck eller projektioner av ett medvetande eller tillståndet i hjärnan på en person så kommer denna "mjukvara" inte att fungera på "hårdvaran" hos en annan individ. Istället använder vi DNA för att överföra ärftliga information till nästa generation, men det blir en ny "build" i och med att man blandar generna från föräldrarna sedan påbörjas träningen av den nya modellen genom miljöfaktorerna.

När det gäller personer som saknar vissa sinnen brukar kunna kompensera genom att mer hjärnkapacitet frigörs till de resterande sinnena. Om vi skapar en värld där det inte är lika fördelaktigt att se så kommer synen antagligen med tiden att förändras eftersom det är ett oerhört kostsamt sinne att upprätthålla. Det finns mängder med intressanta exempel på hur människor som lider av olika sinnesrelaterade åkommor visar att våra sinnen är intrikat sammanlänkade till hjärnans aktivitet. Exempelvis lider vissa människor av afantasi, dvs. de har ingen fantasi och kan inte föreställa sig saker. Ibland tar dessa personer fler bilder med sin kamera för att försöka kompensera.

Men du frågade mig vad som skulle övertyga mig om att en språkmodell har intelligens på nivå med en människa, vilket jag svarade på. Inte vilka egenskaper det är önskvärt att en språkmodell har. Det är olika saker. Jag är nämligen helt säker på att dagens språkmodeller inte har medvetande eller något som ens liknar den intelligensen en människor besitter, exempelvis har de för låg nivå av kontext.

Jag säger inte att hårdvaran spelar roll, jag säger att hjärnan bygger på genetiskt arv och miljöfaktorer. För att utveckla mänsklig intelligens tyder allt på att man även måste tillföra meningsfulla miljöfaktorer till träningen.

Ja, avsaknaden av självinsikt är ju definitivt en grej, att bara gå över i att generera fiktion istället för "jag vet inte" är ju ett utmärkande beteende.

Fast även där finns ju en rätt stor skillnad, det finns ju normalt en förutsägbarhet även i det udda mänskliga beteendet som du beskriver.

Vi träffar liksom inte på folk som under konversationens gång hittar på helt nya konspirationsteorier som inte hänger ihop med någonting öht särskilt ofta. Folk tror något och drivs av något, det finns liksom något som kan identifieras bakom agerandet.

En viktig skillnad som jag upplever sett till förväntningarna är just att man är van vid att motparten har något slags avsikt med det de säger/skriver och att det bland många andra saker vägs in i hur vi värderar svaren.

Men här får man avsiktslösa genererade texter som floppar runt över hela skalan utan någon bakomliggande tanke.
Det är helt enkelt en oberäknelighet på en annan nivå än när man normalt kommunicerar med människor.

Det är lite som att ha en rådgivare som samtidigt både är väldigt kunnig men också mytoman och inte har någon kontroll över sitt eget agerande.

En språkmodell som uppvisar äkta empati och känslor. Som försöker uppnå egna mål. Som har ett livslångt context window och en identitet som är unik per "medvetande". En språkmodell som inte bara är aktiv när man frågar den om något, utan lever ett liv även när man inte är med den. En språkmodell som inte delar data med något företag och inte kommer med användarvillkor. Typ så.

Mänsklig intelligens kräver mänskliga sinnen. Vi är våra sinnen. Det går inte att separera intelligensen eller medvetandet från den mänskliga kroppen. Möjligtvis går det att skapa en artificiell intelligens som efterliknar det, men utan att kunna träna en sådan modell på det vår hjärna upplever från den skapas i mammas mage till den föds och sinnen utvecklas allt mer så kommer man inte få något som motsvarar mänsklig intelligens. Samma gäller alla levande varelser. Livet är essentiellt för att skapa medvetande, identitet och intelligens.

Jag är ändå inte övertygad om att det är för att en språkmodell kan "tänka" som den teoretisk kan stapla saker på varandra. Det är för att människor kan stapla saker på varandra som en språkmodell kan det.

Jag är inte främmande för att människor bara är deterministiska system tränade genom miljö och genitik i en stokastisk värld, men det betyder inte att en språkmodell har mänskliga egenskaper. En människa är en biologisk produkt likt hur en språkmodell är en logisk produkt, men beräkningskapaciteten vi har tillgänglig idag räcker inte till för att simulera eller ens emulera något så komplext som en människa.

Det är helt säkert att implementationen i den mänskilga hjärnan är optimal för en viss tillämpning, eftersom den skapats baserat på naturligt urval. Men det intefattar ju att vi ska jaga, orka bedriva jordruk utan fossila bränslen och kunna springa ifrån fiender. Att hjärnan är kraftfull är endast ett sätt att jämföra mänskligt tänkande med AI LLM genererande. Tänkande innefattar så mycket mer än att skapa text från text. Jag håller med om att dagens språkmodeller är oerhört imponerande, men jag håller inte med om att de tänker som en människa eller på nivå med en människa.

Så det är precis som @evil penguin skrev ovan, det går inte riktigt att använda den om man inte på förhand har tillräckligt med kunskap för att värdera svaret.

Varje hjärna är en egen LLM som är mycket kraftfullare och har betydlig fler intryck som byggt upp den genom lång tid av processing och relationsskapande. Att leva livet är som en livslång av finjustering (LLM fine-tuning) av den mänskliga hjärnan inom en massa olika områden. Idag har alla som använder exempelvis ChatGPT, Claud eller Llama 3 tillgång till samma "hjärna", och det finns gränser för hur olika resultat man kan få trots att modellerna är tränade på all möjlig information.

Att tänka är mer komplicerat än vad lagens LLMs gör. En människa behöver mindre information än en LLM för att kunna arbeta med den eftersom människan är bättre på att skapa kontext utifrån allt hon har lärt sig och kan ta inn. Om maskiner i framtiden kommer kunna efterlikna en hjärna vet vi i dagsläget inte. Men vi vet an en LLM är så bra på att efterlikna mänsklig interaktion att många människor tror att de interagerar med en annan människa.

Den här processen involverar inte tänkande i mänsklig mening. Istället handlar det mer om mönsterigenkänning, statistisk analys och generering baserat på sannolikheter härledda från träningsdata. Även om det kan verka som att en LLM tänker igenom ett problem, utnyttjar det i grund och botten ett stort arkiv av inlärda språkmönster och information för att simulera ett genomtänkt svar.

Internet känns lite tråkigare idag än det gjorde för 20-30 år sedan. Detta trots att det finns närapå oändligt mycket mer. Kanske beror det mycket på mig själv, när jag började ge mig ut på nätet -93 så var allt nytt och det var kul bara slumpmässigt klicka mig fram. Fanns inte så mycket skadliga sajter då så det var förhållandevis riskfritt göra så. En kul grej då var att se hur många klick det tog innan man hamnade på Playboys sajt.

Varför skulle det handla om att få gamla datorer som ändå aldrig stöddes att sluta fungera?

Jag förstår inte alls... klantigt hur?
Såvitt jag förstår har ingen sett några tecken på att de officiella systemkraven ändrats, bara att Windows börjat använda en "ny" (15 år gammal) instruktion som gör att vissa datorer som aldrig officiellt stöddes nu inte fungerar alls med Windows 11.

Det undrar jag lite, är detta öht förändrade systemkrav, eller är det att man aktivt nyttjar fler funktioner som finns i de CPUer som man haft officiellt stöd för hela tiden?
Isf med effekten att en del äldre CPUer som inte haft officiellt stöd men ändå fungerat nu inte längre fungerar...

Inte på samma sätt, en gång i tiden vad man tvungen gå på bio, nu finns ju iptv, netflix osv osv..... man har allt hemma i princip

En hel del av den här dynamiken skulle man kunna få om streamingtjänster typ Netflix tog efter Youtube Premieres. Det är en funktion där man kan släppa en video vid en viss exakt tidpunkt, och där tittarna slussas in i en "lobby" där alla kollar exakt samtidigt, tillsammans med en chattfunktion.