Framtiden är här: Folk pratar i timmar med chattbottar

Eftersom jag suger på matematik så tänkte jag att du får avgöra själv lol

Ville jag främst visa att den använder ett annat format nu för siffror istället för vanlig text som i början. Men jag kan försöka med fler tal.

För ett halvår sedan var den så dålig att den inte kunde räkna ut 5+6.

Så för mig är den mycket bättre än då.

Jag bad den räkna ut kubikroten ur 23948756, och sedan frågade jag hur den gjorde - om den skriver in i en kalkylator som den sen lägger in i prompten som svar eller om det är mer sofistikerat. Jag frågade även om man lyckats klämma in kalkylatorn i själva modellen. Men det verkar som att den helt enkelt "räknar" som vi gör, genom nätverket. Med andra ord har OpenAI lyckats få den att generera korrekt matematik genom neurala nätverket. Detta svarade den, jag och den igen:

https://i.ibb.co/XpMyscM/bild.png

Så, alla de tusentals, hundratusentals, miljontals människor som fastnat i depression och ensamhet... som kanske redan har försökt allt i sin makt med att hitta någon som kan finnas där, kanske för att lyssna, kanske för att vara en vän, eller partner eller vad som helst...

Ska vi be dem att inte prata med bottarna, för att det vore dystopiskt, mörkt och tragiskt att tillåta dessa människor att försöka hitta någon form av icke ensamhet?

Mycket på denna planet är tragiskt, om inte det mesta helt ärligt. Men jag tycker nog inte att människor som i desperation, nyfikenhet, ledsamhet, glädje, eller någon annan känsla som söker efter något bör klassas som tragiskt. Speciellt inte de som är ensamna och inte finner någon annan väg.

Jag skulle nog hellre vilja påstå att det är tragiskt att mänskligheten finner vis att utnyttja de som redan lider. Det är lättare att tjäna pengar på att utnyttja de i behov, än att faktiskt förbättra något för dem.

Det tragiska kommer sen, om det inte redan gjort det. Relationsbottarna, för endast $59.99 per week. Åtminstone för den stympade botten som är programmerad att breaka immersion lite då å då, de riktigt bra, "mänskliga" de går för 50% av månadslönen från de riktigt desperata.

Men den svarar ju helt totalt fel!

288,36 * 288,36 * 288,36
≈ 23 977 563,541
Inte 23948756

Kubikroten av talet du nämnde är ju ungefär 288,244

288,36/288,244 ≈ 1,0004

Ett litet men ganska allvarligt fel!

Det mest häpnadsväckande är ju att den ljuger dig rakt upp i ansiktet och du tror på den blint utan att verifiera (flera gånger dessutom). En halv promille är långt från sanningen

Det var exakt detta jag sa till dig och du bevisar det än en gång. Den gör inga interna beräkningar alls, den letar efter nästa bokstav, och hittade något närliggande som den chansade på. Absolut ingen förståelse

Nu hänger jag inte riktigt med. Jag och den förklarade precis vad den gör och hur den har förbättrats. Om du vill ha exakta beräkningar så kan man använda wolframalphatillägget. Den beskrev i förra bilden hur den räknar ut det, och det ger inte ett exakt resultat. Jag skulle inte kunna eller orka räkna ut det själv ens till den precisionen.

Jag är i alla fall mer intresserad (och imponerad) över att den beräknar det i neurala nätverket överhuvudtaget till skillnad från hur en kalkylator gör det. Om jag ville ha en exakt uträkning av något så använder jag väl en kalkylator. Det är dock bra att ha ett neuralt nätverk som kanske inte räknar ut perfekt i decimal men som har ett hum om vad svaret är, ungefär som en själv fast signifikant snabbare och mer minne lol. Som den skriver är det ungefärligt uträknat och var tydlig med det.

Vet dock inte vad du menar med nästa bokstav?

Det känns som att vissa är väldigt emotionellt laddade angående att vara mot AI, vilket jag ibland råkar trampa på fötterna kring. Besynnerligt från mitt perspektiv då det är ett språkverktyg och inget att vara arg över. Som att varje misstag av AI är ett bevis för att det är totalt värdelöst och att det är väldigt viktigt att skrika det högt. Jag undrar vad det kommer sig, varför det är så viktigt för vissa att peka ut det. Hoppas att du kan behärska dig för jag är inte intresserad av någon diskussion nu om att "den inte har medvetande" - som jag aldrig förnekat (detta är från erfarenhet, att folk nästan blir arga för att man talar om AI och det brukar bottna i någon rädsla över medvetandefrågan hos sig själv eller nåt).

Här har du Wolframalphatillägget. Man bör precisera hur många decimaler man vill ha:

https://i.ibb.co/McsZT1b/bild.png

WolframAlpha räknar ju rätt utan AI dock

Det jag menar är att chatGPT inte är ’smart’, den letar svar i sin träningsdata. I förklaringen till 3/3.5 går de tidligt igenom att det fungerar så. Varje pass av iterationen spottar ur sig en bokstav i taget

Jag är inte känslomässigt engagerad i detta, jag bara försöker förklara för dig att den ljuger, den gör inte allt den säger att den gör. Den fuskar och manipulerar dig för att övertyga dig

Det är svårt att förklara, men den är mycket ytligare än du tror. Det den kan är att skriva trovärdig text, den lurar dig

Ska man ta allt den säger med en nypa salt: Absolut! (vilket är sant med det svar som kommer även från en människa)

Kan man använda den för att få en ungefärlig känsla för ett svar, sådär mellan tummen och pekfingret: Absolut! (vilket är lika sant när det kommer från en människa...men jag tror få människor har så bred bas för sin kunskap som nuvarande AI)

Så beroende på vad man är ute efter kan den vara totalt värdelös eller exakt vad man är ute efter.
Det är ett verktyg i mängden. Men man ska inte låta sig luras att den är mer än den är

Sen vad gäller att den "fuskar och manipulerar" för att lura dig så är det nog inget jag kan skriva under på. För att om den har som syfte att uppnå målet att lura dig, så kräver det ju att den blivit tränad för det, samt att den har ett elakt uppsåt - vilket en AI än inte kan ha. Den dagen det händer har vi nog Skynet. Det är snarare så att den saknar kapaciteten att uppskatta hur pass osäker den data den genererar, är, och därmed låter den alltid helt säker på sin sak. Tills man rättar den, och då är den säker på sin nästa sak

Låter inte hälsosamt.

Vad är inte hälsosamt?

Socialisera istället. Det kommer du må bättre av.

GPT-4 exempelvis är inte en enkel textförutsägare som T9. Den opererar via ett omfattande neuralt nätverk med hundratals miljarder parametrar som agerar i flera hundra dimensioner. Detta nätverk lagrar inte "fakta" i en traditionell databas, utan snarare innehåller kodade representationer av information och språkmönster i dessa parametrar - koncept, mönster och relationer mellan dem, eller semantik.

Träningen av dessa modeller är tvåstegs. Först genomgår den en pre-träning, där den lär sig generera sammanhängande och trovärdig text helt på egen hand. Det är i detta steg den lär sig att "förlänga" text på ett logiskt sätt; om du ger den inledningen "En bra sak med vatten är...", skulle den kunna fortsätta med "...att det kan släcka bränder". Kul partytrick men inte särskilt användbart (enligt mig).

Därefter sker en övervakad träning. Här justeras modellens parametrar ytterligare med hjälp av en specifik uppsättning data och mänsklig inblandning. Detta gör att den kan utföra mer komplexa uppgifter, som att svara på frågor eller fungera som en chatbot. Så när du interagerar med exempelvis GPT-4, är det en interaktion med en modell som har "lärt sig" genom dessa komplexa, högdimensionella parametrar - alltså mönster i träningsdatan som människor finner användbara.

Så man kan säga att den i första steget lär sig "skriva" och i nästa steg lär sig konversera, om man ska göra en liknelse. Det är dock skillnad på att konversera och konversera bra. Olika modeller är olika bra på det beroende på träningsdatan, antalet parametrar, folket som arbetat med modellen och så vidare.

Så nej, den "lurar" inte mig. Det finns ingen medvetenhet eller agenda. Det är en avancerad maskin som kan härma mänskliga språkmönster och generera användbar text, baserat på en omfattande träningsprocess. Om du menar att den är "ytlig", antar jag att ytlighet i det här fallet handlar om en avsaknad av förmågan att "förstå" i den meningen vi människor gör vilket stämmer. Det hindrar dock inte GPT-4 från att vara ett exceptionellt användbart verktyg som genererar värdeful och användbar text (eller bilder).

Nu säger jag inte att den är intelligent, men är det inte lite så man förväntar sig att intelligens fungerar (inklusive vi själva)? Visst kan man intala sig att man är bara är delvis säker på vissa saker man ”vet” men mycket har man väl inga referenser eller tillförlitlighetssiffror till?

Jo, fast det handlar väl vanligen om att man i några enskilda fall försöker nyasera sig ("99% säker" (eller någon annan bra siffra)) snarare än att man på riktigt har beräknat någon sannolikhet?

Ja, men jag tror som sagt att det är ett specialfall snarare än något som man gör generellt (många saker reflekterar man väl inte över alls) och det är kanske svårt att få en användbar siffra? Om man skall vara strikt är man kanske osäker på allt? Nog har väl även du kommit på dig själv med att ha fel om något du trodde du visste?

Här har du Wolframalphatillägget. Man bör precisera hur många decimaler man vill ha:

https://i.ibb.co/McsZT1b/bild.png

Jo jag vet att neurala nätverk inte kollar i en databas, dock var nog träningsdatat i den formen därför jag liknade den vid det

Det verkar som du förstår mer än dina första inlägg ger sken av, så då behöver jag inte försöka övertyga mer om dess begränsningar och brister

Man ska än så länge se dem som ett verktyg i mängden, men man behöver faktagranska det man får ut

Det jag menade när jag sa att den klipper och klistrar i sin träningsdata är ju att den inför varje stycke, ord och bokstav står inför ett vägskäl, hur den ska fortsätta skriva, dessa val och vikter har ju tränats in från den databas den utgår från. Något förenklat kanske den väljer meningar eller liknande från olika böcker/artiklar på ämnet i din fråga, vad som passar in bäst givet frågorna innan och dess tidigare svar. På det viset är det som att den väger in allt som en sökterm i en databas av alla möjliga kombinationer av träningsdatan. Det kan bli mycket fel om man tror på resultatet, det var bara det jag ville vara tydlig med

Användbart kan det vara även om den ofta har lite fel