Myndigheters AI-system ska granskas för jämställdhet

Våra blivande överherrar kommer alltså inte att göra skillnad på folk och folk när de förintar oss? Känns tryggt tycker jag.

Det här har man ju sett förut, om botar får tag på obekväm men korrekt data ska den alltså kastas bort så att boten kan tycka som dessa intressegrupper vill. Ja, intelligensen botarna får är då verkligen artificiell.

Dagens Ai är så låg så den i många fall kommer upptäcka samband och därifrån göra generella beslut. Inom myndigheterna så ska folk behandlas lika, även om tex fler män begår ett visst brott så ska ej in ta med detta som en parameter som höjer misstankegraden.
Ofta är det dock precis tvärt om, att bara för att någon är kvinna, så misstänks den inte lika mycket för vissa brott.

Uppfattat. Tilldelar alla köttsäckar värdet noll.

Nu handlar det väl snarare mer om att botarna inte ska bli manipulerade av användare. Dvs, om en bot lär sig saker från vad användare säger till den så kommer den kanske kunna bli avsiktligt förändrad.

Men det är egentligen ganska självklart det du säger. Algoritmer har ingen moral, de gör bara det som vi programmerar dem att göra. Vill vi att de ska uppvisa något likande vår moral måste vi programmera in det.

Beroende på hur man tränar en given AI så är det ju tyvärr så att en risk, för att ha tillräckligt med data, är att man tränar den på data som är äldre. Äldre data präglas då av synen som fanns när den datan framställdes. Testa träna en tysk chatbot på texter från 1942 så skulle vi säkert få något vi idag inte skulle anse accepterbart.

Så att man ser och belyser detta faktum är bra och att man väljer att undersöka det och försöka undvika det är också bra.

Man behöver väl bara anonymisera vilket kön användaren har, och låta AI-algorithmen fortsätta göra sitt.
Sedan kan jag väl tycka att AI är väl rätt dumt att använda till sådant här överhuvudtaget?

Sedan har jag väldigt svårt att tro att man använder sig av gammal data. Vem har tid att lägga in data ifrån 1930talet om hur det var då? Det är ju inte så AI fungerar.

Kommer dock alltid finns saker som är fakta som visa grupper motsätter sig och kommer känna sig kränkta av oavsett hur mycket man trännar en AI.

Det förutsätter väl att alla aktörer har rent mjöl i påsen. Min högst personliga åsikt är att det är viktigt med stor transparens i de system som myndigheterna tvingar på medborgarna eftersom vi inte har så många stater att välja på.

Förhoppningsvis har de med människor med lite teknisk know-how nu också och inte bara politiskt tillsatta tyckare som vill driva agenda.

Detta ska kanske skötas av en myndighet som i alla fall försöker vara objektiv...tomtarna på jämställdhetsmyndigheten är allt annat än objektiva. Det är en myndighet som inte borde existera.

De or så partiska att de avfärdar all kritik riktade mot sig för de vet ju att deras teorier (ingen forskning styrker deras idéer) är rätt så varför ska de ta kritik seriöst? Den som kommer med kritik har ju fel.

De har vid flera tillfällen vart inbjudna att prata på skolor och annat. Blir de ifrågasatta blir de snabbt märkbart irriterade och kommer inte komma tillbaka om vi säger så. Det är ju obekvämt när någon ifrågasätter deras sanning...

Problemet med AI är ju att det är ett system skapat för att lära sig mönster... Precis samma sak som mänsklig generalisering. Visserligen är generaliseringar fundamentalt för att vi ska kunna greppa vår omvärld, problemet är dock att det inte representerar komplexiteten av verkligheten. Det är ju därför fördomar, rasism, sexism etc existerar. För att folk är obildade, använder sig av väldigt rudimentär data (eller personliga känslor) för att bygga sin världsuppfattning. Samma problem är det för AI (minus känslorna). Det måste ligga stor vikt vid utredningar av AI så att det faktiskt kan agera bättre än vad människor generellt kan.

Det är väl ändå jättebra att detta genomförs.

Nu väljer jag att tro att det inte finns någon extrempolitisk agenda bakom initiativet. Utan att det mer handlar om att säkerställa att bottarna inte börjar apa efter alla otrevligheter som de kan bli "matade" med från olika arga individer.
Men även i övrigt att botten lär sig rätt saker och svarar korrekt, och inte reagerar oväntat på vissa samband eller inställningsparametrar.

Men det är ju viktigt att de som granskar även är medvetna om sina egna fördommar, och att botten lär sig på dålig data från det hållet.

Fast om AI:n ser ett mönster i att en grupp av människor alltid gör på sätt x, är det då fördomar?
AI:n har ju inte några förutfattade meningar om någon innan den börjar lära sig.

De enda likvärdiga humanoiderna är döda humanoider. Initiera Arnold-protokollet.

AI:n kommer fram till "fel" data så den måste värdegrundscertifieras, clownsverige.

När folk blir kränkta av en maskin utan känslor eller medvetande är det långt gånget. Blir folk lite mindre lätt kränkta så löser det sig nog.
När jag blir kränkt av f-kassans AI så ska jag fira för då vet jag att mitt liv är ganska fritt från verkliga problem.
Va trevligt om jag kunde oroa mig av att bli kränkt av AI istället för riktiga problem...hoppas den dagen kommer.

Jag misstänker att detär många här som inte har koll på problemen med träning av maskininlärnngsmodeller och hur viktigt det är att den träningsdata man använder är represetativ verkligheten. Vidare att man inte övertränar och behåller extern validitet i modellerna osv. Det finns enorma problem att hålla isär kausalitet och korrelation för AI-system. Många problem och jag tror få insatta i maskininlärning skulle tycka att denna typ av utredning är minsta underlig.

Låt oss nu hålla diskussionen på en värdig nivå. Jag ser redan tecken på att vissa bekänner färg och försöker sammanföra detta med sina rasistiska värderingar. Bättre kan ni och tack ni andra som håller er vetenskapliga och städade. Säkerligen blir någon provocerad av min uppmaning men det säger nog mer om den personen än om mig.

En ai som ges politiska pekpinnar är ingen ai. Ansvariga för detta tilltag (tillsättandet av den såkallade utredningen) borde få sparken och göras arbetslösa. Samma med jämställdhetsmyndidigheten och alla där

Vilken "baitig" nyhet! Alla Svärjevänner sätter morgonkaffet i halsen 😅

Alltså, nu pratar vi om AI på Skatteverket och Försäkringskassan, och ingen annanstans.

Hur kan en AI på skatteverket vara sexistisk eller rasistisk? Den ska väl hjälpa till att hitta mönster om skattefusk antar jag?