Forskare demonstrerar AI-infekterande mask

Mask? Kan inte AI avmaska sig själv?

Vackert! Snart kommer AI hacka sig själv

Vi lever i en farlig tid och man får vara vaksam. Ett problem jag ser är folk kan ta genvägar och ge Ai tillgång till mer än vad den behöver ha. På samma sätt folk tar genvägar och tar med deras jobbryggsäck med laptop på ställen (AW, gym etc) som den ej borde vara på för det underlättar och sparar tid för dem.

Det gäller att dra nytta av det här så att kundtjänstbottarna ger oss rabattkuponger och gratis tjänster

Vad var det som var specifikt med AI o göra här? Kändes mer som en vanlig trojan i ett mail? Fast de hoppas på att AIn ska skicka det vidare?

Får nog läsa källan om jag vill förstå bättre misstänker jag

När snart nog varenda del av Internet är infekterad av AI i alla dess skepnader så kommer det bli (om det inte redan är) omöjligt att träna en modell utan att den är förorenad redan från början.
Vilket såklart betyder att den som kan garantera att nånting -inte- är infekterat sitter på en liten guldklimp.

Så att med flit infektera modeller är ju nästan onödigt.
Bara roligt

Ser fram emot AI bubblans gigantiska krash.

Rätta mig om jag misstolkat det hela: Med "infekterande AI-mask" avses egentligen instruktioner till en LLM-baserad AI vilket i sin tur då utför "skadliga handlingar" gentemot riktad mottagare? Alltså "skadliga prompts" inbakat på något vis i filer som AI kan ta del av utan att "inse" att det är "skadliga prompts"? Förvisso var detta bara en tidsfråga innan någon skulle visa hur det går att utnyttja den automatisering som LLM-baserad AI kan bidra med.

Människan må vara den svagaste länken inom IT-säkerhet (pga. t.ex. social engineering), men en tröst samtidigt är att människan också är mycket långsammare än AI och teoretiskt talat då inte skulle kunna orsaka lika mycket skada lika fort som en "kapad AI" skulle ha kunnat göra. Förhoppningsvis kanske detta får fler IT-baserade bolag att tänka en extra gång till innan de får för sig att ersätta precis allt inom IT med enbart LLM-baserade AI-lösningar.

Mvh,
WKL.

Vi närmar oss Skynet varje dag

AIn som kodade nyhetssidan glömde att det var skottår i år.

(Artikeln skrevs troligtvis igår men var dold )

Känns som IT-säkerhet kommer få ökat behov med all denna AI utvecklingen i framtiden.

Hur länge dröjer det innan någon naiv okunnig användare kopplar en AI till powershell/bash och låter den härja fritt med resten av världen?

Tänker också att jag i stort sätt mest tittar på tre webplatser dagligen vilket borde kunna skötas av en AI som läser nyheterna och gör en sammanställning, samt något smart inlägg hos sweclockers varje dag. Låta datorn sköta datorn med andra ord!

SkAInet

Jag håller med men är problemet du beskriver verkligen något nytt? Att ge en process mer resurser än vad den borde ha är och har varit ett problem sedan urminnes tider. Onödiga filrättigheter, delade användare, bred access av portar, API:er som äe onödigt vida, root-access osv.

Görs idag med Power Automate som inom kort bakas in i Copilot.

Så den okunniga användaren är ingen mindre än Microsoft, men vad gör det, det är ju pengar och marknadsandelar på spel

Och dessa forskare jobbar aktivt med att förbättra möjligheterna att ta fram skadlig kod därför att?

Pengar, alltid pengar

Mvh

De får betalt att utföra sitt jobb, vilken insikt...

Visa att det går så man kan motverka det.

Jag påstår att man kommer hitta en drös säkerhetshål i det ena och andra som processorer, när det finns gott om teknisk kunnigt folk som på arbetstid kan hålla på och leta efter dessa hål. Förr i tiden var det mer att folk skulle hitta dessa hål på sin fritid och de hade redan ett supertufft arbete med hur mycket övertid som helst.

På frågan om det är bra om de på universitet lägger ner så mycket tid, ja de höjer ribban för andra att hitta säkerhetshål.