AI-drivna säkerhetshot (Social Engineering)

Tidigare i kursen har vi pratat om hur du skyddar din organisations data genom att inte mata in känslig information i AI:n. Men det finns en annan sida av myntet: hur AI kan användas mot dig. Vi går nu in i en tid där bedrägerier och säkerhetshot blir betydligt svårare att upptäcka, eftersom de inte längre avslöjas av dålig stavning eller märkliga formuleringar. Detta kallas för AI-driven ”Social Engineering”, där tekniken används för att manipulera människor att lämna ifrån sig lösenord eller genomföra betalningar.

Det klassiska ”phishing-mejlet” (nätfiske) har genomgått en total förvandling. Förr var det ofta lätt att identifiera ett bluffmejl tack vare grammatiska fel och generiska hälsningsfraser. Med generativ AI kan en bedragare på några sekunder skapa ett språkligt perfekt mejl som ser ut att komma från din chef, din bank eller en välkänd myndighet. Texten kan dessutom anpassas efter din personliga profil och skrivas på ett sätt som känns stressande eller brådskande, vilket gör att vi lättare sänker garden.

Ännu mer sofistikerat är användandet av ”Deepfakes” – AI-genererat ljud eller video. Det finns i dag teknik som kan klona en röst med bara några sekunders ljudklipp som källa. Det har förekommit fall där ekonomiansvariga fått ett telefonsamtal från vad som låter exakt som deras VD, som ber om en akut och hemlig överföring av pengar för att ”stänga en viktig affär”. När rösten, tonfallet och sättet att prata stämmer överens med verkligheten, är det mänskligt att vilja hjälpa till.

För att skydda dig mot dessa hot är din viktigaste försvarsteknik att vara ”hälsosamt skeptisk”. Om du får en ovanlig begäran, oavsett om det är via mejl, chatt eller telefon, bör du alltid använda en alternativ kommunikationsväg för att bekräfta identiteten. Ring upp din kollega på det nummer du har sparat, eller skicka ett meddelande i en annan kanal. Många företag inför nu också interna ”lösenord” eller kontrollfrågor för att verifiera identitet vid känsliga transaktioner. Kom ihåg: tekniken kan kopiera en röst, men den kan inte kopiera de gemensamma minnen eller den specifika kontext som du har med dina kollegor. Att våga stanna upp och ställa en extra kontrollfråga är inte ett tecken på misstänksamhet, utan på hög digital kompetens.