AI-utvecklingen går fort och ChatGPT, Bard och Firefly blir allt mer avancerade. Jag måste också erkänna att det är ganska imponerande vad de kan användas (och missbrukas) till. Men samtidigt måste vi inse att AI inte har tagit över världen och blivit en modern version av Skynet, som du kanske minns från filmen Terminator.
Ändå får vi inte blunda för säkerhetsriskerna som AI utgör, och vi ser också redan hackare utnyttja tekniken i sina attacker och kampanjer.
Ett av de områden där det går snabbast är så kallad generativ AI, det vill säga system som klarar av att skapa innehåll, text, bilder, filmer och ljud. Detta baseras på befintligt innehåll som finns på nätet, men det skiljer sig faktiskt inte så mycket från hur programmerare skapar kod; de hittar ofta stora delar av sin kod på t.ex. Github.
Innan jag tittar närmare på några av säkerhetsriskerna med generativ AI måste vi vara överens om att AI inte är en verklig artificiell intelligens. AI är fortfarande en (avancerad) form av maskininlärning och mönsterigenkänning som, med hjälp av avancerade algoritmer, kan skapa ganska övertygande innehåll.
Med det sagt ser jag åtta säkerhetsrisker som generativ AI utgör i dagsläget. Och lustigt nog är det inte nödvändigtvis AI som är problemet, utan hur AI används.
- För mycket input. Generativ AI skapar innehåll baserat på textinmatning från användare, och det är där problemet ligger. Det är nämligen lätt hänt att du som användare anger känslig, personlig eller privat information i textrutorna. Det är därför du alltid bör tänka efter noga innan du skickar in något i en generativ AI.
- IP-läckage. Det är enkelt att använda generativ AI eftersom du kan komma åt den via nätet eller via en app. Men det skapar skugg-IT på företagen och när de skickar information över internet delas även din IP-adress automatiskt. Därför bör du alltid använda ett VPN som bland annat maskerar din IP-adress och krypterar data.
- Använder data för träning. Den generativa AI:n behöver data för att bli bättre, och dina uppgifter är en del av det sammanhanget. Här är risken att de uppgifterna senare avslöjas, och om det är känslig information kan det orsaka allvarliga säkerhetsproblem.
- Lagrar data. Ju mer data en generativ AI har att arbeta med, desto bättre blir den. Men informationen måste sparas och därmed riskerar du att känsliga uppgifter lagras av tredje part.
- Följer inte nödvändigtvis GDPR. Om du skickar känsliga uppgifter till t.ex. OpenAI riskerar du inte bara säkerhetsproblem, utan också att du bryter mot GDPR-förordningen.
- Syntetiska data. Innehållet från generativ AI kan vara artificiellt, men den syntetiska informationen kan innehålla spår av originalet, vilket i sin tur kan avslöja känsliga eller personliga uppgifter.
- Dataläckage. Det finns inga onlinetjänster som är immuna mot dataläckor; det kan ske antingen som ett resultat av en hackerattack eller av ett olyckligt misstag. Men just för att dataläckage är en verklig risk måste du alltid tänka mycket noga på vilka uppgifter du vill lämna till en generativ AI.
- Används för attacker. Slutligen kan generativ AI även användas i faktiska attacker, bland annat för att skapa djupförfalskningar, vilseledande information eller mycket övertygande nätfiskekampanjer. Och även om det finns vissa kontroller inbyggda i systemen för att förhindra den typen av missbruk, är nätbrottslingarna inte tappade bakom en vagn, och har redan system på plats för att ta sig runt dessa hinder. Dessutom har de största aktörerna också alldeles egna AI-system.
Generativ AI är ett bekymmer rent säkerhetsmässigt, men det är värt att notera att du kan undvika riskerna genom att tänka efter två gånger.