Examensarbete – Implementering av generativ AI i organisationer

Hela Sverige står och faller med it och digitalisering. Genom att skriva ditt examensarbete med oss på Atea i Uppsala får du chansen att utforska spännande ämnen och vara del av att forma morgondagens lösningar för att lägga grunden för ett smartare och mer innovativt Sverige. Vi bygger Sverige med it. Vill du vara med?

Syfte

Syftet med examensarbetet är att undersöka hur införandet av generativ AI påverkar organisationers it-säkerhet, med särskilt fokus på hur slutanvändarnas säkerhetskompetens påverkar risknivån. Arbetet syftar även till att identifiera risktyper och hur dessa kan hanteras genom utbildning, policyer och tekniska lösningar.

Bakgrund

Generativ AI har snabbt blivit ett kraftfullt verktyg inom många organisationer. Tekniker som stora språkmodeller, bildgenerering och automatiserad kodskrivning används för att effektivisera arbetsflöden och stödja beslutsfattande. Men när dessa verktyg görs tillgängliga för slutanvändare utan djup teknisk förståelse uppstår nya säkerhetsutmaningar. Exempelvis kan känslig information oavsiktligt delas med publika AI-tjänster, eller AI användas för att kringgå interna säkerhetspolicyer. Det finns därför ett behov av att förstå hur användarnas kunskap, beteenden och attityder påverkar säkerheten vid användning av generativ AI.

Arbetets innehåll

Examensarbetet kommer att fokusera på:

Identifiering av säkerhetsrisker vid användning av generativ AI
Analys av hur användarnas säkerhetskompetens påverkar dessa risker
Kartläggning av vilka användartyper som är mest sårbara
Utveckling av strategier för att minska riskerna genom utbildning, styrning och tekniska kontroller

Metodförslag inkluderar litteraturstudie, enkätundersökning, intervjuer med it-säkerhetsexperter och fallstudie inom Atea eller partnerorganisation. En riskanalysmodell kan utvecklas eller anpassas för att bedöma risknivåer kopplade till användarkompetens och AI-användning.

Kvalifikationer

Vi söker dig/er som:

Är nyfiken på generativ AI och dess påverkan på organisationers säkerhetsarbete
Har förmåga att självständigt strukturera ditt arbete och tycker om att analysera komplexa frågor
Håller på att avsluta högskoleutbildning inom Datavetenskap, Informationssäkerhet,
Teknisk fysik, Industriell ekonomi eller motsvarande
Har mycket goda kunskaper i svenska, både i tal och skrift