Denna studie undersöker omfattningen av risker associerade med deepfakes och andra framväxande hot som härstammar från generativ artificiell intelligens (GenAI). Dessutom utvärderar den industrins medvetenhet om dessa risker inom det snabbt expanderande området GenAI.

Studien består av två delar: en enkät som skickades till 103 organisationer för att samla in data om hur GenAI-drivna hot, specifikt deepfakes, har påverkat deras säkerhetspraxis och om de har stött på några incidenter, samt en översikt av aktuell forskningom hoten från deepfakes och andra hot möjliggjorda med GenAI. Enkätsvaren från 18 organisationer inom flera sektorer har samlats in och analyserats. Eftersom frågorna följde en logisk sekvens, gav de nödvändig information för att förstå medvetenheten och den aktuella hotbilden relaterad till deepfakes och GenAI.

Forskningen och artiklarna om deepfakes och andra risker relaterade till GenAI har lyftf ram betydande farhågor om de potentiella farorna. Det har också förekommit fall där deepfakes och GenAI redan har använts i attacker.

Resultaten från enkäten visar att även om det finns en hög medvetenhet om AI-drivna hot, saknar många organisationer de nödvändiga verktygen och strategierna för att effektivt upptäcka och skydda sig mot dem. Organisationer förlitar sig ofta mycket på extern expertis på grund av otillräckliga interna resurser, vilket utgör en potentiell sårbarhet. Beredskapen att anpassa säkerhetsstrategier varierar avsevärt mellan organisationer, där vissa är proaktiva medan andra ligger efter. Utmaningar i anpassningen skulle kunna inkludera den snabba teknikutvecklingen, höga kostnader och brist på kvalificerade yrkespersoner.

Sammanfattningsvis drar studien slutsatsen att hot möjliggjorda med GenAI, särskilt desom involverar deepfakes, utgör ett verkligt hot idag. Trots att denna teknik är relativt ny är arbetet för att utveckla effektiva motåtgärder avgörande. Betydande brister i beredskap och proaktiva åtgärder kvarstår dock, vilket understryker behovet av fortsatt förbättringsarbete och samarbete inom området.

This study investigates the scope of risks associated with deepfakes and other emerging threats originating from generative artificial intelligence (GenAI) technologies. Additionally, it evaluates the industry’s level of awareness regarding these risks within the rapidly expanding and evolving landscape of GenAI.

The study consists of two parts: a survey sentto 103 companies to collect data on how GenAI-driven threats, specifically deepfakes, have influenced their security practices and whether they have encountered any incidents, and a review of current research on the threats posed by deepfakes and other threats enabled by GenAI. Survey results from 18 organizations across several sectors were gathered and analysed. As the questions followed a logical sequence, they provided the necessary information to understand the awareness and current threat landscape related to deepfakes andGenAI. 

From the research and articles on deepfakes and GenAI-enabled risks, significant concernsabout the potential dangers have been highlighted. There have also been instances where GenAI has already been used in attacks. The findings from the survey indicate that while there is a high level of awareness regarding AI-driven threats, many organizations lack the necessary tools and strategies to effectively detect and protect against them. Organizations often rely heavily on external expertise due to insufficient in-house capabilities, which presents a potential vulnerability. The readiness to adapt security strategies varies significantly among organizations, with some being proactive while others lag behind. Challenges in adaptation could possibly include rapid technological advancements, high costs, and a shortage of skilled professionals.

Overall, the study concludes that GenAI-enabled threats, specifically those involving deepfakes, pose a genuine threat today. Despite the relatively new nature of this technology, ongoing efforts to develop effective countermeasures are crucial. However, significant gaps in preparedness and proactive measures remain, highlighting the need for continued improvement and collaboration in the field.