Hvordan gjøre samfunnet mer robust mot uønsket påvirkning i sosiale medier

Uønsket påvirkning ved bruk av blant annet desinformasjon i sosiale medier er blitt en synlig samfunnsutfordring. Under covid-19-pandemien har dette blitt spesielt tydelig, hvor spredning av desinformasjon har fått konsekvenser for liv og helse i flere land og undergraver tilliten mellom befolkningen og myndighetene. Derfor er det viktig og nødvendig at samfunnet blir mer robust i møtet med påvirkningsforsøk i sosiale medier. Med denne rapporten ønsker FFI å gjøre norske myndigheter, Forsvaret og totalforsvarsaktørene, og dermed samfunnet, bedre rustet til å forstå og gjenkjenne desinformasjon og påvirkningsoperasjoner i sosiale medier, for slik å kunne identifisere og beskytte egne sårbarheter gjennom konkrete tiltak og prioriteringer. Påvirkningsoperasjoner foregår gjerne fordekt og opphavet tåkelegges. De er derfor krevende å oppdage uten kunnskap, gode metoder og digitale verktøy. Rapportens overordnede problemstilling er hvordan samfunnet kan gjøres mer robust mot uønsket påvirkning i sosiale medier og det er fire forskningsspørsmål som rapporten adresserer: •Hvordan kan norske borgere påvirkes av desinformasjon og påvirkningsforsøk i sosiale medier?•Hvilke konkrete metoder og plattformer benyttes i påvirkningsoperasjoner/forsøk?•Hvilke typer aktører forsøker å påvirke Norge?•Hvilke tiltak bør vurderes for å gjøre samfunnet mer robust mot uønsket påvirkning i sosiale medier? Rapporten beskriver hva desinformasjon og påvirkningsoperasjoner er, og hvilke sentrale sårbarheter det norske samfunnet har i møte med trusselen fra desinformasjon og påvirkningsoperasjoner. Videre, tar rapporten for seg konkrete metoder og plattformer som benyttes i påvirkningsoperasjoner, i tillegg til noen bakenforliggende psykologiske prosesser. Det er både statlig- og ikke-statlige aktører som kan stå bak en påvirkningsoperasjon og rapporten beskriver ulike typer aktører fra fremmede stater, som Russland og Kina, til terrororganisasjoner, svindlere og ulike interessegrupper, som kan forsøke å påvirke Norge. Rapporten fremmer en rekke anbefalinger på hvordan man kan styrke vår robusthet mot uønsket påvirkning i sosiale medier. Anbefalingene er blant annet tilknyttet risiko- og sårbarhetsanalyser, metoder for å avdekke og håndtere desinformasjon, utvikling av digitale verktøy, og øke motstandsdyktighet i samfunnet og på myndighetsnivå. Det er nødvendig med kontinuerlig kunnskapsbygging innen dette feltet pga. den rivende utviklingen innen teknologi og det cyber-sosiale informasjonsdomenet. Det er behov for økt innsikt i, og kunnskap om, deteksjon av trender, forebyggende sikkerhet og langtidseffektene som des- og feilinformasjon i sosiale medier kan ha på nasjonal sikkerhet og bruk og effekt av kommunikasjon som et strategisk virkemiddel i fred, krise og krig. Påvirkningsoperasjoner utgjør en betydelig del av såkalte «sammensatte» eller «hybride» trusler. Den viktigste konklusjonen er at for å forstå og håndtere dem trengs det en tilnærming som går på tvers av tradisjonelle skillelinjer som stats- og samfunnssikkerhet, sivilt-militært, totalforsvaret, sektorene i norsk statsforvaltning og vår tradisjonelle forståelse av kategoriene fred, krise og krig.

Malign influence through disinformation in social media has become a visible societal challenge. This has been especially evident during the Covid-19 pandemic, during which the spread of disinformation has had a direct impact on life and health in several countries and threatened to undermine trust among populations and to government institutions. This shows how important and necessary it is to strengthen society’s resilience against malign influence in social media. The aim of this report is to increase knowledge and awareness among Norwegian authorities and public institutions, the Norwegian Armed Forces and the Total Defence actors on disinformation and influence operations in social media. Its purpose is to contribute to improved preparedness and resilience. Influence operations are usually covert and their origins clouded. That makes them difficult to detect without knowledge, effective methods and digital tools. This report seeks to answer the question of how to increase resilience against unwanted influence on social media, by addressing four key sub-questions – the latter also being the conclusion. •How are Norwegian citizens influenced by disinformation and influence attempts in social media?•Which specific methods and platforms are used in influence operations/attempts?•Which actors are performing influence operations against Norway?•Which measures should be considered in order to increase resilience against unwanted influence on social media? The report describes and explains disinformation and influence operations, and identifies key vulnerabilities of the Norwegian society in facing the threat from both. Furthermore, it presents specific methods and platforms for influence operations as well as the underlying psychological processes that make them effective. Both state and non-state actors can initiate influence operations against Norway. Actors range from foreign states like Russia and China to terrorist organizations, criminals and different interest groups. The report presents a number of recommendations on how to strengthen our resilience against unwanted influence on social media. The recommendations include risk and vulnerability analyses, methods for detecting and dealing with disinformation, development of digital tools and ways to increase awareness across governmental sectors and in society as a whole. Continuous knowledge building in this field is necessary, due to the rapid development of technology and the cyber-social information domain. Influence operations constitute a significant part of so-called “hybrid threats”. As such, this report concludes that such operations should be met with a whole-of-society approach across government sectors and the established separations of responsibilities, namely state vs. societal security, civilian vs. military and the increasingly irrelevant threshold definitions between peace, crisis and war.