För att uppmärksamma källkritikens dag har vi valt att återpublicera den här artikeln från den 12 december 2022.
Nyligen lanserades textroboten Chat GPT som med artificiell intelligens genererar allt från artiklar och svar på frågor inom historia, matte och programmering, till påhittade berättelser och lyrik.
Trots begränsningar, till exempel ingen tillgång till aktuellt internet och politik, är resultatet redan häpnadsväckande. Även på svenska ger textroboten svar som är grammatiskt korrekta och nära nog mänskliga i sin karaktär.
Läs mer: Så svarar ai-roboten Chat GPT på våra frågor
Men det är inte bara autogenererad text som nu tar ett jättekliv. Ai-tjänster har även blivit mästare på att skapa bilder (en har till och med vunnit en konsttävling). ”Deep fake”-videos blir allt bättre och ai har länge kunnat skapa bilder av verklighetstrogna människor.
Fantastiskt spännande!
Men också: Vad händer nu?
– Vi står på gränsen till en framtid där ingen vanlig användare kan skilja mellan innehåll skapat av människor och sådant skapat av maskiner, säger Måns Jonasson, internetexpert på Internetstiftelsen.
Fejkonton, bottar, falska produktrecensioner och trollfarmar har alltid varit ett hot på nätet. Men de är ofta dumma (bottar) eller begränsade i räckvidd och antal (recensions- och trollfarmar). Vad händer när allt detta automatiseras och teoretiskt sett kan skalas upp oändligt?
– AI-tekniken går väldigt fort framåt nu. Där det tidigare krävdes en hel del för att sätta sig in för att generera bilder eller text från en ai är det nu väldigt enkelt. Den som vill kan enkelt skapa tusentals bilder på människor som inte finns och sätta upp som bot-konton, säger Måns Jonasson.
Om det är någonting Chat GPT, Dall-E 2 och den typen av användarvänliga ai-tjänster gjort tydligt är att artificiell intelligens är här för att stanna.
– När allt som krävs är öppen mjukvara och en vanlig pc för att göra något så blir det i praktiken ostoppbart, säger Måns Jonasson.
Fejkade produktrecensioner
Ett område som länge haft problem med trovärdigheten är produktrecensioner hos återförsäljare, prisjämförelsesajter och appbutiker.
Du har säkert läst många gånger om recensionsfarmar där personer jobbar med att rösta upp och skriva positiva (eller negativa) kommentarer för de som betalar för det. Bilden ovan är skapad av ai, men är inte allt för långt från sanningen. Här kan du se en bild från en riktig recensionsfarm.
De flesta är nog lite skeptiska om en produkt bara har en eller två recensioner – är det apptillverkaren själv som skrivit? Men känner sig desto tryggare när det är hundratalet recensioner. Visst kan några vara fejk, men det måste ju vara många äkta också…
Vad händer när vem som helst kan släppa lös tusentals ai-bottar som alla skriver trovärdiga recensioner överallt utan att någon behöver lyfta ett finger?
– Ai kan vara ett hot, men också en lösning för att upptäcka fejkomdömen. I det här fallet kan det liknas med en katt och råtta-lek, där det behövs ett smartare system för att upptäcka fejkomdömen än det system som används av bot-fabrikerna, säger Peter Greberg, vd på Prisjakt.
Prisjakt har redan i dag ett team som är dedikerat för att hitta och ta bort falska omdömen och recensioner.
– Det är inte en enkel uppgift, men i korthet handlar det om att ta fram system som effektivt hittar mönster i hur bot-fabrikernas innehåll genereras. Vi tar de här frågorna på stort allvar och arbetar kontinuerligt för att vara i framkant när det gäller att motverka fejk-omdömen. Vi tittar på olika potentiella lösningar, bland annat vad det skulle innebära om vi i vissa fall krävde personlig identifikation vid inlämning av omdömen, säger Peter Greberg.
Men hur ska någon kunna lita på användarrecensioner om de kan automatgenereras på löpande band?
– Du kan aldrig helt garantera det. Vi investerar i området och vi tror att bästa lösningen för framtiden är det mänskliga omdömet i kombination med automatiska system, säger Peter Greberg.
Påverkanskampanjer och externa hot
Det finns även användningsområden för ai-bottar som är värre än att fiffla med produktrecensioner: Påverkanskampanjer och propaganda. Du minns säkert den ökända ryska trollfabriken som avslöjades, där en armé av internettroll arbetar dag och natt med att lägga sig i debatter på nätet med målet att få ut ryska statens agenda. Och så hela den där biten med att påverka valet i USA 2016.
Det var fortfarande till största delen människor som gjorde det jobbet. Tänk dig istället ett oändligt antal fejkade konton som outtröttligt kan argumentera förbestämda ämnen i sociala medier, på människospråk, och till och med bemöta kritik, utan att skaparna behöver lyfta ett finger.
Nyligen anklagades även Kina för att ha aktiverat en hel hord av vilande fejkkonton på Twitter. Kontona började sprida sexrelaterat innehåll kopplat till sökningar på städer där protester mot Kinas Zero covid-policy brutit ut. Syftet var att dränka de riktiga posterna i ett brus av nonsens. Det var inte på något sätt avancerade ai-bottar, men genomslaget märktes.
På Säpo är man högst medveten om utvecklingen.
– Säkerhetspolisen kan konstatera att det skett en kraftig ökning i förmåga att använda ai-teknik i just påverkans- och desinformationssyfte. Ett flertal statliga aktörer ligger långt fram när det gäller att utnyttja tekniken, och den har samtidigt blivit mer lättillgänglig generellt, berättar Fredrik Hultgren-Friberg, pressekreterare på SÄPO.
Nya risker, hot och sårbarheter som kan uppstå till följd av denna teknikutveckling är något Säkerhetspolisen arbetar aktivt med, i såväl det operativa arbetet som i analysarbetet.
– Säkerhetspolisen har hög kompetens på området och har på senare år gjort betydande satsningar inom områden som till exempel data science och automation, säger Fredrik Hultgren-Friberg på SÄPO.
Avancerade cyberhot
Ett annat område där ai kan få ett stort negativt genomslag är inom datorsäkerhet. Samtidigt som ai kan göra jobbet enklare för personer som jobbar med datorsäkerhet, kommer det också att göra det enklare för kriminella.
– En sak jag förväntar mig kommer att hända är att malware-attacker automatiseras. Det kan till exempel betyda att skadliga mejl som skickas ut automatiskt kan reagera om de stoppas av säkerhetssystem. Ai kan skriva om mejlen, registrera nya domäner och tweaka kod så att den blir svårare att upptäcka, säger Mikko Hypponen på säkerhetsföretaget Withsecure.
Går det att tygla den artificiella intelligensen?
AI Sweden är en organisation, sponsrad av både staten och privata aktörer, med målet att göra artificiell intelligens bättre och tillgänglig för svenska företag. Franciska Hoyer, Strategic Program Manager på AI Sweden, menar att detta egentligen inte är något nytt problem.
– Litar vi verkligen på dagens produktrecensioner, diskussioner i sociala medier med mera, även om texten är skriven av människor?
Franciska Hoyer menar att det är viktig att inte dra all misinformation över en kam.
– Man måste ta hänsyn till kontexten inom vilken desinformation sprids, aktörerna och deras intentioner, för att förstå vad grundproblemet är, hur det kan adresseras, och var den faktiska risken ligger.
Hon fortsätter:
– Från ett teknikhistoriskt perspektiv vet vi att det inte bara är teknologin som utvecklas utan även människor som skapar, interagerar med och påverkas av teknologin. Människor lär sig snabbt när nya fenomen uppstår och de utvecklar nya verktyg, så som till exempel reglering eller nya former av källkritik, för att hantera utmaningarna.
Men det kommer även att krävas mer av alla i samhället i takt med att ai blir allt ”smartare”.
– Beslutsfattare och ledare i samhället behöver ha hög kompetens i dessa frågor och förstå vilka vägval samhället står inför. Utbildningsmässigt behöver vi både införa en dimension av ai-kunskap i alla discipliner, det är helt centralt. Omvänt behöver vi även ha en tydlig humanistisk komponent inom de mer tekniska utbildningarna, inte minst källkritik, säger Franciska Hoyer.
Ljus i mörkret
För att inte avsluta denna artikel i något dystopiskt avgrundshål är det också värt att nämna att ai har väldigt stor potential att påverka våra liv positivt i framtiden. AI Sweden lyfter fram möjligheterna med ai som ett centralt verktyg för både privat och offentlig sektor. Allt från att klassificera ärenden och se till att de hamnar hos rätt person snabbt, till att få nya insikter från stora mängder information.
Även Internetstiftelsen ser möjligheter:
– Att alla människor får tillgång till extremt "smarta" datorassistenter kommer att underlätta enormt för väldigt många. Vi kan få hjälp att sammanfatta komplexa texter, förklara historiska och nutida händelser, analysera enorma mängder data, snabba upp och effektivisera forskning och mycket, mycket mer.
– Det här är nästa stora steg i vår användning av datorer, och vi har bara tagit de första stapplande stegen, avslutar Måns Jonasson på Internetstiftelsen.
