Om du skulle undersöka AI:s omfattande förmågor skulle det inte ta lång tid att hitta en funktion som får dig att känna dig obekväm, orolig eller osäker. Det verkar nu som om Windows Recall-funktionen kan läggas till i den ständigt växande listan.
Sökverktyget, som tillkännagavs före Microsofts årliga Build Developer Conference, kommer att dokumentera din digitala aktivitet genom att ta skärmdumpar varannan sekund och lagra dem lokalt på din Windows 11-dator. Tanken är att Recall kan utföra en omfattande visuell sökning av hela din historik för att hitta exakt vad du behöver.
Microsoft har sagt att användarna kommer att kunna ”komma åt praktiskt taget allt [de] har sett eller gjort på [sin] PC på ett sätt som känns som att ha fotografiskt minne”.
Vem skulle inte vilja ha ett fotografiskt minne? För många känns dock utsikterna för Microsoft att ständigt titta på sina kunder lite för orwellianskt.
Även om teknikjätten släppte ett uttalande som hävdade att Recall-data inte kan ”nås av Microsoft eller någon som inte har tillgång till enheten”, är flera cybersäkerhetsspecialister inte övertygade om att denna AI inte hotar integritet och säkerhet.
Viktiga slutsatser om Microsofts Recall
- Windows Recall tar skärmdumpar med några sekunders mellanrum och lagrar dem lokalt på din Windows 11-dator.
- Integritetsexperter tror att detta kan skada människors välbefinnande och sannolikt kommer att påverka hur de använder sina datorer.
- Experter på cybersäkerhet är oroliga för att Recall kommer att göra det enkelt för cyberbrottslingar att komma åt känslig data.
Recall undersöks av The Information - Commissioners Office (ICO) för att säkerställa att skyddsåtgärder finns på plats och att användarnas integritet skyddas.
Den tittar på dig: Hur hotar Recall integriteten?
Microsoft försäkrar att de har ”byggt in integritet i Recalls design” och enligt företagets webbplats kan kunderna ”begränsa vilka ögonblicksbilder Recall samlar in”. Utöver detta har de betonat att tillgången till all data är strikt begränsad till ägaren.
Dessa löften verkar vara ineffektiva när det gäller att dämpa oron för att ständigt bli övervakad och inspelad.
Dr Kris Shrishak, en rådgivare inom AI och integritet, sa till BBC:
”Bara det faktum att skärmdumpar kommer att tas under användningen av enheten kan ha en avskräckande effekt på människor.”
Enligt Shrishak kommer denna oro sannolikt att påverka hur människor använder sina maskiner, vilket gör att de undviker de mer vardagliga men känsliga uppgifterna. Sammantaget kan Recall ”bli en mardröm för den personliga integriteten”, säger hon.
Det är inte så Microsofts VD Satya Nadella ser saker. I en intervju med Wall Street Journal förespråkade han Recalls förmåga att söka ”över all din historia” och ”återskapa stunder från ditt förflutna.” Nadella verkar omedveten om det läskiga med denna förmåga och hur det kan ses som en allvarlig invasion av integriteten.
På frågan om Microsofts nya innovation svarade Calli Schroeder, senior counsel och global privacy counsel på Electronic Privacy Information Center:
”Ständiga skärmdumpar av användarens handlingar för Recall och andra AI-program är en form av övervakning.”
Vi lever redan i en värld där företag övervakar sina anställda för att öka produktiviteten, och en hel nation håller koll på sina medborgare genom ansiktsigenkänning.
Matthias Pfau, medgrundare av Tuta, en säker e-posttjänst, beskriver att ”AI möjliggör en mer detaljerad profilering och spårning av individers aktiviteter, rörelser och beteenden än vad som någonsin varit möjligt tidigare.”
I artikeln för Forbes Technology Council skriver han att ”AI-baserad övervakningsteknik kan till exempel användas för marknadsföringsändamål och riktad reklam” och att denna ”omfattande övervakning” kan leda till att individer känner sig ”granskade”.
Det är inte orimligt att anta att Recall skulle kunna användas för sådana syften. Vad händer om Microsoft omprövar hur de hanterar dina uppgifter i framtiden?
Sociala medier är fulla av misstro mot Microsofts löften.
AI-experten Gary Marcus har till exempel sammanfattat vad de flesta människor tänker: ”Jag vill inte att min dator ska spionera på allt jag någonsin gör.”
The real question is if Microsoft will derive insights *locally* about you & your activities from AI Recall, and send those derived insights up to the cloud. They could do that for all AI Recall users while leaving their screenshots on their computers 🙂
pic.twitter.com/DICb5Zr9kn— Bilawal Sidhu (@bilawalsidhu) May 23, 2024
Hackare och tjuvar
Även om integritetsfrågan är viktig finns det andra illvilliga möjligheter som skapar liknande oro i cybersäkerhetsvärlden.
Mark Beare från Malwarebytes anser att AI som Recall leder till en ”social media 2.0-liknande värld”, där personuppgifter laddas upp utan större oro för hur dessa uppgifter kommer att användas eller utnyttjas i framtiden.
Den ledande säkerhetsingenjören på Check Point, Muhammad Yahya Patel, sa:
”Det är en engångsattack för brottslingar, som en grab and go, men med Recall kommer de i princip att ha allt på en enda plats … Föreställ dig den guldgruva av information som kommer att lagras på en maskin och vad hotaktörer kan göra med den.”
Charlie Milton, vice president på cybersäkerhetsföretaget Censornet, utvidgar denna berättelse genom att föreställa sig hur en hackare kan använda Recall för att förstå sitt offers beteende.
Han drar slutsatsen att tekniken skulle ge ”illvilliga aktörer en riktigt bra förståelse för användarbeteende och senaste användarbeteende för att de ska kunna påverka dig.”
Microsoft undrar sannolikt vad allt väsen handlar om. Eftersom allt lagras lokalt skulle en hackare behöva komma åt en enhet fysiskt innan de kunde hämta Recalls skärmdumpar.
Cybersäkerhetsexperten Kevin Beaumont har motsatt sig detta och menar att det inte finns någon garanti för att de nuvarande säkerhetsåtgärderna är effektiva mot andra hot, som till exempel skadlig kod.
Beaumont uttrycker allvarliga farhågor om tekniken: ”I grund och botten bakas en keylogger in i Windows som en funktion.”
Även om stöld, integritet och andra säkerhetsfrågor är oroande, har Microsoft sagt att Recall är en valfri upplevelse.
Innebörden är ganska tydlig: om du är orolig är det bara att stänga av den.
Men det här verkar vara ett tveksamt marknadsföringstrick. Vem vill köpa en produkt om de inte känner att de kan använda huvudfunktionen?
Om, som Microsoft hävdar, ”Recall är en viktig del av det som gör Copilot+ PCs speciella”, så borde de nog sluta presentera icke-användning som ett så självklart alternativ och istället fokusera på de integritets- och säkerhetsproblem som orsakar så mycket uppståndelse.
Naturligtvis försöker Microsoft också hårt att försvara sig. De fortsätter att marknadsföra Recalls förmåga att ”öppna [vilken] ögonblicksbild som helst i den ursprungliga applikationen där den skapades” och har skrytit med att efter att den har förfinats under sin förhandsgranskningsfas, ”kommer den att öppna det faktiska källdokumentet, webbplatsen eller e-postmeddelandet i en skärmdump.”
Det kan till exempel vara till hjälp för den som shoppar online och inte minns var han eller hon såg den där ”bruna läderväskan” från början.
Och det är inte alla som är lika kritiska. Vissa populära tech-influencers väljer att lita på Microsoft och dämpa oron för att personuppgifter hamnar i molnet.
Slutsatsen om Microsofts Recall för Windows
Att registrera data utan att säkra data är ett stort problem, och i sin nuvarande konfiguration ger Recall anledning till oro.
Detta har inte undgått Information Commissioners Office (ICO), som har varnat för att teknikföretag inte får offentliggöra sina skapelser innan de ”noggrant utvärderar och minskar riskerna för människors rättigheter och friheter”.
Det är inte uppenbart att Recall uppfyller dessa förväntningar, så ICO ”gör förfrågningar hos Microsoft för att förstå de skyddsåtgärder som finns för att skydda användarnas integritet”.
Framtiden får utvisa om Microsoft kommer att göra de förändringar som krävs för att få sin senaste innovation att fungera.
Vanliga frågor om Recall
Kan jag stänga av Windows Recall?
Vad är Windows Recall?
Finns Microsoft Recall i Windows 11?
Referenser
- Introducing Copilot+ PCs – The Official Microsoft Blog (Blogs.microsoft)
- Microsoft Copilot+ Recall feature ‘privacy nightmare’ (Bbc.co)
- Privacy and control over your Recall experience – Microsoft Support (Support.microsoft)
- A new AI era begins (Microsoft)
- wsj.com (Wsj)
- Mind your clicks — AI is watching – GZERO Media (Gzeromedia)
- ‘Constantly monitored’: the pushback against AI surveillance at work (Theguardian)
- China’s enormous surveillance state is still growing (Economist)
- Artificial Intelligence: The New Eyes Of Surveillance (Forbes)
- Bilawal Sidhu on X (X)
- Gary Marcus on X (X)
- Microsoft AI “Recall” feature records everything, secures far less (Malwarebytes)
- Microsoft’s controversial Recall feature for Windows 11 could already be in legal hot water (Techradar)
- Microsoft AI feature investigated by UK watchdog over screenshots (News.sky)
- How the new Microsoft Recall feature fundamentally undermines Windows security (Doublepulsar)
- Windows Recall is a BIG problem – YouTube (Youtube)
- Statement in response to Microsoft Recall feature | ICO (Ico.org)