Toen hem werd gevraagd om problemen met gegevensprivacy te onderzoeken die voortkwamen uit Microsoft Recall, een zelfcontroletool die niet door de Windows-maker werd ontvangen, veegde Jaime Teevan, hoofdwetenschapper en technisch medewerker bij Microsoft Research, de zorgen weg.
Tevan sprak woensdag met Erik Brynjolfsson, directeur van het Digital Economy Lab van Stanford University, op de vijfde jubileumconferentie van het Human-Centered Artificial Intelligence Institute van de Amerikaanse universiteit.
Brynjolfsson zei dat toen Recall werd aangekondigd, er “een soort verzet was tegen alle privacy-uitdagingen die daarmee gepaard gingen. Praat dus over de voor- en nadelen van het gebruik van al die gegevens en enkele risico’s die het met zich meebrengt, evenals enkele kansen. “
Het was duidelijk dat dit een populair onderwerp was.
Natuurlijk heroverwegen we wat data betekenen, hoe we het gebruiken, hoe we het evalueren en hoe het wordt gebruikt
‘Ja, en dat is een goede vraag, Eric,’ zei Tevan. “Dit is ook de hele ochtend ter sprake gebracht: het belang van data. En de AI-revolutie die we nu zien, verandert echt de manier waarop we data begrijpen.”
Ze vervolgde: “Microsoft helpt grote organisaties over het algemeen hun data te beheren, data te creëren en data te delen, en die data is echt iets dat het bedrijfsleven anders maakt in de context van generatieve AI.
“Ook als individuen hebben we belangrijke gegevens, gegevens waar we voortdurend mee communiceren, en er is een kans om na te denken over hoe we dat doen en om na te denken over wat het betekent om die te kunnen vastleggen en gebruiken. Maar natuurlijk heroverwegen we wat data betekent en hoe we het gebruiken, hoe we het evalueren en hoe het wordt gebruikt.
Dossier Toen Recall vorige maand op Microsoft Build werd geïntroduceerd, merkte ik op dat de software – die een archief aanmaakt van schermafbeeldingen die om de paar seconden worden gemaakt en gebruikersactiviteiten registreert, zodat eerdere acties kunnen worden onthouden – een aanzienlijk privacyrisico met zich meebrengt. Zoals onlangs beschreven Het is gemaakt door auteur Charlie Strouse en is “het product dat niemand wil” en “een onzinvertoning van absolute privacy.”
Onverschrokken door Tevans onwil om toe te geven waarom Recall spanning veroorzaakte, ging Brynjolfsson verder op onderzoek uit.
“Is het lokaal opgeslagen?” Gevraagd. “Dus laten we zeggen dat ik Recall activeer, en ik weet niet of ik dat kan, maar als je zoiets hebt, zou ik me zorgen maken dat al mijn persoonlijke bestanden naar de cloud gaan, of Microsoft, of zoiets. Heb je dat? Lokaal blijven?”
Tevan antwoordde: “Ja, ja, dat is het belangrijkste waar we als bedrijf veel om geven: gegevensbescherming. Recall is dus een functie die informatie vastlegt. Het is een lokale Windows-functie, niets gaat naar de cloud, alles wordt opgeslagen lokaal.”
En het was alsof het voortdurend registreren van de computeractiviteiten van een persoon in een reeks schermafbeeldingen en activiteitenlogboeken geen implicaties voor de veiligheid of de privacy had als de gegevens lokaal waren en beschermd door Microsoft-accountreferenties – niet veel geruststelling in het licht van de vrijlating van beveiligingsonderzoeker Alex Hagenah’s hulpmiddel Totale herinnering. Deze code kan gegevens extraheren en weergeven uit de niet-versleutelde SQLite-database van Recall, waar de “functie” van het besturingssysteem momentopnamen van gebruikersactiviteit opslaat.
Ondertussen blijven onderzoekers en veiligheidsanalisten oproepen om de terugroepactie, die later deze maand zal plaatsvinden, te vergeten.
Zoals Stross betoogt, zullen met dagvaardingen uitgeruste Windows-computers het doelwit zijn van advocaten tijdens ontdekkingsprocedures, omdat ze niet alleen toegang bieden tot e-mails, maar ook tot gesprekken in elke berichten- of samenwerkingstoepassing, en mogelijk gesproken gesprekken als spraakoverdrachtgegevens worden vastgelegd door de activiteitenrecorder van Redmond. Het is ook gemakkelijk voor een hacker om te snuffelen in wat zijn slachtoffer de laatste tijd heeft gedaan, zowel persoonlijk als op het werk.
“Het is absurd voor elke organisatie die medische dossiers verwerkt of een wettelijke geheimhoudingsplicht heeft, voor elk bedrijf dat moet voldoen aan de AVG (hoe gaat Recall om met het recht om vergeten te worden? Kortom: slecht), oftewel HIPAA.” In de Verenigde Staten”, schreef hij in zijn post.
“Deze tekortkoming druist in tegen de privacywetgeving in de hele EU (en in Groot-Brittannië) en bij zorgorganisaties overal waar een medisch recht op privacy bestaat.”
Verwijzend naar het vermogen van Recall om te voorkomen dat DRM-inhoud wordt onderschept, vervolgde de sciencefictionschrijver: “De enige mensen wier privacy niet wordt geschonden zijn Hollywood-studio’s en Netflix, wat je iets vertelt over de stand van zaken.” ®
Ook aan de Stanford Universiteit: Om de AI-energiecrisis op te lossen moet “het hele spectrum van elektronen tot algoritmen heroverwogen worden”, zegt de hoogleraar natuurkunde.
‘Reader. Furious humble travel enthusiast. Extreme food scientist. Writer. Communicator.’
