Det lyder som noget fra George Orwells 1984 : En mand sender en privat e-mail og finder sig arresteret for det. E-mailen blev ikke opsnappet af en efterforskende politimand; Manden var ikke engang under mistanke før hans anholdelse. E-mailen blev analyseret af et automatiseret system, som få mennesker kender til, og den fornærmende e-mail blev underrettet af myndighederne.
Lyder det som en verden, du vil bo i? Den verden er allerede her - og det system blev brugt til at fange en fyr, der sendte børnepornografi Uheldige sandheder om børnepornografi og internettet [Funktion] Uheldige sandheder om børnepornografi og internettet [Funktion] En lille tom plads og en blinkende markør. Et vindue hvorigennem hele verden eksisterer. Du skal kun sige det rigtige ord - ethvert ord - og dit eneste ønske bliver leveret .... Læs mere.
Fanget Red-Handed
Så hvordan skete det? John Skillern sendte uanstændige billeder af børn til en ven og fandt sig snart anholdt. Hvad han ikke vidste var, at Google automatisk scanner de billeder, der sendes via Gmail, og sammenligner dem med en database med genoprettet børnepornografi. hvis en kamp er fundet, meddeles politiet. I dette tilfælde fik de efterfølgende en warrant til at søge på sin computer og tablet, hvor de fandt andre pornografiske billeder af børn.
Amerikansk lov kræver, at ethvert selskab, der opdager bevis for børnepornografi, rapporterer det til politiet med det samme. Dette har traditionelt været anvendt til fotoudviklere, foto hosting-tjenester og andre fotograferingsrelaterede virksomheder, men det gælder for alle virksomheder, herunder søgemaskiner. Selvfølgelig er dette godt - seksuel udnyttelse af børn er en voldsom forbrydelse, og vi skal smide alle ressourcer, vi har på det. Virksomheder er glade for at overholde disse love, og generelt er folk glade for dem.
Men eksistensen af denne teknologi har nogle mennesker bekymrede.
Hvordan virker det?
Den teknologi, der bruges til Gmail's porno-scanning, er et softwareprogram, der er oprettet af Microsoft, kaldet PhotoDNA. Når et billede tilføjes til PhotoDNA-databasen, er det en matematisk hash. Hvad alt dette MD5 Hash-materiale egentlig betyder [Teknologi forklaret] Hvad Alt dette MD5 Hash-indhold egentlig betyder [Teknologi forklaret] Her er en fuld nedbrud af MD5, hashing og en lille overblik over computere og kryptografi. Læs mere er oprettet og bruges som en unik identifikator. Efter at et par tusinde billeder er blevet tilføjet til databasen, bliver det rigtig godt at identificere billeder baseret på disse identifikatorer, selv om disse billeder har gennemgået mindre ændringer.
Microsoft udviklede PhotoDNA sammen med National Center for Missing and Exploited Children (NCMEC), så det har været bestemt til at bekæmpe børneporner siden begyndelsen. Og selvfølgelig arbejder det. Det fangede Skillern, og det er i brug af Bing, OneDrive, Facebook, Twitter og Gmail blandt potentielle andre.
Desværre kan PhotoDNA kun identificere billeder, der allerede er blevet tilføjet til databasen, hvilket betyder, at handel med nye billeder ikke udløser en advarsel. Men med mængden af ulovligt materiale, der allerede er derude, kan det være yderst nyttigt at identificere potentielle børnepornografere.
Var det en hemmelighed?
Siden meddelelsen om Skillerns arrestation har der været en masse diskussioner om, hvorvidt udbredelsen af PhotoDNA af Gmail er et privatliv bekymring. Gmail serverer annoncer til brugere og scanner indholdet af personlige e-mails for at afgøre, hvilke annoncer der skal vises. Google fastholder, at denne scanning er udført anonymt, og at student-, forretnings- og regeringskonti ikke scannes. Nylige privatliv og juridiske bekymringer har ført til, at Google bakker op af deres scanning lidt, men åbenbaringen af brugen af PhotoDNA har mange mennesker til at stille spørgsmålstegn ved, hvorvidt vi får hele historien.
Selvom Google aldrig havde nægtet at scanne Gmail-meddelelser til børneporno, var de meget tætte på det. Selv om folk er sikker på at støtte foranstaltninger mod børnepornografi, er ideen om, at Google scanner billederne i deres e-mails, måske ikke gået så godt. Men nyhederne er ude nu, og vi skal spørge os selv om, hvorvidt Google er kommende med, hvad de laver med vores e-mails. Vi ved, at e-mail er iboende usikker Hvorfor e-mail ikke kan beskyttes mod regeringsovervågning Hvorfor e-mail ikke kan beskyttes mod regeringsovervågning "Hvis du vidste hvad jeg ved om e-mail, kan du heller ikke bruge det, " sagde ejeren af sikker e-mail service Lavabit som han for nylig lukker den ned. "Der er ingen måde at gøre krypteret ... Læs mere, men at finde bevis for overvågning fra Google er ubehagelig.
Gmail Panopticon
I slutningen af det 18. århundrede udviklede Jeremy Bentham planerne for en bygning kaldet panopticon, hvor alle elever, børn eller - mest anvendelige fanger i en bygning kunne overvåges af en enkelt vagtperson. Ingen af de indsatte kan fortælle om de overvåges, så de må antage, at de er under overvågning, opmuntrer dem til at moderere deres adfærd for ikke at gøre opmærksom på sig selv.
Er det hvad Gmail fører os hen imod? Lige nu scanner de billeder til børnepornografi. Men som nogle journalister har bemærket, er Google bundet af lovgivningen i de lande, hvor den opererer. Fra nettet til fængsel: 6 typer computerforbrydelser, du kan blive anholdt for fra internettet til fængsel: 6 typer computerforbrydelser du kan Få arresteret for regeringer over hele verden har forsøgt at temme internettet som en storm for ny teknologi truer alt fra strenge statscensurer og kontrol over medierne til entrenched mediekonglomerater og gamle koncepter af ... Læs mere, hvilket betyder, at regeringerne kunne kræve at de omdanner andre former for oplysninger, der findes i deres scanninger. Dette kan lyde som en strækning, men ved at acceptere vilkårene og betingelserne for Gmail har vi givet Google meget magt til at gøre, hvad de vil have med vores data.
Og er det så svært at forestille sig, at denne teknologi ville blive brugt til forfølgelse af gerningsmænd til andre forbrydelser? Som det fremgår af Google, hævder Google, at nogen kunne åbenlyst planlægge en anden form for forbrydelse via Gmail, og de ville ikke være uden risiko. Men hvor længe vil det være tilfældet? Google samarbejder nu med retshåndhævelse ved at scanne vores private beskeder Kan du undslippe internetovervågningsprogrammer som PRISM? Kan du undslippe internetovervågningsprogrammer som PRISM? Helt siden Edward Snowden blæste fløjten på PRISM, NSA's ikke længere hemmelige overvågningsprogram, ved vi én ting med sikkerhed: Intet der sker online kan betragtes som privat. Kan du virkelig undslippe ... Læs mere. Nu da denne teknologi er blevet brugt til at fange en kriminel og er blevet vist for offentligheden, er der et meget stærkt band der.
Hvad skal Google scanne til næste? Terrorist trusler? Mordplotter? Butikstyveri? Meninger, der afviger fra dem, der støttes af det politiske flertal? Indikationer om hensigt om at stoppe med at bruge Google-tjenester? Vi kunne se et stort vendepunkt i den nærmeste fremtid drevet af stigende krav fra regeringerne. Og ikke bare vores - hvad vil mere undertrykkende regeringer bede Google om at vende om? E-mails indeholdende tegn på homoseksualitet? Politisk uoverensstemmelse? Humanitære missioner?
Vi ved det bare ikke. Og det er svært at sige, hvordan Google vil reagere.
Og det bliver svært at sige nej, efter at de har vist, at deres scanning kan fange børnepornografere. Hvem vil bede dem om at holde op med at bruge denne teknologi, når de uundgåeligt bliver spurgt "Støtter du børnepornografi, da?" Som svar? Der kan ikke være noget at gå tilbage fra - den offentlige mening vil være svært at svinge mod et system, der fanger nogle af de mest forfalskede kriminelle i verden.
Er dette begyndelsen af slutningen af privatlivets fred?
Hvis der er et enkelt selskab, der er synonymt med internettet, er det Google. Og hvis de scanner vores e-mails, kan privatlivets fred komme til ophør (i hvert fald i de store kanaler, der vil altid være andre muligheder). Hvis du læser mit stykke af ikke spionere på os Action Day-lektioner, der læres af, ikke spionere på os: Din vejledning til internet Fortrolighedspraksis læres fra at ikke spionere på os: Din guide til internetspecialitet Læs mere, du Jeg ved, at jeg er bange for, at privatlivet står over for nogle alvorlige angreb fra en række retninger, både corporate og governmental. Og dette samarbejde mellem de to kunne stave problemer for online privatliv og sikkerhed.
Selv om jeg ikke tror, at vi ser et beregnet beregning fra Google for at forbedre den offentlige mening om deres scanning, tror jeg, at de vil gøre deres bedste for at gøre dette til en positiv ting. De har måske ikke håbet på, at denne scanning skal bringes til offentlighedens opmærksomhed, men der er rigelig mulighed her for at vise verden, hvad de kan gøre for os i bytte for noget af vores privatliv.
Det næste skridt, som Google tager som reaktion på denne historie, vil meget fortælle, og jeg glæder mig til at følge denne historie for at se, hvad de siger om det. Hvad synes du? Overskrider Google deres grænser ved at scanne hvert billede, vi sender? Eller er du glad for at ofre noget af dit privatliv for at bekæmpe børnepornografi? Vil du føle det samme, hvis Google begynder at scanne for andre forbrydelser? Eller hvis regeringerne begynder at stille krav til dem om at vende visse e-mails? Der er meget plads til kontroverser og diskussioner her-chime nedenfor og fortæl os hvad du synes!
Billedkreditter: Alle seende øje. Doodle stil (redigeret) via Shutterstock, Man i sort via Shutterstock, Micah Baldwin via flickr, DieBuche via Wikimedia Commons, Robert Scoble via flickr, Ben Roberts via flickr.