Nieuws

Privacy en de gedachtenlezende computer

1x Aanbevolen

Gepubliceerd:17-03-2010 om 16:46 Auteur:Robert L. Mitchell

Er staan ons spectaculaire ontwikkelingen te wachten op het gebied van de psychologie en neurowetenschappen. Maar als we niet oppassen, kunnen privacy-vraagstukken roet in het eten gooien. Een pleidooi voor een open maar zorgvuldige discussie.

Zelfs in het opmerkelijk laconieke Nederland worden langzamerhand steeds meer vragen gesteld over privacy, en met name de gevolgen voor de privacy van de onstuitbare opkomst van IT in al zijn vormen. In dit verband sprak Computerworld.com met Tom Mitchell, hoofd van de Machine Learning Department van de Carnegie Mellon University (Pittsbrug, VS). Een van zijn recente projecten behelst de analyse van MRI-data waarmee machines onze gedachten kunnen lezen. Vanuit zijn vakgebied sprak hij met onze collega Robert L. Mitchell over de mogelijke gevolgen van de huidige ontwikkelingen rond persoonlijke informatie.

Je bent bekend als onderzoeker op het gebied van lerende machines. Wat is er zo belangrijk aan je werk?
De vraag die centraal staat in de computerwetenschappen is: hoe kunnen we machines verschillende algoritmes laten uitvoeren, en wat voor algoritmes kunnen we schrijven? Dat geldt ook voor Machinaal Leren, maar dan net even anders. In plaats van zelf de code te schrijven die computers moet uitvoeren, proberen we ze te trainen. We laten ze voorbeelden zien. Het vakgebied van de lerende machines draait om de vraag hoe we computerprogramma’s kunnen bouwen die door ervaring verbeteren of die patronen ontdekken in historische gegevens waarmee de toekomst op een goede manier voorspeld kan worden. Gezichtsherkenning, spraakherkenning en veel andere vraagstukken die met waarneming te maken hebben, liggen helemaal in de lijn van de algoritmes voor lerende machines.

Welke doorbraken heb je reeds bereikt?
We hebben lerende machines losgelaten op problemen in de neurowetenschap, waarbij we kijken naar gegevens van hersenscans. We beginnen nu te begrijpen hoe het brein neurale activiteit gebruikt om de betekenis te vormen van verschillende woorden. We hebben een programma zo getraind dat het de MRI-scans van iemands hersenactiviteit bekijkt, en dat vervolgens kan aangeven of de betreffende persoon bijvoorbeeld aan een huis of een hamer denkt.

Dus je kunt, op basis van eerdere analyses van de hersenactiviteit van andere mensen, vaststellen aan welk voorwerp ik denk?
Dat is correct.

Wat is de praktische toepassing van deze mogelijkheid om de gedachten van mensen te lezen?
We staan aan de vooravond van een revolutie in de psychologie en de neurowetenschappen. Plotseling kun je in iemands gedachten kijken en veranderen leuke filosofische vraagstukken in empirische wetenschap. We kunnen in jouw hersens kijken terwijl je de kleur rood ziet, en we kunnen in mijn hersens kijken terwijl ik de kleur rood zie, en we kunnen de vraag stellen: “Is dat of is dat niet hetzelfde patroon van neurale activiteit?”

En? Is mijn rood hetzelfde als jouw rood?
Ik weet het niet voor rood, maar ik weet het wel voor hamer. Als jij “hamer” denkt, dan is dat hetzelfde als wanneer ik “hamer” denk.

Zijn mensen op elkaar aan te sluiten in een netwerk om dit soort informatie uit te wisselen, zodat de ene persoon weet wat de ander denkt?
Dat is helemaal niet zo ver weg. Er zijn bepaalde medische patiënten die ‘opgesloten’ zitten in hun lichaam, die niet kunnen spreken en zich niet kunnen bewegen. Communiceren is dan bijzonder omslachtig. Een aantal mensen werkt nu aan brein/computer-interfaces; apparaten waarmee een mens mogelijk zijn gedachten kan laten decoderen.

In een recent opiniestuk in het wetenschappelijk tijdschrift Science brak je een lans voor betere privacy regulering vanwege de explosie van persoonlijke gegevens. Waarom is dat zo belangrijk voor je?
Denk aan de iPhone. Je hebt een camera, een microfoon, al mijn email loopt erdoor, er zit een GPS localisatiesysteem in, een versnellingsmeter die weet wanneer ik stilzit of loop. Al die sensoren kunnen een enorme hoeveelheid gegevens over mij verzamelen.
Als je daar alle dingen bij optelt die in de cyberwereld over je bekend zijn, je elektronische voetafdruk die ontstaat door van site naar site te surfen, dan zie je een ongelofelijke toename in de hoeveelheid gegevens die wordt verzameld.
Op dit moment is het nog min of meer het Wilde Westen. Als een bedrijf gegevens over je verzamelt, mogen zij beslissen wat ze daar mee gaan doen.
Dertig jaar geleden, toen er nog niet zo veel gegevens waren, was het de moeite niet waard je daar druk om te maken. Maar vandaag de dag is het tamelijk eenvoudig geworden om mijn hele dag te reconstrueren, als je je hand op al die gegevens weet te leggen.

Wat is de positieve kant van het verzamelen van al die real-time data?
Het wordt nu al gebruikt voor zaken als verkeersdetectie en –rapportages. Als je naar Google Maps gaat (in Amerika – red.), zie je dat sommige wegen rood gemarkeerd zijn omdat er files staan. Google vertelt ons niet precies hoe ze aan die gegevens komen, maar er zijn enkele kleinere bedrijfjes die een overeenkomst hebben met Google om dit soort informatie leveren die afkomstig is van mobiele telefoons.

En wat zijn de minder positieve kanten van het verzamelen en delen van al die persoonlijke gegevens?
Stel je voor dat ik morgen naar de eerste hulp ga en daar een H1N1 diagnose krijg (Mexicaanse griep – red.). Mijn mobiele telefoon heb ik de hele week al bij me, dus mijn telecomprovider weet waar ik ben geweest. Ze kunnen zien waar de locatie van mijn telefoon samenviel met die van de telefoons van anderen.
Ik kan me een service voorstellen waarbij die mensen worden gebeld met de mededeling: “Wellicht vind je het interessant te weten dat bij Tom, die je gisteren bij Starbucks hebt ontmoet, zojuist een gevaarlijke infectieziekte is geconstateerd.” Een dergelijke service kan nu al worden aangeboden, met behulp van gegevens die nu al worden verzameld. Maar het wordt niet aangeboden, en het is duidelijk dat hier een aantal privacy issues spelen.

Wat zijn de gevolgen als er nu niets gebeurt?
Op een gegeven moment zullen mensen gaan reageren op een overweldigende inbreuk op hun privacy, en dan trekken ze de stop eruit. Het gevolg daarvan zal zijn dat over allerlei goede zaken niet eens meer gepraat kan worden. Daar koersen we nu recht op af.

Waarom zouden technologen zich druk moeten maken om data privacy?
In een heleboel discussies die ik voorbij heb horen komen ontbreekt het nogal aan kennis van de technologie die ons ter beschikking staat om ons te helpen bij het beschermen van de privacy. Daarom is het zo belangrijk dat technologen zich in die discussie gaan mengen: om ervoor te zorgen dat we alle voors en tegens zorgvuldig tegen elkaar afwegen en we ons goed beseffen wat voor mogelijkheden we in werkelijkheid allemaal hebben.