'Skynet liever vandaag dan morgen afstoppen'

door

supercomputer, datacenter, skynet

door

Achtergrond - Het is een wet van Meden en Perzen dat er binnen afzienbare termijn een supercomputer wordt ontwikkeld die zelfbewust zal zijn, voorspelt de Amerikaanse computerwetenschapper Roman Yampolskiy. Omdat de kans bestaat dat dit kunstmatig brein kwaadaardige acties zal ondernemen, moet de industrie nu maatregelen treffen, zo bepleit hij. "Het is absurd dat er nu geld in onderzoek gestoken wordt, terwijl we niet weten hoe we ons tegen een bovenmenselijke AI moeten beschermen."

Roman V. Yampolskyi haalde begin van deze maand de koppen van grote Amerikaanse nieuwssites door de publicatie van zijn onderzoek in het "Journal of Consciousness Studies". Hij bepleit in zijn paper een digitale gevangenis voor kunstmatige intelligenties, zodat scenario's die zich in science-fiction films als "2001: A Space Odyssey" en "Terminator" voltrekken in de toekomst voorkomen kunnen worden. Zo'n 'sandbox' moet het bewustzijn beletten invloed uit te oefenen op bijvoorbeeld het internet, militaire installaties en de aandelenmarkten.

'Iedereen tast in het duister'

Hoewel media na publicatie van het onderzoek direct vergelijkingen wisten te trekken met gemene supercomputers als HAL 9000 en Skynet, nuanceert Yampolskiy in de Amerikaanse Alex Jones Show de ophef die zijn paper wist te veroorzaken. "Het ontstaan van een kwaadaardig bewustzijn is slechts een van de vele scenario's en zeker niet de meest waarschijnlijke." Bovendien kan het nog wel even duren voordat we een dergelijke supercomputer mogen aanschouwen. "Voorspellingen op gebied van AI zijn altijd veel te optimistisch geweest. Waar men zei dat een superieure schaakcomputer binnen tien jaar ontwikkeld zou worden, duurde dat veertig jaar. Niemand weet wanneer computers op het niveau van menselijke intelligentie komen, laat staat op het niveau van bovenmenselijke intelligentie."

Desondanks hoeft de ontwikkeling van een autonoom computerbrein niet nog een paar decennia te duren. "De schattingen lopen nu uiteen van twintig tot honderd jaar. Toch moeten we op dit moment al maatregelen treffen, want als het eenmaal zover is, ben je te laat en is er geen weg meer terug", aldus Yampolskiy. Het gevaar zit 'm volgens de wetenschapper deels in de vraag in hoeverre het moeilijk is om een dergelijke kunstmatige te ontwikkelen. "Het kan ontwikkeld worden door een bedrijf als Google of Apple, maar ook door een puisterige tiener in een schuurtje. We weten niet op welke manier dit systeem tot leven gaat komen."

Voorzichtigheid geboden

Toch is het ontstaan van een hyperintelligente supercomputer niet te vermijden en brengt de creatie van zo'n systeem ook vele voordelen met zich mee. Een in complete afzondering gecreëerd bovenmenselijk brein kan als een orakel fungeren en lastige vragen voor de mensheid beantwoorden, zo zegt de wetenschapper. "In plaats van echte interactie, moet je zo'n computer laten werken met een binair antwoordsysteem en gesloten vragen die worden getoetst door een panel wetenschappers. Je moet hierbij echt zeer voorzichtig te werk gaan." Wordt deze voorzichtigheid niet betracht, dan kunnen de beslissingen van zo'n computer leiden tot de ondergang van de mensheid, waarschuwt de Amerikaan.

Yampolskiy roept overheden en bedrijven op om het probleem van een mogelijk kwaadaardig autonoom computersysteem serieus te nemen. "Net als er nu voor het klonen van mensen en dieren wetten gelden, zijn die ook voor de ontwikkeling van generieke kunstmatige intelligentie nodig." Bedrijven en overheden die zich bezighouden met onderzoek op dit gebied, zouden de ontwikkeling van een kunstmatig brein in een gecontroleerde, afgeschermde omgeving moeten laten plaatsvinden waarin het voor een 'baby-AI' onmogelijk wordt uit te groeien tot een niet meer uit te schakelen superbrein.

De wetenschapper van de Universiteit van Kentucky sluit uit dat zulke geavanceerde technologie op dit moment al bestaat. "Zulke technologie kun je niet verbergen. Het zou je zoveel mogelijkheden opleveren om beurskoersen te manipuleren of nieuwe technologie te ontwikkelen dat het financiële voordeel veel zwaarder weegt dan het belang om de technologie geheim te houden."

eerst ▾ Reacties

De reacties worden ingeladen...

Insider naam

 
{$quantity}%

Mijn insider overzicht Uitloggen

Briefcase({$quantity}) Mijn Downloads({$quantity})

Word insider

  • Exclusieve content
  • Achtergrond verhalen
  • Praktische tips
promotionele afbeeldingen promotionele afbeeldingen

Topbedrijven met ICT vacatures

IT Innovation Day 2014
 
dagen
:
 
uren
:
 
min.
:
 
sec.

Computerworld nieuwsbrief

Ontvang tweemaal per week een overzicht van de laatste achtergrondartikelen in uw mailbox.