Betrouwbaarheid

6 (enge) dingen waar AI steeds beter in wordt

IN HET KORT

AI doet veel goeds, maar sommige toepassingen zijn ... verontrustend.

Er worden voortdurend nieuwe AI-technologieën geïntroduceerd, en tegelijkertijd uiten mensen voortdurend waarschuwingen en ernstige zorgen. Soms lijken deze zorgen overdreven of voort te komen uit complottheorieën, terwijl ze op andere momenten wel degelijk gegrond zijn.

Het doet ons denken aan een oude grap op Tumblr:

  • Tech Enthousiastelingen: Alles in mijn huis is aangesloten op het internet! Ik bedien het allemaal vanaf mijn smartphone! Mijn smart home heeft bluetooth en ik kan het stemcommando’s geven via Alexa! Ik hou van de toekomst!
  • Programmeurs / Ingenieurs: Het meest recente stukje technologie dat ik bezit is een printer uit 2004 en ik houd een geladen pistool klaar om het neer te schieten als het ooit een onverwacht geluid maakt.
  • Beveiligingstechnici: *neemt een slok whisky* Ik wilde dat ik in het neolithicum geboren was.

Naarmate technologieën worden geadopteerd en geaccepteerd worden, verdwijnen de zorgen en worden ze vervangen door nieuwe dingen die in eerste instantie vreemd of griezelig lijken en rechtstreeks van de pagina’s van een sciencefictionroman komen.

Denk maar aan hoe zelfrijdende auto’s steeds maar gepusht worden als de weg van de toekomst, terwijl sommigen die dicht bij de industrie staan suggereren dat de technologie nog lang niet klaar is.

Dat is het belangrijkste punt van zorg voor mensen die de overduidelijke veiligheidsrisico’s begrijpen!

Hier zijn zes van de AI-technologieën die als meest verontrustend worden beschouwd door een groep mensen die de afgelopen maanden zijn ondervraagd door onderzoekers – inclusief zelfrijdende auto’s.

1) Het smart kussen

Nieuwe soorten beddengoed en high-tech kussens bieden aan om meer voor ons te doen op onze meest kwetsbare momenten – terwijl we slapen. Niets engs aan, toch?

In sommige opzichten is het intuïtief om nieuwe AI-technologie te gebruiken om dingen als CPAP- of BiPAP-machines te verbeteren. Veel mensen lijden aan slaapapneu of andere slaapaandoeningen, dus waarom geen AI toepassen op de nieuwe medische wetenschap voor behandeling?

Nou, voor sommige mensen, waaronder heel wat fans van dark humor, is het idee van machines die naar je slaap kijken gewoon ronduit griezelig. Kijk bijvoorbeeld eens naar smart kussens die je hoofd zachtjes in verschillende richtingen duwen en die verbonden kunnen worden met je smartphone.

Zolang hun zorgvuldige verzoeken je goed doen, is alles goed, maar wat als het kussen dingen gaat doen die je niet zou doen als je wakker was?

Pas die bezorgdheid toe op elke technologie die we gebruiken om ons te controleren of te helpen in onze slaap!

2) AI en gesimuleerde pijn

Er is veel gesproken over de toepassing van AI bij pijnbestrijding, maar hoe zit het met het tegenovergestelde – AI gebruiken om pijn te simuleren via het centrale zenuwstelsel van een persoon?

Als je je afvraagt waar dit toepasbaar zou zijn in de handel en industrie, dan is dat in de gamingmarkt. We komen steeds dichter bij virtual reality gaming, waarbij mensen rondrennen in virtuele omgevingen. Sommige bedrijven beginnen dus te pionieren met dingen als directe warmtetoepassingen en bepaalde soorten impact die een fysieke reactie veroorzaken als de speler wordt neergeschoten of gestoken tijdens het spelen, dingen die waarschijnlijk gebeuren met spelers in een heleboel moderne schietspellen.

Als je een speculatief type bent, kun je waarschijnlijk wel zien waar dit naartoe gaat. Er zijn veel manieren waarop deze technologieën overboord kunnen gaan en tot behoorlijk enge en snode AI-toepassingen kunnen leiden.

3) Zelfrijdende voertuigen

Hier komen we weer terug bij die allesoverheersende zorg over een computer die je auto bestuurt.

Het besturen van een auto is geen eenvoudige taak. Hoewel we praten over het vermogen van zelfrijdende auto’s om door de straten te navigeren, hebben we de neiging om veel van de intuïtieve en instinctieve aspecten van de menselijke taak van het autorijden over het hoofd te zien.

Bekijk deze video van bestuurders die een volledige automatische piloot van Tesla gebruiken in de straten van Boston (niet zonder menselijke tussenkomst!) en je zult zien waarom veel van deze zelfrijdende technologieën jammerlijk achterlopen als het aankomt op het daadwerkelijk bieden van veilig voertuiggedrag in het verkeer.

Er is maar één sensorstoring of andere fout nodig om een dodelijk ongeval te veroorzaken. Dat is een van de redenen waarom we niet snel volledig zelfrijdende voertuigen zullen gebruiken, vooral niet op wegen waar je normaal gesproken voetgangers tegenkomt. Sommige experts suggereren dat vrachtvervoer via de snelweg het eerst aan de beurt zal zijn, maar zelfs dat veronderstelt een veiligheidsniveau dat we met de huidige AI misschien nog niet hebben.

4) Implantaten van computerchips

Zorgen over interne microchips zijn zo oud als de computertechnologie zelf. Veel van deze zorgen zijn gebaseerd op iets dat nog ouder is, namelijk bijbelse onthullingen over het “mark of the beast” dat met geweld onder je huid wordt geïmplanteerd.

Afgezien daarvan hebben mensen echter andere, meer prozaïsche angsten over chipimplantaten in hun lichaam, vooral voor cognitieve doeleinden. Uit een onderzoek van het Pew Research Center blijkt dat interne computerchips verreweg de grootste zorg waren van de respondenten toen ze een reeks onderwerpen en de “engste” AI-technologie voorgeschoteld kregen.

5) Wapentechnologie

Dit is een technologie die een beetje anders is dan de andere in dit rijtje. Het is een technologie waar AI, mensen simpelweg de mogelijkheid geeft om slechte dingen te doen.

Een Verge-verhaal schetste onlangs de situatie waarin een AI-programma in staat was om binnen zes uur maar liefst 40.000 verschillende soorten chemische wapens voor te stellen.

Het gaat er hier niet om dat AI iets bedreigends of gevaarlijks zou doen voor de mensheid. Het is dat het slechte mensen de sleutels geeft om die slechte dingen zelf te doen.

AI-toepassingen op wapens maken die wapens in de regel krachtiger en wapens zijn, voor iedereen met een beetje gezond verstand, in het algemeen gewoon behoorlijk eng!

Sommige van dit soort toepassingen staan dus op de radar van mensen die vinden dat AI moet worden ingezet voor goede in plaats van gevaarlijke toepassingen.

6) Groot materieel

Sommige mensen ervaren angst ten aanzien van zelfrijdende tractoren, terwijl anderen juist open staan voor geavanceerde vuilnispersen die hun taken lijken uit te voeren zonder menselijk toezicht of ingrijpen.

Mensen vinden dat grote apparaten door mensen bestuurd moeten worden en niet door een computeralgoritme.

Op deze en vele andere manieren heeft de bezorgdheid over AI te maken met de combinatie van niet-menselijke cognitieve systemen en grote fysieke stukken hardware.

Conclusie

Zolang AI in cyberspace werkt, hebben we het gevoel dat de technologie meer onder controle is. Is dat een vals gevoel van veiligheid? In sommige gevallen wel, in andere gevallen niet. Deze voorbeelden zijn slechts het topje van de ijsberg als het gaat om “enge” AI toepassingen. Andere rapporten bevatten meer van deze ongrijpbare verschrikkingen, zoals machines die je gedachten kunnen lezen!

Het streven naar verklaarbare en transparante AI is onderdeel van het antwoord op deze en andere enge situaties. Door een human-in-the-loop scenario te implementeren en vertrouwde AI te promoten die geen black-box algoritmes gebruikt, proberen we ervoor te zorgen dat we vertrouwen hebben in waar nieuwe technologie naartoe gaat. En dat zal het verschil maken in hoe we technologie in de toekomst zullen ervaren!

Gerelateerde begrippen

Justin Stoltzfus
Technologiejournalist

Justin Stoltzfus is een onafhankelijke blogger en business consultant die verschillende bedrijven helpt bij het ontwikkelen van mediaoplossingen voor nieuwe campagnes en lopende activiteiten. Stoltzfus is afgestudeerd aan de James Madison University. Hij werkte enkele jaren als medewerker van de Intelligencer Journal in Lancaster, Penn, voordat de twee dagelijkse kranten van de stad in 2007 werden samengevoegd. Meer recentelijk heeft hij als onafhankelijk adviseur, schrijver en trainer contacten opgebouwd met verschillende bedrijven, waarbij hij bijschriften verzamelde in gedrukte en webpublicaties en een reputatie opbouwde voor uitmuntendheid in bedrijfstrainingen, marketingcampagnes en andere mediaprojecten.