Philip K Dick’s korte verhaal uit 1955
Autofac’ speelt zich af in een dystopische toekomst waarin mensen een schamel bestaan proberen op te bouwen nadat een cataclysmische gebeurtenis de wereld heeft geteisterd. (Gooi een wc-rol naar mijn hoofd om me te stoppen als dit te actueel lijkt.)
De overlevenden proberen de autofacs uit te schakelen – automatische systemen die de productie en distributie regelen van alles wat het menselijk leven vereist. De kennis om ze te programmeren en te controleren is verloren gegaan en de autofacs gaan blindelings door, ontdoen de wereld van zijn hulpbronnen terwijl een uitgehongerde bevolking hulpeloos toekijkt.
Het is een typisch Phildickiaanse voorstelling van de relatie van de mensheid met machines (dat wil zeggen somber en paranoïde)maar het was zeer vooruitziend in zijn identificatie van het probleem waarmee we nu worden geconfronteerd nu we een nieuwe fase van technologie ingaan. De autofacs zijn niet kwaadaardig, of zelfs, zoals Skynet, gemotiveerd door zelfbehoud.
Het is gewoon dat er ergens een fout is gemaakt tussen programmeur en machine en de mensen kunnen de machines niet langer laten begrijpen wat ze moeten doen. De machines werken met slechte informatie en de mensen zijn buitengesloten van de besluitvorming.
Wanneer machines taken overnemen die vroeger door mensen werden uitgevoerd, is het vaak de bedoeling om menselijke fouten uit te sluiten. Handelingen kunnen eindeloos worden herhaald, elke keer volgens ideale specificaties. Beslissingen kunnen worden genomen in fracties van seconden, in reactie op voortdurend bijgewerkte informatie.
Maar de mogelijkheid om fouten te maken is er nog steeds. Het is alleen verschoven naar de interface tussen programmeur en machine. Dat wil zeggen, de machines van de toekomst (en in toenemende mate, van het heden) zijn slechts zo goed als hun code.
Naarmate de aanwezigheid van autonome machines in industrieën toeneemt – aangevoerd door gezondheidszorg, bezorging, reizen en bestuurderloze auto’s – hebben coderingsbeslissingen immense gevolgen.
In sommige gevallen zijn deze catastrofaal. In oktober 2018, en opnieuw in maart 2019, stortten Boeing 737 Max-vliegtuigen neer – beide keren met dodelijke afloop. De
oorzaak van beide crashes was dezelfde: een automatisch anti-stall systeem dat zijn informatie uit een beperkt aantal sensoren haalde. De computer werkte op basis van slechte informatie en de piloten werden buiten de besluitvorming gehouden.
In een kleinere, huiselijke omgeving is de autonome machine die we waarschijnlijk het meest hebben gezien een robotstofzuiger. Als je er ooit een aan het werk hebt gezien, heb je de frustratie ervaren dat hij drie keer dezelfde reeds schone ruimte stofzuigt en dan voorbij een ruimte met zeer zichtbare rommel gaat. Je kunt hem niet porren of wijzen op wat hij gemist heeft. U bent buitengesloten van het proces.
Waar het autonome machines betreft, is dit een belangrijk deel van het plan. Je maakt niet iets dat ontworpen is om menselijk handelen te vervangen en dan toestaan dat mensen inspringen en het overnemen als ze dat nodig achten. Zodra een machine geprogrammeerd is, is de menselijke betrokkenheid bij de werking ervan zeer beperkt. Dat betekent dat de oorspronkelijke programmeringsbeslissingen steeds belangrijker worden.
Mensen die een zelfreinigende oven hebben, ervaren vaak een stressvol moment wanneer zij het zelfreinigingsprogramma voor het eerst starten. Gewoonlijk zal de oven zichzelf vergrendelen en opwarmen tot een extreem hoge temperatuur om alle voedselresten binnenin tot as te veranderen. Als u op internet zoekt naar zelfreinigende ovens, vindt u een groot aantal verzoeken om advies van eigenaars die op dit punt in paniek raken en de stroom naar het apparaat uitschakelen.
Huishoudelijke, autonome machines betekenen dat mensen de angst zullen moeten accepteren die komt kijken bij het uit handen geven van de controle over iets in hun eigen huis. Om dat te kunnen doen, moeten mensen vertrouwen hebben in het oorspronkelijke ontwerp en de machine zijn werk laten doen.
Meer fabrikanten van huishoudelijke apparatuur lanceren autonome technologie. Samsung’s nieuwste reeks Jet stofzuigers zal vergezeld gaan van zelfledigende stofcontainers. De gebruiker hoeft de stofzuiger alleen maar op het Clean Station te zetten en de bak leegt zichzelf. Dit lost het euvel op van het HEPA-filtersysteem voor stofzakloze stofzuigers. Dat wil zeggen dat mensen met allergieën en stofgevoeligheid niet hoeven te worden blootgesteld aan stof, zelfs niet wanneer ze hun machine legen. (Hoewel we ons wel afvragen hoe het Clean Station zelf dan wordt geleegd).
Ondertussen lanceert LG een zelfreinigende waterzuiveraar. De PuriCare is uitgerust met een UV LED-lamp die automatisch wordt geactiveerd om de kraan vrij te houden van bacteriële ophoping.
Tot nu toe zijn alle autonome machines voor thuis gericht op schoonmaken. Het is niet alleen de eenvoudigste functie om te programmeren, maar het is ook het soort werk dat we momenteel zeker genoeg vinden om in onze huizen te automatiseren. Het is weinig risicovol en van weinig belang.
Maar dat zal veranderen naarmate de technologie voortschrijdt en het consumentenvertrouwen daarmee toeneemt. Dan zal het aan de consumenten zijn om de technologie die zij in hun huis toelaten te onderzoeken en goed genoeg te begrijpen om de beperkte interacties die zij ermee hebben te controleren. Dit zal een mentaliteitsverandering betekenen voor het soort consument dat het een hele opgave vindt om een installatiegids door te komen.
Maar niet iedereen zal blij zijn met een meer passieve rol. Sommige mensen zullen nog steeds manieren vinden om zichzelf opnieuw in te voegen in geautomatiseerde processen. De schrijver en kunstenaar James Bridle, auteur van
New Dark Age, heeft besproken hoe mensen autonome technologieën kunnen verstoren door hun parameters te begrijpen en er hun voordeel mee te doen. Zijn beroemde voorbeeld is het omsingelen en gevangen houden van een zelfrijdende auto in een zoutring. Voor de sensoren van de auto is het zout een witte lijn op de weg – een barrière waar het door zijn programmering niet overheen kan.
Wat Bridle betreft zou een dergelijke daad een bevrijdend voorbeeld zijn van de weigering van de mens om zijn beperkte rol in de wereld te aanvaarden. Maar dezelfde methodologie is beschikbaar voor mensen met kwaadaardige, niet ondeugende bedoelingen.
Uiteindelijk gaat onze bezorgdheid over autonome technologie nooit over de technologie zelf. Het zullen altijd zorgen zijn over de vaardigheden en intenties van andere mensen. Menselijke fouten zullen nooit volledig worden geëlimineerd en mensen zullen altijd een weg terug vinden.