Het ongemak bij kijkende machines

Zo ben ik aanbeland bij het ongemak dat je bij zelfkijkende camera’s bekruipt. Er is wel degelijk sprake van een beeld, want er worden optische prikkels geregistreerd door een actor. Die actor handelt ook naar wat hij ziet. Maar er is hoegenaamd geen sprake van beeldbewustzijn.

Zoals boven werd uitgelegd, sloeg die term op het verschil tussen de waarneming van een bloem en de waarneming van een foto van dezelfde bloem. Het ging meer bepaald om een drietal spanningen die mijn kijkend bewustzijn in het geval van een beeld registreert.

Die spanningen spelen zich af tussen drie verschillende niveaus. Het eerste niveau is het fysieke beeld, of de beelddrager. Denk aan het canvas en de verflagen van een schilderij. Niveau twee is het beeldobject, of de mentale voorstelling die ik op basis van het fysieke beeld construeer. Het derde niveau is dat van het beeldonderwerp, of datgene wat er te zien is op het beeld (de identiteit van de geportretteerde persoon bijvoorbeeld).

Bij automatisch kijken is niveau één alvast voorhanden. Dat zijn de lichtprikkels zoals ze door de optische sensor worden geregistreerd. Ook niveau drie – het beeldonderwerp – is aanwezig. De clusters van lichtprikkels worden namelijk herkend als fietsers, auto’s, hindernissen of voetgangers. Elk van die geïdentificeerde figuren zou je wel degelijk, in gecodeerde vorm, in het computergeheugen kunnen aantreffen.

Wat helemaal ontbreekt is niveau twee. Er is geen beeldobject, want er is geen kijkend bewustzijn dat een mentale voorstelling van het beeld produceert. Er zijn enkel lichtprikkels die worden gemanipuleerd. (Ook al is die verwerking eindeloos complex.) Wat volgt is een ‘lectuur’ van het beeld – een reactie van de machine – zonder lezer. Software-ingenieurs omschrijven dat als ‘de transformatie van data uit een camera tot een beslissing of tot een nieuwe representatie’.

Het transformeren van data, dat is wat een automatisch kijkende machine doet. Niet beelden bekijken. Husserl drukte het kernachtig uit: ‘Het schilderij is alleen beeld voor een beeldvormend bewustzijn’. Een vlieg of een kat loopt even onverschillig over een foto van de holle blik van een vluchteling, als over een bladzijde vol gedrukte tekst.

Die onverschilligheid van de machine is wat automatisch kijken zo unheimlich maakt. Hoe zullen deze machines geprogrammeerd worden? Zijn deze ‘goedkope ogen’ niet de ultieme tool om iedereen te kunnen bespioneren?

Al langer bestaat een traditie van wantrouwen tegenover de bewakingscamera. Dat is ook een bedreigend oog, want je weet nooit wie aan de andere kant van de lens zit. Maar er moet voor elke camera een paar menselijke ogen zijn, dat toekijkt. Dat maakt de gedachte van de politiestaat nog minimaal te tolereren: het besef dat geen staat machtig genoeg kan zijn, om boven elke burger een camera én een bewakingsagent te installeren.

Het automatisch kijken heft die beperking op. Als er geen beeldbewustzijn bij komt kijken, dan is er evenmin een menselijke aanwezigheid nodig. Dus kunnen ‘bewust’ kijkende camera’s overal naar believen worden neergepoot. De komende jaren staan ongetwijfeld in het teken van de opmars van zulke robotogen. Vandaag worden militaire onbemande vliegtuigen (of drones) nog op afstand door piloten bestuurd. Maar de technologie ligt klaar om ze zelf beslissingen te laten nemen. Net zoals de moordrobot uit Terminator 2.