Een literair protest

Eerder verschenen op TZUM, hèt literair weblog.
Coverillustratie: Mieren en de robotwetten van Asimov door Puck & Moon

En bedankt, NBD Biblion.

In mijn laatste boek, een essaybundel, behandel ik een aantal maatschappelijke vraagstukken aan de hand van wat daar in de literatuur in de afgelopen anderhalve eeuw over is geschreven. Eén van die vraagstukken is technologie. Meer precies het gevaar van technologie als wij mensen daar lichtvaardig mee omspringen. Het essay begint als volgt:

“Wat die u nodig hebt
Scheren paard, ondeugd of log-compatibele klem
Hack zag of snoei zaag
Tekenen van mes
Schors spud
Werkhandschoenen
Afgesneden alle resterende ledematen, met behulp van een metaalzaag of een snoei zaag.
Beveiligen van het logboek in een paard scheren, vice of een ander type van veilige klem.”

Waarom schrijf ik dit stuk? Welnu, ik recenseer al jaren boeken – literatuur – voor NBD Biblion en ben net als zo’n 700 van mijn collegae getroffen door het massaontslag van recensenten door die organisatie. Wij zijn vervangen door kunstmatige intelligentie. Want wij zijn te traag. Zeggen ze.

De tekst is overigens een recente computervertaling van een vrij eenvoudige Engelstalige tekst over het ontschorsen van bomen. Ik doe dat soort dingen weleens. De betreffende Google-vertaalmachine is veelgebruikt en gebaseerd op lang ontwikkelde kunstmatige intelligentie (KI). Die KI vertaalt het woord ‘hoarse’ ogenschijnlijk terecht als paard, echter gezien de context geheel fout. ‘Bok’ is de juiste vertaling van het ding waarop je een boomstam kunt leggen om die te ontschorsen. Maar doen met je wel wat weten over het werken met grote stukken hout. Over de rest van het KI-gebrabbel zal ik verder zwijgen want dat spreekt voor zich. Dit voorbeeld illustreert naar mijn mening vrij aardig de problemen rond het behandelen van teksten wanneer dat aan een computer wordt overgelaten.

Toen ik dus gisteren net als de andere ongeveer 700 recensenten van NBD Biblion via een obligate e-mail werd afgedankt met de mededeling dat ons zo gewaarde (!) werk als recensent vervangen is door speciaal ontwikkelde software die op basis van kunstmatige intelligentie werkt, brak mijn klomp. Want, hoe kun je een boek door een programma halen en die op basis van die geautomatiseerde tekstanalyse, aangevuld met metadata over dat boek, aankoopinformatie laten genereren? Het korte antwoord is: dat kan niet.
Het lange antwoord vergt dat we ons verdiepen hoe die kunstmatige intelligentie werkt en in de aankoopinformatie die NBD Biblion aan de Nederlandse bibliotheken levert, het belang daarvan en de totstandkoming daarvan. De lakmoesproef is daarna het verschil dat de nieuwe werkwijze van NBD Biblion oplevert ten opzichte van wat hun recensenten aanleveren. Dat laatste zal ik op basis van een door mij zelf geschreven recensie doen.

Eerst over die software. Het NBD Biblion bedrijfje Bookarang werkt volgens eigen zeggen op het grensvlak van kunstmatige intelligentie en literatuur. Zij maken en beheren de gebruikte software. Maar wat kan dat soort software met tekst? Daar geeft NBD Biblion geen antwoord op, het blijft vooral een soort black box toverdoos. Echter, van aansprekende instituten als de Universiteit Antwerpen weet ik dat met kunstmatige intelligentie tekstanalyses kunnen worden gemaakt. Dat zijn analyses op context, grammatica en zinsconstructie, woord- en frase frequentie, tekstuele complexiteit en meer van dat soort objectieve parameters. Op basis hiervan is het goed mogelijk een taaltechnische analyse van teksten te maken. Maar nog nooit en nergens heb ik kunstmatige intelligentie ingezet gezien voor artistieke en emotionele analyse van teksten. Laat staan van hele boeken. Want hoe parametriseer je gelaagdheid, personageontwikkeling, intentie, spanningsboogontwikkeling, emotionele lading, historische en andere achtergrondkennis, historische en andere wetenschappelijke juistheid in een literair werk? Om maar eens een paar aspecten te noemen die ik als recensent inbreng en een computer simpelweg niet in samenhang kan analyseren. Ik geloof absoluut niet dat dat soort zaken in de software van Bookarang is opgenomen, gewoon omdat de technologie echt nog niet zo ver is en het sowieso de vraag is of technologie ooit kunstuitingen op hun merites kunnen beschouwen en waarderen. Wat mij betreft, NBD Biblion, bewijs mijn ongelijk hierin!

Welnu, wat doet NBD Biblion eigenlijk met die aankoopinformatie van hun en wat is het belang daarvan? De organisatie levert de bibliotheken (en anderen) aankoopinformatie over boeken die verschijnen. Die aankoopinformatie wordt door bibliothecarissen gebruikt om in te schatten welke boeken aan de collectie toegevoegd kunnen worden en dus ook welke boeken daar niet voor in aanmerking komen. Aankoop- en poortwachtersfunctie ineen. Gezien het grote aantal boeken, er verschijnen zo’n 1500 van die aanschafinformaties per jaar, is het ondoenlijk voor bibliothecarissen om al die boeken zelf te door te nemen. Als de aankoopinformatie dus om wat voor reden dan ook niet aanspreekt kunnen we er vanuit gaan dat het betreffende boek niet in de collectie van de bibliotheek gaat worden opgenomen. Boeken die niet in de bibliotheek te vinden zijn zullen door de lezende jeugd (ja echt, die bestaat) niet geleend en gelezen worden. Als die aankoopinformatie in zijn algemeenheid kwalitatief matig tot slecht is, zal dus na enige tijd het aanbod in bibliotheken ook matig tot slecht worden. De poortwachtersfunctie kan immers niet meer naar behoren vervuld worden. En als gevolg daarvan zal op den duur de toch al onder druk staande kennis over, en waardering van, de literatuur verwateren. Vernieuwing van de literatuur krijgt geen kans meer want daar kan een kunstmatig intelligent softwarepakket niet mee omgaan; het ontbreekt die software immers aan data als het om vernieuwing gaat. Ik geef toe, dit is een kettingredenering waar misschien op te schieten valt, maar kom maar op dan.

Het is ook goed om eens te kijken naar die aankoopinformatie die NBD Biblion middels hun kunstmatig intelligente softwarerobot aan gaat bieden. Als voorbeeld neem ik een door hun zelf aangereikt exemplaar: de aankoopinformatie uit hun software over de roman ‘Mary’ van Anna Eekhout. Aangezien ikzelf de oorspronkelijke recensie van die mooie roman aan Biblion geleverd heb vind ik die vergelijking buitengewoon interessant. Ik stel mij immers graag kwetsbaar op.
Dit levert de NBD Biblion computer:

Natuurlijk gaat het mij vooral om het tekstblokje. Los van de banale technische problemen met interpunctie (po tisch in plaats van poëtisch) is dat kort, weinig informatief en welbeschouwd incorrect als het om de beschrijving van de premisse van de roman gaat. Mijn eigen tekst maakt duidelijk waarom. Zoek de zeventig verschillen:

Ik gebruik als recensent niet alleen meer woorden (binnen de krappe Bibliongrenzen van 1100 lettertekens), maar geef ook een duidelijke en inhoudelijke waardering, beschrijving en zelfs leesadvies. Een recensie die als leesbevordering gezien mag worden omdat ik als recensent vind dat dit boek onder een breed publiek bekend mag worden. En ja, ik schrijf natuurlijk ook negatieve recensies. En nee, het is niet eenvoudig om een goede recensie te schrijven in slechts 1100 tekens.
Buiten het tekstblokje laat de aankoopinformatie van NBD Biblion nog een paar belangwekkende dingen zien: een niveauwaardering in sterren voor wat dat waard is, een genre-aanduiding, prijsinformatie en een bestelnummer. Standaardinformatie die ook altijd al bij de uitgebreidere, met menselijke intelligentie geschreven, aankoopinformatie werd meegeleverd. Nieuw ook zijn de schuifjes op de gebieden Activiteit, Stemming, Seks en Geweld. Daarvan kan op een schaal van één tot vijf op Angelsaksische wijze compact en stupide de behoefte tot censuur worden afgelezen. Seks ‘veel’ en Geweld ‘veel’, o hemel daar kunnen we onze bibliotheekbezoekers niet aan blootstellen. En Activiteit ‘concentratie’: weghouden bij ADHD-ers dat boek! De criteria bij de schuifjes zijn bij non-fictie anders en net zo onzinnig. Kortom de nieuwe aankoopinformaties van NBD Biblion zijn, zoals het voorbeeld laat zien, waardeloos.

En wat in hemelsnaam denkt NBD Biblion trouwens met dat soort kort door de bocht onzin schuifjesparameters te bereiken? Welke bibliothecaris is zo stupide dat die op deze non-informatie ingaat? Geen enkele zichzelf respecterende bibliothecaris natuurlijk! Goed, het maken van goede aankoopinformatie kost tijd. Een recensent moet het boek ontvangen, lezen, een recensie schrijven en die insturen (voor maar liefst 14 eurootjes per recensie) en die moet dan ook nog door een NBD Biblion medewerker worden bekeken en vrijgegeven voor publicatie. Dat kost doorlooptijd (en geld) en daar werd en wordt over geklaagd naar het schijnt. Uitgevers en auteurs willen misschien hun boek zo snel als mogelijk gerecenseerd zien maar recensenten hebben tijd nodig om dat te doen. Overigens ken ik auteurs die liever zien dat er tijd genomen wordt om tot een onderbouwde recensie te komen dan dat die zo snel als mogelijk geleverd wordt. Die belangen met betrekking tot snelheid en kwaliteit conflicteren en daar zegt men veel last van te hebben. Daar wordt de boekenrobot dus tegen ingezet: het gaat volgens NBD Biblion om doorlooptijdverkorting, niet om een jaarlijkse bezuiniging van een paar ton. En doorlooptijdverkorting wordt niet gezocht in ketenoptimalisatie maar in automatisering, een fout die zoals we weten in het bedrijfsleven en de overheid al decennia tot grote IT-rampen heeft geleid. Het moet allemaal – geheel passend in deze tijd – vooral sneller. En aangezien sneller ook meestal oppervlakkiger betekent kunnen we niet verbaasd zijn over het resultaat wat er uit komt: een flutbeschrijving en aanvullende ‘meta-informatie’ die geen recht doet aan het boek, de auteur en bovenal de bibliothecaris nauwelijks iets zinnigs meegeeft. Uiteindelijk de lezer dus volstrekt in de kou laat staan. Daarbij, ik leerde ooit dat als in een missiestatement van een organisatie je het onderwerp kon vervangen door ‘pindakaas’ en de tekst dan nog zinnig bleef dat dat missiestatement zelf dus volstrekte kolder was. Dit is net zoiets, vervang bij wijze van experiment de paar sleutelwoorden uit de Bibliontekst maar door die uit een willekeurig ander meesterwerk en bezie dan de informatiewaarde. Ik voorspel dat de tekst dan nog altijd waar zal blijven maar ook niets van belang kan overbrengen. O ja, Anne Eekhout is een Nederlandse auteur. Gut.

En het is allemaal nog erger, vind ik: dit besluit van NBD Biblion schaadt het boek, de auteur, de bibliotheek, de lezer en zelfs de literatuur. Want kwalitatieve verwatering van informatie over boeken leidt onherroepelijk tot kwalitatieve verwatering van bibliotheekcollecties en kwalitatieve verwatering van de kennis van de lezers over die literatuur. Hier wordt de literatuur – de kunst – geschaad. En daarmee alle auteurs en uitgevers. Overigens is hetzelfde aan de hand voor de non-fictie natuurlijk. Daar worden kennis en wetenschap geraakt, iets dat de donkere krachten in onze samenleving goed uitkomt. Waarmee langs die kant de keuze van NBD Biblion zelfs een politieke is geworden. Oei! Je zou er een uil van Minerva op loslaten.

Punt is, voor de inzet van robots – en dus ook voor de inzet van kunstmatige intelligentie – gelden algemeen aanvaarde ethische wetten. Door Isaac Asimov in 1950 in zijn dystopische roman ‘I, Robot’ zo scherp geformuleerd:

Die eerste wet der robotica wordt hier met voeten getreden. Want hier wordt schade aangericht aan de mens. Intellectuele schade weliswaar, maar schade. Boeken, non-fictie, fictie en literatuur lenen zich niet voor aanbevelingen op basis van door kunstmatige intelligentie in elkaar gerommelde informatie. Informatie die nauwelijks informatief is, gespeend van enig waardeoordeel, ontdaan van emotionele waardering en de vakkennis en inzichten van een menselijke recensent. Boeken vergen een serieuze benadering, voorzichtig en scherp, zakelijk en emotioneel, concreet en subjectief. Juist ook subjectief, want objectiviteit is een onmogelijk streven als het om de meeste boeken en zeker de literatuur gaat. En ja bij negatieve recensies volgen klachten, Biblion. Deal ermee, dat is normaal. Alleen dat al maakt het NBD Biblion besluit om hun recensenten af te danken een heilloze keuze.
En daarom ben ik geraakt, gekwetst en eigenlijk boos. Nee, laaiend. Nee, ziedend. Omdat ik het niet trek dat de kunst opnieuw geschonden wordt door het economische adagium van meer snelheid. Nergens mag meer tijd voor worden genomen, niets mag meer weloverwogen geformuleerd worden, het moet snel. En dat het dan slordig gaat is van geen belang. We vertrouwen gewoon weer op automatisering terwijl we donders goed weten dat dat ontzettend stupide is.

Ik heb kort gesproken met mevrouw Nannini van NBD Biblion, zij gaat hierover. We zijn overeengekomen dat ik binnenkort langs ga voor een gesprek hierover. Ik ben benieuwd, want we zijn het vooralsnog nadrukkelijk oneens. Maar ik wil weten welke waarborgen NBD Biblion denkt te kunnen geven voor de kwaliteit van de door hun verschafte aankoopinformatie. En ik toets dat aan de resultaten van hun software. De eerste proeve daarvan ziet u hierboven en die schept geen enkel vertrouwen. Ik vrees ook dat het te laat is om dit te keren en dat dit gewoon doorgezet wordt. Fuck de literatuur, snelheid is alles! Met al mijn ervaring in de automatisering (de laatste vijf jaar van mijn oude loopbaan in die wereld werd ik belast met de stervensbegeleiding van gefaalde IT-projecten bij de overheid) weet ik dat wat zij pretenderen te doen gewoon niet mogelijk is, zoals ik hiervoor onderbouwd heb. Ik weet met mijn ervaring als automatiseerder, adviseur èn schrijver, dat hun vertrouwen in de automatisering (hun woorden, niet de mijne) ofwel vals is of dom. Vals als men wel weet maar niet wenst te beseffen dat dit schadelijk is voor het bibliotheekaanbod (en dus de lezers en zelfs de letterkunde), dom als men zo naïef is te denken dat een robot kunst kan beoordelen. Ik ben misselijk van wanhoop over zoveel stupiditeit en over de ruimte die men blijkbaar krijgt om het door mij zo geliefde metier aan te vallen. We hebben het hier immers over de positie van literatuur in het publieke domein. En ik roep dus mijn collega auteurs, recensenten en beslist ook de uitgevers op om hiertegen te protesteren. Het zou al helpen als uitgevers voortaan weigeren hun boeken naar NBD Biblion te zenden en zo af te dwingen dat de bibliotheken betere informatie krijgen. Dan maar liever geen NBD Biblion aankoopinformatie. Alles beter dan (kunst)matig intelligente bagger, wat mij betreft. En die recensies die ik tot voor kort voor die organisatie schreef? Verwijder die alstublieft uit de database want ik pas niet tussen kunstmatige intelligentie, vroeger niet, nu niet en nooit niet. Ik neem liever afscheid. Mike drop.

Anna A. Ros
www.annaros.nl

P.S. Meer lezen over onze verhouding tot technologie en andere maatschappelijke vraagstukken? Lees Ant-ologie.