Volgens Deborah Nas, hoogleraar Innovatie aan de TU Delft, is mijn reactie wel verklaarbaar: “De angst voor nieuwe dingen is reëel,” legt zij uit. “We hebben een ‘oud’ referentiekader, waar nieuwe ontwikkelingen niet altijd in passen.” Dat betekent voor veel mensen dat alles wat is uitgevonden na je 35e voelt als indruisend tegen de natuurlijke orde der dingen. Dat wantrouwen jegens dingen waar ik niet mee ben opgegroeid herken ik wel, maar is dat angst voor het onbekende? Of een gezonde kritische houding, gebaseerd op levenservaring?
Data management
De gemiddelde leeftijd van de Amerikaanse melkveehouder is 59 jaar. Tijdens de Global Future Farming Summit in november werd dat feit gepresenteerd als zorgwekkend: zulke oude mensen staan veel te weinig open voor technologieën die de agrosector volledig gaan transformeren (zie ook dit artikel op Foodlog). Het schijnt namelijk de bedoeling te zijn dat alle data van landbouwbedrijven worden verzameld tot ‘Big Data’ die vervolgens via zelflerende algoritmes en handige apps weer ten goede komen aan de boeren: ‘Manage data, harvest information’ noemt Matt Waits van Proagrica (proagrica.com) dat.
Natuurlijk kan het bijeenbrengen van data uit verschillende bronnen ons vooruit helpen. Maar…Mijn eerste reactie is: Dat moet andersom, je verzamelt gegevens, die interpreteer je en verwerk je (met verstand van zaken graag) tot nuttige informatie die weer toepasbaar is voor de boer. Ook in het voedingsonderzoek wordt veel waarde gehecht aan big data. En natuurlijk kan het bijeenbrengen van data uit verschillende bronnen ons vooruit helpen. Maar…
De technologie tussen de dataverzameling en de toepassing is volstrekt onhelder, evenals het verdienmodel van de infotechbedrijven. Van alle kanten wordt mij verzekerd dat degene die de data aanlevert ook de eigenaar van die data blijft. De data van akkerbouwers worden in de vorm van ‘big data’ gevoerd aan zelflerende algoritmes, die dan bij voorbeeld teeltadviezen ontwerpen die de akkerbouwer via een app in staat stellen om precisielandbouw toe te passen. De techbedrijven ontwikkelen die algoritmen overigens niet zelf, vertelde Waits mij: “We krijgen die algoritmen van andere bedrijven, bijvoorbeeld van Monsanto.”
'Garbage in equals garbage out'
Onder het thema bosbranden zijn op Foodlog al eerder discussies gevoerd over het nut van ingewikkelde rekenmodellen ten opzichte van ‘gezond boerenverstand’. Vaak blijken vakmanschap en ervaring toch nog steeds nuttiger dan zelflerende algoritmes.
De app leek perfect te functioneren, totdat er toch steeds meer foute diagnoses optradenNog een leuke anekdote in dit verband: Het is wenselijk om bij te houden waar wolven zich ophouden en verspreiden. Sommige hondenrassen zijn echter moeilijk op uiterlijk te onderscheiden van wolven en dus kwam er iemand op het idee om hiervoor een app te ontwikkelen. Op basis van heel veel foto’s van honden en wolven werd een zelflerend algoritme gemaakt dat wel onderscheid moest kunnen maken tussen hond en wolf. De app leek perfect te functioneren, totdat er toch steeds meer foute diagnoses optraden. Wat bleek? Alle wolvenfoto’s in het Big Data bestand waren genomen in de sneeuw, terwijl geen van de honden in de sneeuw was gefotografeerd. De app was dus – dankzij het zelflerende algoritme – perfect in staat om onderscheid te maken tussen ‘een beest in de sneeuw’ en ‘een beest niet in de sneeuw’.
Ros Harvey, oprichter en directeur van The Yield, erkent dit probleem: “Alles staat of valt met de kwaliteit van je inputdata,” benadrukt zij: “Garbage in equals garbage out.” Ook wijst zij erop dat data en data management niet gratis zijn. Om te voorkomen dat je eigen gegevens tegen je gebruikt worden, moeten we dus streven naar datamarkten, en datamonopolies tegengaan, vindt Harvey.
Transparantie
Op vragen over transparantie in de keten is het ultieme antwoord tegenwoordig: ‘blockchain’. Beetje jammer dat bijna niemand weet wat dat precies is. Het schijnt zo te zijn dat informatie in blokken steeds gekoppeld wordt, je kunt niets wijzigen, alleen toevoegen en iedereen heeft steeds een kopie van de hele blockchain. Een onfeilbaar systeem… Net als de Titanic, denk ik dan.
Blockchain, een onfeilbaar systeem… Net als de Titanic, denk ik danAls ik om me heen kijk, dan is dat ook niet het type transparantie waar de gemiddelde mens op zit te wachten. Ik wil in de supermarkt kunnen zien uit welk land de sperziebonen komen en een plaatje van de aardappelteler op de zak Opperdoezers vind ik ook leuk. Eieren zelf halen bij een lokale zorgboerderij of een boeket bloemen uit de pluktuin hier in de straat, dat verbindt producent en consument, een QR-code niet.
Risico’s
Het implementeren van al die nieuwe technologie – zelfrijdende machines, precisielandbouw op basis van zelflerende algoritmes, supply chain management met behulp van blockchain technologie, farm management met behulp van een app – gaat het leven van een boer een heel stuk gemakkelijker maken. Of niet?
Als ik een vraag stel over risico’s, dan is het antwoord dat er zeker aandacht moet zijn voor privacy en bescherming tegen hackers. Concreet wordt het zelden. En wat gebeurt er als er simpelweg iets technisch niet functioneert, zelfs zonder kwade opzet? Tijdens de Global Future Farming Summit is het mij de hele dag niet gelukt om contact te maken met het Eduroam-wifi-systeem van de WUR. Als gevolg daarvan kon ik niet meedoen met de geinige peilingen met behulp van Mentimeter. Allemaal geen ramp, maar als ik als akkerbouwer afhankelijk ben van mijn smartphone voor het management van mijn bedrijf, dan heb ik wel een probleem.
Als het internet uitvalt, dan zullen we al die bijna zestig jaar oude boeren nog hard nodig hebbenEn dan nog iets: Hightech, data-driven bedrijven worden meestal bemand door enthousiaste jonge honden die de toekomst omarmen en vormgeven. Lekker out-of-the-box denken en old-school-sectoren zoals de landbouw ‘disrupten’ met innovatieve concepten. Leuk en nuttig, maar niet geheel zonder risico. Naar mijn mening moeten er in elk team ook wat ‘grumpy old men and women’ rondlopen, die de millennials af en toe wat tegengas geven, inside-the-box blijven en daar het fort bewaken dat zich – zeker in de agrosector – al duizenden jaren bewezen heeft.
Als het internet uitvalt, dan zullen we al die bijna zestig jaar oude boeren nog hard nodig hebben: Zij weten nog hoe je ‘ambachtelijk’ een landbouwbedrijf runt.
Wantrouwen
Mijn wantrouwen hangt vast en zeker samen met mijn leeftijd. Ik herinner me de opkomst van de personal computer en kon me niet voorstellen dat daar grootschalig behoefte aan zou zijn: Wat moet een mens thuis met een computer? Boodschappenlijstjes maken? Als trendwatcher of toekomstvoorspeller ben ik dus zeker niet gekwalificeerd. Maar toch …
Mijn wantrouwen is niet zozeer gericht tegen de technologie, als wel tegen de mensen, of liever tegen de arrogantie of hubris van mensenIk ben niet alleen maar oud en bang, ik ben ook gewoon kritisch, op basis van het verleden: De ontwikkeling van de atoombom zou een einde maken aan de wapenwedloop. De ontwikkeling van het world wide web zou de hele wereld verbinden, kennis wordt voor iedereen beschikbaar, dus armoede en honger worden uitgebannen. Computers zouden ervoor zorgen dat er veel minder papier wordt gebruikt, dus veel minder bomen gekapt. Social media brengen mensen met elkaar in contact en vergroten het onderlinge begrip: nooit meer oorlog.
Mijn wantrouwen is niet zozeer gericht tegen de technologie, als wel tegen de mensen, of liever tegen de arrogantie of hubris van mensen: Alle technologie wordt door ons gemaakt en alle fouten die we daarbij maken zitten dus ingebakken in de technologie. Er gaat dus fundamenteel iets mis als we kritiekloos vertrouwen op algoritmes, robots of apps. Achter al die technologie gaan mensen schuil, met hun menselijke tekortkomingen. Het idee dat robots en computers in de toekomst ‘beter’ zullen zijn dan wij, is een illusie. Het feit dat een computer een potje schaak of go van ons kan winnen, zegt mij niets.
Bovenstaande tekst is een iets aangepaste en ingekorte versie van mijn verhaal dat in december is verschenen in De Molenaar, Vakblad voor de graanverwerkende en diervoederindustrie.
Op 2 september krijg je nieuwe kado-artikelen.
Als betalend lid lees je zoveel artikelen als je wilt, én je steunt Foodlog
Waar het klakkeloos gebruiken van algoritmes toe kan leiden, is bij Youtube te zien, waar je zo kan radicaliseren.
Een mooie aanvulling op de discussie over algoritmes in de boekenpagina van de Volkskrant met als titel "Algoritmes maken fouten, maar mensen maken er meer". In Topics, dan, op de website van de Volkskrant is de titel gewijzigd. Met een heldere en mooi geformuleerde analyse:
"Algoritmes zijn niet feilloos, betoogt Fry. Maar mensen zijn dat ook niet. Sterker: mensen maken nog veel vaker fouten. Bestuurders van auto's, medisch specialisten, rechters: allen hebben hun vooroordelen, hun zwakke momenten en hun blinde vlekken. Maar de mens is nodig om te kunnen beoordelen of algoritmes betrouwbaar zijn. Of om de ethische regels te expliciteren waaraan systemen moeten voldoen. Want die systemen zelf hebben geen moraal; die bedrijven statistiek. Het menselijke element is dus essentieel in de wereld van de geautomatiseerde beslissingen: 'Fouten kunnen alleen op een zinnige manier worden voorkomen als er een persoon met vetorecht is om de suggestie van een algoritme te beoordelen.'
Een concreet voorbeeld is hier weer de rechter. Het algoritme is onovertroffen in het voorspellen of iemand opnieuw in de fout zal gaan, maar het is uiteindelijk de menselijke rechter die beslist wat de strafmaat is."
Een artikel over Silicon Valley en de tech-wereld aldaar. Moraliteit en ethiek was daar altijd afwezig, omdat men, vanuit een gesloten wereld, dacht dat tech gewoon goed was. Of het door de opschudding rond Facebook was, of andere zaken, maar sinds kort is er een kentering in het denken dat tech alleen maar goed is. Zo wordt er tegenwoordig bijvoorbeeld nagedacht of tech-toepassingen, waaronder AI en algoritmes, de kloof verkleinen tussen 'haves' en 'have-nots'.
Dick, twee punten.
Ten eerste, je kan het woord 'berekenen' wel bewust vermijden, maar een algoritme is per definitie een eindige set instructies en in software of wiskunde zijn dat berekeningen. Het zou best kunnen dat dat met stochastische variabelen gebeurt (ofwel waarschijnlijkheden), maar het blijven berekeningen. Software kan niet 'schatten'. Dat is geen puur semantische discussie, het betekent namelijk dat de route naar een antwoord vastgelegd moet zijn. Daarvoor moet je weten wat die stappen behelzen.
Ten tweede kunnen we onze denkprocessen slechts benaderen. Wat we buiten ons hoofd aantreffen zijn slechts beperkte aanwijzingen van wat er van binnen gebeurt, vergelijkbaar met Plato's schaduwen. We kunnen dus hooguit benaderen wat ons proces van afweging oplevert (niet hoe het zich inhoudelijk afspeelt) en in de manier waarop we zo'n benadering beschrijven zitten per definitie al vooronderstellingen ingebakken. Ik zou jouw antwoord op de vraag of je een schilderij mooi vindt kunnen benaderen door een getal op de schaal van 1 tot 10, maar dat is niet wat je in de realiteit erbij voelt. Misschien (of eigenlijk: waarschijnlijk) zijn er aspecten die ik met zo'n benadering totaal over het hoofd zie. Doordat het per definitie een benadering betreft, verlies je dus informatie, die bij een menselijke afweging wél meespeelt. Valt het dan nog een ethische beslissing te noemen? Of valt dat in reële termen 'inschatten' van een ethische afweging te noemen? Ik denk het niet.
Dennis, je kunt aan utilisten denken (ik zeg altijd: dat zijn geen ethici, op soortgelijke gronden als jij), maar zo bedoelde ik het niet. Een algoritme kan ook schatten (ik vermijd expres het woord bereken) wat we op moment x het juiste vinden op basis van semantische analyse. Geen nutsanalyse dus, zoals een utilist die zou maken