Hoe bijen drones helpen navigeren

0:05 Dit is een BNR-podcast.

0:30 Welkom bij de Technoloog nummer 520. Hallo Daniel. Dag Ben. Ja, wat mooi vandaag gaan we het over bijen hebben. Ja, bijen,

0:36 maar dan ook met propellers. Ah, dat is dan jammer hè, want ik wil het over bijen gaan hebben. Wie hebben we te

0:42 gast? Guido van de Kroon.

0:43 Hallo Guido. Guido de Kroon

0:45 De Kroon? Ja. Jeetje staat er weer Van Der Kroon. Ja, omdat ik Van Derburg heet. Nou, dat is irrelevant. Je bent hoogleraar aan de TU Delft. Ja.

0:55 In welke onderdeel opties? Micro Air Vehicle Laboratory.

0:59 Dat is onderdeel van lucht- en ruimtevaart, neem ik aan. Ja, dat is onderdeel van lucht- en ruimtevaart. En ik hou me bezig met AI voor drones

1:08 Ik ben vooral benieuwd over bijen. Wat is

1:11 je fascinatie voor bijen? Ik ben gefascineerd door de natuur in het algemeen. En ook hoe intelligentie in de natuur werkt. De bijen zijn extra interessant omdat ze heel erg klein zijn. En als je ze in je tuin ziet rondvliegen, dan vinden we dat allemaal maar normaal. Maar als je net als ik probeert om drones zelf te laten vliegen... dan zou je diep onder de indruk zijn van wat die bijtjes allemaal doen.

1:41 Ja, ik moet heel erg denken aan vliegtuigen lang geleden... dat ze dachten, uiteindelijk is die vleugel anders geworden dan een vogel vliegt. Dus dan moest ik denken aan die bijen van jou. Dus wat maakt een bij zo knap dat die vliegt hoe die vliegt? Wat doet die dan

1:57 wat zo knap is? Het gaat niet alleen om het vliegen, dat is ook heel knap hoe dat allemaal werkt. En inderdaad de oplossingen waar we als mensheid eerst mee zijn gekomen zijn de vliegtuigen zoals we die kennen met vaste vleugels die niet flapperen. We werken trouwens bij de TU Delft ook aan een soort vlinderdrones die wel met de vleugels flapperen. Dus we zijn iets later toch ook op dat pad gegaan. Ik heb al eerste demoversies ook van echte vliegtuigen toch

2:26 gezien... dat ze probeerden in het begin 20e eeuw, eind 19e eeuw... ze probeerden dat wel in het begin.

2:33 Ja, ze probeerden dat in het begin. En uiteindelijk hebben ze door heel veel te proberen... maar ook te bestuderen, meer inzicht gekregen... En als je een heel groot toestel hebt en je wil daar heel veel mensen in stoppen... dan

2:46 is flapperen met de

2:47 beugels niet echt

2:49 ideaal. Maar terug naar die bij. Wat maakt een bij, dus niet alleen het vliegen, maar ook het navigeel... wat maakt een bij zo bijzonder, wat je geleerd hebt... wat je nu ook in drones toe wil passen? Dus wat maakt een bij bijzonder?

3:00 Nou, de bij is heel klein, maar doet heel veel dingen heel erg slim. En het gaat echt om van alles. Dus bijvoorbeeld als je in je tuin kijkt, dan zie je een bijtje op een bloem landen. Dat is eigenlijk heel moeilijk, want de bloem beweegt door de wind. En eerst moet de bij al weten, daar wil ik heen.

3:17 En dan moet hij daar ook echt op landen. Terwijl hij ondertussen verstoord wordt door de wind. Maar het gaat ook om dingen zoals een bijtje kan bewegen. Wegreizen van zijn korf. En dan tot over tien kilometer ver weg vliegen. Een bloemenveld vinden. En dan met nectar terugkomen naar de korf. En dat is iets wat in robotica sowieso heel moeilijk is.

3:43 Maar helemaal moeilijk zou zijn als de robots zo klein zouden zijn. Hoe doet hij

3:50 dat landen? Dus met de wind en dan die ene bloem?

3:54 Nou, bijen gebruiken hun zicht heel veel daarvoor. Dus ze hebben hele kleine oogjes. En hun ogen werken wel anders dan de onze. Dus als je kijkt naar zo'n oog, dan zie je allemaal van die facetjes. Dus ze hebben facetogen. Maar met hun ogen nemen ze de wereld waar. En ze kijken dus heel veel ook naar beweging bijvoorbeeld. Maar ook naar vormen. En ja... Wij kunnen zelf met drones laten kijken. En dus ook bijvoorbeeld beweging laten zien. En dan kunnen we proberen na te doen wat erbij doet.

4:33 Want dat

4:33 doe je. Je probeert echt die facetten, hoe ze kijken, dat probeer je na te maken. Heb je dan speciale camera's in die kleine droontjes?

4:41 Nou, dat is het grappige. De menselijke technologie is niet altijd zo ver als de natuur. Als erbij,

4:47 nee. Je

4:47 hoeft ook

4:47 niet alles te kopiëren

4:49 Dus... Dus we hebben eigenlijk geen camera's zoals de bij ogen heeft

4:58 Bestaat nu niet? Zijn

5:00 er

5:00 wel camera partijen

5:02 die dat proberen? Ik heb eerder een andere vraag. Jij bent bezig met van die micro drones, vliegende dingetjes. Ja, bij drones. Ja, precies. Is een bij zo goed en zo interessant en zo goed ontwikkeld... dat dat de inspiratie is om het perfecte droontje te maken...

5:22 Ja, ja. Je probeert

5:25 eigenlijk een bij na te maken

5:27 Nee, ik probeer niet een bij na te maken. Ik probeer te leren van hoe vliegende insecten... Kijk, een bij is een heel mooi voorbeeld. Het is heel erg goed bestudeerd door mensen. Ook omdat wij mensen de bij belangrijk vinden. Is ook belangrijk,

5:42 hè? Is ook honing. Onze vriend

5:44 de bij. Dus de bij is zeker een heel goed voorbeeld, maar... Heel veel vliegende insecten zijn eigenlijk heel erg interessant... en doen allemaal slimme dingen. De bij vind ik extra interessant omdat ze ook nog eens samenwerken. Het is een sociaal insect, noemen ze dat. Dus bijvoorbeeld als die bij terugkomt met de nectar... in het nest, of in de korf, waar het donker is... gaat hij dan een dansje doen. En met dat dansje vertelt hij aan de andere bijen in de korf... hé, ik heb die kant uit. En dan... Ja, dat is ook fascinerend. Want ze dansen dus met een hoek ten opzichte van de zwaartekracht in het nest... En de bij die die dans observeert, gaat dan diezelfde hoek volgen, maar in vertrekking

6:32 tot de zon

6:33 Dus als ze naar buiten komen, gaan ze kijken van, oh, hij ging met 30 graden ten opzichte van de zwaartekracht. Dus nu ga ik met 30 graden ten opzichte van de zon, ga ik vliegen. En hij danste zo lang, of zij danste zo lang. die datzelfde veld vinden. Dus

6:52 dat is zijn spraak eigenlijk. Dus het dansje is zijn spraak. Ik heb zoveel vragen. Eerst deze nog, want nu trigger je hem. Ik ga straks weer terug naar jouw bewegen en vormen en die facetten met ogen. Dan ga ik zomaar terug. Maar eerst deze. Heb je dan in die korf camera's gehangen en je analyseert die dansjes en dan kijken wat die dansjes betekenen?

7:13 Nou, dat is ik niet,

7:14 maar de biologen

7:15 wel. Ja, inderdaad. En ze zijn er pas redelijk recent achter... hoe ze de dans eigenlijk volgen. Dus dat doen ze zeer waarschijnlijk met antennes. Dus ze hebben die bijen van die antennes. Want het is donker.

7:32 Maar nu moeten mensen echt even op YouTube bekijken. Gido de Kroon doet een bijdans.

7:37 Ja, die hoort na een bijdans. Ik vind het wel echt fascinerend. Jij wil een soort biologie-podcast maken. Nee

7:45 nee. Want ik heb de hele tijd drone in mijn hoofd. Dus ik vraag dit allemaal naar de drone toe. Wat je dus leert ervan.

7:52 Ik vind het zo mooi dat jij net dat voorbeeld gaf van die vliegtuigen. Oké, daar hebben we het niet gedaan alsof we een vogel waren. Alsof we een vogel gingen nabootsen. Maar dus hier zeg jij, om van die hele kleine droontjes te maken... kunnen we dus wel degelijk leren van de natuur, van de bij bijvoorbeeld. Die zijn dus zo goed en zo efficiënt dat dat... Oké, gaan

8:09 we nu al naar de drone toe? Dat is goed. Oké, dan doen we eerst nog dat dansen. Dan kom ik straks bij het kijken met die bloem. Eerst het dansen. Dus jouw droontjes, even voor de mensen... ze zijn natuurlijk heel klein, in kassen gebruikt toch? Het gebruik komen ze op. Want dat wil ik even kort houden. Gaan die van jou ook dansen met een zwerm? Dat ze bij elkaar komen en snappen wat er gebeurt

8:32 Nou, dus dat is interessant. Dus ik denk, je hoeft niet altijd blindelingse natuur te volgen. Nee, maar? Nou, onze drones dansen nog niet. Wie weet gaan ze het ooit wel doen. Tjongejonge,

8:41 ze dansen

8:41 niet eens. Sorry dat ik je

8:42 daarmee teleurstel. Ja, dat vind ik echt slecht. Maar ik denk, voor heel veel dingen hebben we gewoon eigenlijk betere opties met technologie. Dus bijvoorbeeld draadloze communicatie. Daar kun je veel sneller natuurlijk... Ja

8:55 veel sneller waar je naartoe

8:56 moet. Maar je kunt er wel veel van leren. Dus een van de dingen die we laatst hebben ontwikkeld... is juist hoe kunnen drones navigeren zoals bijen. Want dat navigeren is eigenlijk iets wat je altijd moet doen met een robot. Je wil op z'n minst dat je robot ergens heen kan gaan... en bijvoorbeeld terug kan keren. Ja. Als je dat doet met huidige methodes in de AI en de robotica, dan heb je veel te veel rekenkracht nodig. Dus wat bijvoorbeeld zelfrijdende auto's doen is, ze hebben natuurlijk GPS, ze hebben kaarten, maar ze gaan ook met allerlei sensoren, zoals laserscanners, gaan ze de omgeving scannen. En dan maken ze een soort driedimensionale kaart om zich heen. En die drie-dimensionale kaart

9:43 kunnen ze dan gebruiken om een pad te plannen. Van, oh, ik wil daarheen, dus dan moet ik hieromheen en dan kan ik zo terug. Maar je kunt je voorstellen dat als je zelfs van deze hele kleine opnameruimte, als je daar een 3D-kaart van maakt, dan heb je gewoon, vooral met detail, weet je wel, dat draadje, daar wil ik ook hebben, dan heb je echt heel veel geheugen en rekenkracht nodig. En daarvoor heb je dus een grote computer nodig. Ja, die ruimte is er niet. Nee, dat kan gewoon niet op kleine drones. Dus we hebben ook drones in het lab, wat ik al zei, vlinderrobots die wegen 20 gram Dus die kunnen nooit een computer meenemen die dat allemaal kan berekenen.

10:18 Dus hoe doe je het dan wel, is de vraag.

10:20 Nou ja, die vraag ga je antwoorden. Nee, we willen het niet weten. Eet

10:27 iets anders.

10:27 Eet iets

10:28 anders nu. Vertel. Nou ja, dus daar heb ik dus ook naar biologische studies zitten kijken. En biologen zijn hier ook door geïntrigeerd van hoe doen insecten dat eigenlijk... Want die kunnen dat heel goed. Ze zijn heel klein. En die lijken dus niet echt een kaart te maken. Of zo'n gedetailleerde kaart. Wat ze in de biologie gezien hebben.

10:48 Ze wisten sowieso dat bijen twee dingen doen. Dus één ding wat ze doen. Noemen ze odometrie. En odometrie voor een mens is stappen tellen... en bijhouden in welke richting je loopt. Dus als ik bijvoorbeeld ergens ben en ik wil daar terugkomen... en ik doe honderd stappen naar het noorden... dan weet ik, als ik nou honderd stappen naar het zuiden toe... dan hoor ik terug te zijn waar ik was.

11:11 Maar je snapt al, het gaat niet helemaal goed. Want die stappen zijn niet echt heel accuraat. Rood, klein, ja. Precies, misschien zet je net je stap iets anders. Je komt dus niet precies terug waar je bent, maar wel in de buurt daarvan. En dat odometrie voor bijen ziet er anders uit. Die kijken meer van... hoe snel beweegt het landschap voorbij. Dus als je bijvoorbeeld in een trein zit...

11:32 dan zou je... als je sneller gaat, zie je die bomen sneller voorbij schieten. En als je dat een beetje voorbij houdt... dan zou je ruwweg kunnen weten van... nou, dan kan ik zo weer terug. Dus dat is wat bijen doen. Dus dat is één ingrediënt. Tweede ingrediënt is dat ze rond hun korf... rond hun nest... leren ze de omgeving. En... Dus biologen weten dat ze bijvoorbeeld gebruiken...

11:55 als daar een grote boom staat, een paar meter van de korf... dan onthouden ze dat. Dus als je die boom weghaalt... dan is zo'n insect in de wacht als hij terugkomt. Biologen doen allerlei dingen om insecten te pesten. Dan zetten ze bijvoorbeeld twee zuilen neer... en dan gaat de insect weg en dan gaan ze die zuilen snel...

12:11 10 meter naar links verzetten. Die biologen.

12:15 Die biologen zijn veel leuker dan

12:17 biologen

12:20 Het zijn heel aardige lijken

12:20 van mensen

12:21 hoor. Nee

12:22 hoor, het is helemaal niks. Maar goed, dat doen ze om ze te pesten. En ze weten de omgeving. Dat zijn de twee elementen. Als

12:27 zo'n insect terugkomt, dan gaat hij eigenlijk naar die zuilen toe. Als bijvoorbeeld dat nest in het midden van die zuilen was... dan gaat hij daar zitten zoeken. gebruiken, maar ze weten niet goed hoe die bijen dat dan precies leren en wat ze dan precies doen. En dat is superleuk, want ik lees dan die artikels en ik denk, hoe kunnen we dit nou in een robot stoppen? Wat we ook zo efficiënt... Dus wat we gedaan hebben is, we gaan drones nu, net als bijen, leervluchten laten doen. Dus wat is een leervlucht? Als een bij voor het eerst de korf uitgaat... voordat hij ver weg gaat vliegen naar een bloemenveld...

13:03 gaat hij eerst een soort rondje vliegen in de buurt van de korf. Dus 50 meter weg, 100 meter weg, zoiets. Dus wij doen dat nu ook met een drone. Dus we gaan vliegen... Vliegen we rond het nest van de robot. Het basisstation. En wat wij nu denken... en dat is ook een soort voorstel richting de biologie... is dat terwijl ze zo'n leervlucht maken... houden ze bij waar ze zijn met odometrie. Dus door dat stappentellen. En elke keer, terwijl ze vliegen, kijken ze wat zie ik... En als ik dit zie, bijvoorbeeld, ik ben nu heel dicht bij die boom...

13:37 dan weet ik dat mijn nest ongeveer tien stappen die kant uit is. En dat leren doen we met een orale netwerk. Dus dat is een stukje kunstmatige intelligentie. Die leert eigenlijk om een plaatje te verwerken en meteen te zeggen... als je naar huis wil, moet je die kant uit

13:55 Dus jouw droontje gaat ergens weg. Met die odometrie gaat hij er omheen... Dus slaat hij dat zelf in dat kleine droontje

14:07 op? Dat is een heel interessante vraag. Waar biologen vroeger vooral aan dachten was... dat ze plaatjes zouden maken en op zouden slaan Maar het interessante hier is dat dat netwerk... die krijgt een plaatje en die moet... dat komt in het netwerk... en dan aan de buitenkant van het netwerk moet hij zeggen...

14:24 ga die kant uit en zoveel stappen. Dus het is niet alleen die richting, maar ook zo ver. En die kennis uiteindelijk komt in de connecties... tussen de kunstmatige neuronen te zitten. Dus eigenlijk slaat hij die plaatjes niet op. Want als je die plaatjes zou opslaan... heb je ook weer

14:41 megabytes en

14:42 gigabytes nodig. Maar in plaats daarvan slaat hij de kennis op... om een plaatje om te zetten in een richting en een afstand. Dus bijvoorbeeld die boom, als die heel dik is en een beetje donker... dan gaat die leren, als ik iets heel dik donker zie in het midden... dan weet ik dat ik die kant op moet. Maar als die een beetje naar links zit, dan moet ik een beetje meer... Als je dus een hele lege ruimte hebt,

15:06 dan is het vrij lastig voor jouw droontje.

15:08 Ja, dan is het onmogelijk. En je ziet ook in de natuur dat ook dieren moeite hebben met dichte mist of zo... Ja, dat is heel vervelend. En sommige dieren zeggen gewoon van ja, ik ga vandaag gewoon niet vliegen. Nou, dat zeggen mensen

15:20 ook.

15:21 Ja

15:21 ja. Dan blijf je ook gewoon thuis als het heel dichter is. En je hebt dus het heel kleine droontje. Hoeveel ruimte heb je om mee te werken? Hoeveel KB-geheugen heb je

15:32 Ja, dus dat is... Sprekenkracht. Ja, dus waar we uiteindelijk de methode die we ontwikkeld hebben, die dus dit doet en gebruikt, straks om thuis te komen. Want er zit nog een stukje verhaal aan vast. Moet je ook vertellen hoor. Ja, oké. Uiteindelijk hebben we 42 kilobyte nodig ongeveer. Dat is heel weinig kilobyte. We hebben ook veel experimenten gedaan met 4 kilobyte.

15:53 Het is natuurlijk een beetje rekbaar. We kunnen iets meer geheugen geven. Maar het is wel veel minder geheugen. Echter factor 10.000 minder dan als je zo'n kaart gaat zitten maken

16:03 Ja, memorykaart zijn ook steeds duurder worden ze. Dus dat is ook wel fijn. Precies ook goedkoop. Heel fijn is dat. Maar er zal nog iets tussen zijn

16:10 Ja, dus na die leervlucht is er dus een redelijk gebied rond het nest... waarin je eigenlijk de robot kunt droppen... En dan kan hij kijken en dan ziet hij ook, ik moet daarheen. En als hij telkens dat volgt, dan komt hij terug bij het nest. Dus je hebt nu eigenlijk een soort veiligheidsgebied.

16:29 Hoe ver

16:30 Waar je het altijd weet. Ja,

16:31 waar je altijd weet hoe je

16:32 terug moet komen.

16:33 Met het draaien steeds verder. Hoe ver? Hoeveel meter?

16:36 Dat ligt eraan hoe ver we uiteindelijk willen vliegen. Ik heb een kast voor me In een kast bijvoorbeeld zou je een gebied van 100 vierkante meter of zo kunnen

16:47 voorstellen

16:48 10x10 meter. Dat is al best genoeg om honderden meters te kunnen vliegen. Dus

16:53 het is niet kijken, het is dus de afstand meten. Dat is de sensor, die meet afstand en richting. Het

16:59 is kijken. Wel met een

17:00 cameraatje

17:01 Met een cameraatje. Dus dat cameraatje, dus we hebben geen insecten oog zoals ik al zei, maar we hebben wel een gewone camera. En die kijkt dan tegen een spiegeltje aan en die ziet dan helemaal rond. Dus je ziet 360 graden rond. Kijk, insecten hebben dus die speciale ogen. En een van de eigenschappen is dat ze ook heel erg breed zicht hebben. Breder dan wij mensen. Precies facette ogen. Ja, met die facette ogen. Ze zien ook bijna achter zich.

17:23 Ze hebben ongeveer 270 graden. Het hangt een beetje af van de insectensoort. Dus ze kijken rond. En na dat leerproces kun je hem dus neerzetten. Maakt hij een plaatje. Dat plaatje gaat in een netwerk. En die zegt dan vlieg die kant uit. Dat kan hij volgen. Maar nu willen we veel verder weg gaan vliegen eigenlijk. En dat is een van de geheimen achter de efficiëntie van deze methode.

17:46 We gaan eigenlijk veel verder vliegen dan dat veilige gebied. Dus we gaan zeg maar echt honderden meters wegvliegen. En terwijl we wegvliegen tellen we onze stappen. En onze drone die doet net als de bijen dat voorbij trekken van het landschap. Ik snap het. Ga door. En dan doet hij dus bijvoorbeeld, laten we zeggen, 500 stappen. Nogmaals, vliegend.

18:08 En dan wil hij 500 stappen terug. Maar 500 stappen is best ver. Dus je komt niet precies bij je nest uit. Maar je komt wel in de veiligheidszone. Precies, je komt in de veiligheidszone. En in die veiligheidszone kun je de... De error, de fout die je hebt opgebouwd, kun je dus te niet doen door te kijken. En je ziet, oh, ik ben niet bij mijn nest. Ik ben bij dat rare struikje naast mijn nest. Dus dan moet ik die kant uit vliegen

18:32 Dus als je met die 500 stappen de ene of de andere kant, als je maar binnen die 10 bij 10 eindigt, dan zit je eigenlijk goed. Is het 10 bij 10

18:39 Want dat had ik nog even niet meegemaakt. Dat

18:40 werd gezegd

18:41 10

18:41 bij 10 is een gebied wat

18:43 je kunt leren

18:43 als je niet al te ver. Dus bijvoorbeeld een bij die vliegt Die moet een iets groter gebied leren dan. En buiten leren wij dus bijvoorbeeld ook in een iets groter gebied... dan in de binnenruimtes die we gehad hebben

18:59 Even tussendoor, Hielke is nu boos, want je zei error. En Hielke wil niet dat je Engelse termen gebruikt

19:03 Ja, sorry.

19:03 Maar dit terzijde. Ik wil iets meer detail nog over... Dus het is wel een camera met een spiegel. Hij slaat niet de beelden op, want dat is te veel. Wat slaat hij precies op? Dus alleen maar richting en stappen. Dus dat is... Dus dat is natuurlijk heel weinig data. Alleen maar dat slaat hij op. Dat slaat hij eigenlijk niet op.

19:21 Wat hij opslaat is de connecties in het noraal netwerk. Dus een noraal netwerk in een drone... is geïnspireerd op het menselijk brein. Menselijke neuronen en neuronen in dieren in het algemeen zijn best complex. Veel complexer dan wat we in de technologie gebruiken. Maar we weten natuurlijk dat terwijl we leren, veranderen connecties. Sommige connecties worden sterker, andere vallen weg.

19:52 En heel veel van onze kennis zit dus in die connecties... En hoe sterk neuronen elkaar kunnen beïnvloeden. En dat gebeurt hier ook. Tijdens het leerproces is dat netwerk aan het leren. Dus het is een klein noraal netwerkje in die kleine drone? Dus tijdens het vliegen leert hij van, als ik dit zie, moet ik daarheen. Als ik dit zie, moet ik daarheen.

20:15 En wat hij dan eigenlijk aan het leren is, is waar moet ik naar kijken? En dat kan in elke omgeving anders zijn. Dus als we hier zouden leren, dan zou hij leren van... Als ik heel veel rood zie, want daar zit zo'n paneel dat rood is daar. Dat is een klein paneel. Maar als je daar heel veel rood ziet, ben je dicht bij dat paneel. Dus dan weet je van, oh, dan moet ik die kant uit.

20:34 Het is natuurlijk alleen maar waar voor deze ruimte. Maar dat is wat ik ook zo mooi vind aan die bijen. Die kunnen bijen komen op heel veel plekken in de wereld voor. En waar ze ook hun korf gaan bouwen, ze moeten natuurlijk dat gebiedje leren. Dus het mag ook best een beetje specifiek zijn voor hun omgeving En dat doen ze onze drones nu ook dus.

20:53 Ja, gaaf. En als we het hebben over die neurale netwerken, dank u wel. Is dat inmiddels een soort van commonplace dat iedereen een neuraal netwerkje kan maken? Is dat goed te doen? Of is dat nog heel ingewikkeld om voor zo'n droontje op zo'n niveau zo'n netwerk te bouwen?

21:12 Ja, een netwerkje maken is op zich tegenwoordig makkelijk. Dankzij AI kan ook iedereen programmeren. Dus je mag het ook thuis uitproberen. Vraag maar aan de AI, kun je een noraal netwerkje maken om met dit plaatje iets te doen? Het verschil tussen katten en honden te zien. Dat is op zich makkelijk. Het is wel zo dat... normale netwerken, als je niet oppast... krijg je een heel groot netwerk.

21:37 Dus als je ook heel veel complexe dingen wil doen... dus alle objecten herkennen... die wij mensen gebruiken... zijn best veel objecten... dan krijg je natuurlijk een heel groot netwerk. En dat grote netwerk... heeft dan weer een grote computer nodig. Dus wij hebben heel kleine netwerkjes gemaakt... die juist op heel kleine chips... ook kunnen passen. En zo klein dat...

21:59 42 gram. Nee het chipje kan gram zijn

22:06 Maar

22:07 dat hij 42 kilobytes

22:09 gebruikt. Dat is

22:09 een heel klein

22:11 chip. Maar dat is het navigeren, toch Maar hij moet nog meer doen dan alleen maar navigeren. Want dan vliegt hij lekker

22:20 Ja, precies. Je moet echt allerlei dingen doen. Als ik het vanuit een drone bekijk... De meeste drones zijn, net als vliegende insecten trouwens, onstabiel. Dus dat betekent dat als je geen computertje aan boord zou hebben... die ook sensoren uitleest en daar iets mee doet... dan zou die meteen vallen.

22:40 Dan kun je hem ook als mens niet besturen. Dus

22:41 zo'n drone

22:42 die je kent met de propellers... als er niks aan boord zit en je krijgt meteen de controle over de motoren... dan val je Dat kun je gewoon niet. Dat is te snel voor een mens. Dus het eerste wat een droom moet doen is zorgen dat je weet waar de zwaartekracht is. Waar de aarde is, wat je hoek is ten opzichte van de aarde. Zodat je kunt blijven vliegen en de kant uit vliegt waar je heen wilt. Het tweede wat we moeten doen met een drone... of wat een drone moet doen, maar ook een bij... is dat je bijvoorbeeld ergens heen kunt bewegen waar je heen wilt. Dat je ten eerste weet dat je naar voren aan het vliegen bent... of naar achteren, of dat je aan het vallen bent... of dat je omhoog gaat en hoe snel je gaat. Dat

23:23 zijn dingen die je moet weten om doelgericht iets te gaan doen. Daar zijn we ook heel veel onderzoek naar gedaan... Beide die dingen zijn problemen waar we ondertussen best goed weten hoe je dat moet doen. Het andere ding wat je moet doen is ook obstakels ontwijken. Afstanden inschatten. Dat is eigenlijk nog best moeilijk. Daar kunnen we trouwens best veel mee. Maar het probleem daar is wel van zitten we aan de 98% en is 98% genoeg? Het hoeft maar één keer fout te gaan. Als je 100 vluchten maakt gaat het twee keer fout. Ja, precies. En het ding is dat insecten ook een prachtig lichaam hebben. Je kunt op YouTube ook zien van die bijen die komen aan als er een sterke wind staat... Dan crashen ze

24:12 min of meer op hun korf. En dan lopen ze lekker verder hun nest in. En drones maken we nu met menselijke technologie doorgaans nog heel rigide. Dus als die vallen, dan is het klaar en kunnen ze ook niet opstaan. Dus er zijn ook robotici die daaraan werken. Van hoe kunnen we een drone zachter maken... dat die ook met botsingen om kan gaan, noem maar op.

24:34 En

24:35 uiteindelijk krijg je navigatie. En dat was wel... Het hoofdprobleem, zeg maar. Want navigatie is echt een heel moeilijke taak. Waarbij mensen altijd zeiden, je moet kaarten maken om te navigeren. En dat kost gewoon veel

24:49 rekenkracht. En het is jullie gelukt om zonnekaarten te doen.

24:52 Precies, ja. Super spannend. Maar we gaan eerst... Ben? Gaan we geld verdienen. We gaan al die

24:58 drones kopen.

24:59 Guido, we

25:00 hadden afgesproken dat jij ons zou waarschuwen voor de commercial.

25:03 We vergeten dat altijd. We vergeten al honderd uitzendingen om bij die commercial een keer goed aan te komen. Guido heeft ons niet gewaarschuwd. Zwaar teleurgesteld, Guido. Oké, we zijn zo

25:14 weer terug. We zijn terug. Guido, dus dat navigeren, hebben we dat nu opgelost? Of moeten we daar

25:22 nog meer

25:22 details over weten? Want ik heb het idee dat ik het begrijp. Niet dat ik het begrijp, maar het idee dat ik het begrijp. Moeten we naar de volgende? Bijvoorbeeld hoe je de positie ten opzichte van de aarde bepaalt? Heb je daar iets geleerd van erbij

25:35 Of zijn we daar nog niet? Er zijn nog heel veel dingen om aan te werken met navigatie. Ik denk wel dat we een heel grote stap hebben gezet... om navigatie mogelijk te maken, ook voor heel kleine robots. Ja, dat heb je net verteld. Er zijn natuurlijk allerlei vervolgstappen. Er zijn allerlei andere dieren waar je nog naar kunt kijken...

25:55 en verwonderd over kunt zijn. Waarbij je zou kunnen zeggen, dat moeten we misschien op drones ook gaan doen. Noem eens een voorbeeld dan, dat ons verrast. Nou, één dingetje is bijvoorbeeld s'nachts. Dus je hebt ook heel veel vogels die ook s'nachts kunnen navigeren met behulp van de sterren. Hoe doen ze dat? En kunnen we daarvan leren? Kunnen we dat op nieuwe manieren doen? Maar daar doe je dus onderzoek naar? Ja, daar zijn we ondertussen ook onderzoek naar aan het doen.

26:23 En wat doen ze dan wat je wellicht in een drone gaat verwerken?

26:29 Dat ga ik nog niet helemaal verklappen. Oh

26:30 mooi Anders

26:32 stelen de Chinezen dat van. Ja, wat goed, man. We gaan in ieder geval geen sterrenkaarten gebruiken.

26:38 Dat is toch... Dat je gewoon onderzoek doet... en dat je gewoon bang bent om hier te vertellen... in de

26:43 Chinezen te

26:44 stelen. Dat zijn niet mijn woorden. Nee, dat zijn Daniels woorden. We moeten niet navigeren. Of wil je verder gaan?

26:50 Ik wil eigenlijk verder gaan. We hebben het helemaal niet gehad over... we zitten heel diep in de technologie. Maar waarom hebben we deze... ultrakleine droontjes nodig? Oké, komen we zoveel terug. Waarom moet dit... Want het is heel gaaf. En wij hier bij de technoloog of bij de bioloog... vinden we dit allemaal echt wel heel leuk. Goede podcastbioloog. Ja, gaan we pitchen. Maar ik bedoel, ik snap... drones in allerlei soorten en maten is handig. Maar op het niveau van dat het zo klein moet... en enkele grammen en 42 kb geheugen aan boord... dat het zo klein moet, wat is daar dan precies het idee bij?

27:28 En de use case? Je zei al, de naam van het lab bij de faculteit lucht- en ruimtevaart bij de TU Delft is het Micro Air Vehicle Lab. En in de naam zit al micro. Dus waarom focussen op kleine drones? Het is eigenlijk voor de veiligheid. Omdat hoe kleiner een drone is, hoe lichter, hoe minder impact het heeft als zo'n drone bijvoorbeeld toch onverhoed tegen iemand aan zou vliegen.

27:55 En wij denken dus aan heel veel toepassingen. Dus er zijn heel veel toepassingen buiten. Waar je nu ook al ziet dat... Vroeger gingen mensen met een helikopter bijvoorbeeld vliegen over een wijk... om te kijken of het kadaster klopte of zo. En nu heb je bijvoorbeeld heel vaak al drones die daarvoor worden ingezet. En wij denken ook aan volgende stappen. Dus bijvoorbeeld drones in kassen. Er zijn trouwens ook een paar bedrijven die nu werken aan drones in kassen...

28:22 Maar in kassen heb je natuurlijk menselijke werknemers. Je hebt planten en fruit en groenten. Je wil het niet beschadigen of wat dan ook. Dus A, hebben we daar kleine drones nodig... omdat je bijvoorbeeld tussen rijen tomatenplanten in wil

28:37 gaan vliegen. Dan wil je

28:37 niet met een soort slagschip er doorheen. Precies, ja. En B, weet je... aan het begin waren er wel bedrijven die wat grotere drones hadden... maar dan zeiden ze, oké, in dit gedeelte van de kas... moeten jullie nu even niet komen, want dan gaan we vliegen. Dat is gevaarlijk voor jullie. Of je moet helmen op of brillen. Ja, dat gaat gewoon nooit werken. Wij willen gewoon drones die zich aanpassen aan de mensen. En een gedeelte van die aanpassing is dat ze heel erg veilig zijn... Het liefste zie ik zelfs die vlinderrobots. Die hebben zachte, flexibele vleugels. En als die dan in zo'n kas rondvliegen straks... om bijvoorbeeld ziektes te detecteren of plagen... die gaan A, ontwijken ze mensen...

29:15 maar B, mocht alles misgaan en zo'n ding valt uit de lucht... dan word je door een soort groot insect geraakt. Dat is niet fijn of zo, maar je hebt er ook niet echt pijn van

29:24 Maar dan zie ik toch van, bijvoorbeeld in kassen... dan moet je controleren of er schimmel zit op een bepaalde plant... En dan vliegt hij rond om dat te doen. Maar ja, we hebben wel ook gewoon een camera nodig. Dat moet gefilmd worden. Beelden denk ik zwaar, zwaar, zwaar, zwaar

29:37 Nou, beelden hoeven niet zwaar te zijn. Dus camera's kunnen heel klein zijn. Maar het is zeker waar dat voor een aantal van die taken moet je ook echt iets meenemen. wat de taak doet. En in zo'n kas is een camera vaak al heel fijn. Soms wil je in andere spectra zien. Dus bijvoorbeeld met infrarood of zo. Om te kijken hoe het met de plant gaat. En dan kun je dus een andere drone hebben... die dan een heel klein infrarood cameraatje heeft. Dus... Dat verdelen we dan over de zwerm van drones... die we in zo'n kas willen laten

30:10 vliegen. En in die kas, er zullen natuurlijk mensen aan het werk zijn... de planten staan misschien elke keer een beetje anders... is zo'n drone met dat geheugen en dat neurale netwerk... dan in staat om die dynamische omstandigheden... daar zich op aan te passen? Het zou jammer zijn als daar iemand in die kas staat te werken... en dan boort zich ineens die bijen drone van Guido... boort zich zo in het voorhoofd van een kassenmedewerker. En wie is dan verantwoordelijk voor die dood? Nou, jullie, want jullie hebben dit bedacht. Nee

30:43 dus ik denk dat het zeker heel erg geschikt is daarvoor. Dus ten eerste leren we eigenlijk maar een klein gebiedje. En buiten dat gebied hebben we dus helemaal geen kaart waar we van afhankelijk zijn. En wat we zien dat hij leert is de belangrijkste, grootste dingen. Dus we hebben ook heel veel experimenten gedaan in onze eigen vliegarena. Dat noemen we de Cyber Zoo in Dallas. Olifanten, tijgers. Allemaal drones.

31:11 We hebben lopende robotdieren.

31:14 Mieren heb ik ook

31:15 over gelezen

31:15 Ja,

31:15 precies

31:16 Dus

31:16 we hebben van alles. We hadden op een gegeven moment een demonstratie daar. En dan hadden we in die vliegarena, je hebt grote zwarte gordijnen. Zo'n soort toneelachtig ziet dat eruit. En je hebt een gebied waar de mensen achter hun laptops zitten. En daar zit een net voor en zo. Maar we hadden dus ook wat palen staan. Oranje palen in het vlieggebied. En ik dacht van nou ik ga eens laten zien dat hij die palen leert. Dus ik ging die palen verzetten. En van nou nu gaat het mis.

31:45 Maar het werkte eigenlijk nog steeds. En de reden is dat hij vooral die hele grote structuren van die zwarte gordijnen leerde. En waar heel veel licht was. Of juist een grote kast. En... Als je iets heel groots verandert in de kas. Dus hij gaat een gebiedje leren. Dus ik denk ten eerste dat het best robuust is. Maar als je wel iets groots verandert. Dus je gaat ineens heel dichtbij de korf. De smatige korf ga je iets groots veranderen. Een groot doek hangen. Wat ik wil dat hij gaat doen is dat hij zijn onzekerheid ook inschat.

32:16 Dus hij komt de korf uit. Hij ziet, hé, er is iets veranderd. Dit is raar. En dan moet hij eigenlijk gewoon een nieuwe leervlucht doen. En dat zie je ook bij bijen. Dus als je... Ja, die biologen weer, weet je. Die pakken dan die korf op. Hebben ze net allemaal hun leervluchten gedaan. En dan gaan ze die korf 200 meter verder zetten of zo. Of helemaal in een ander gebied. Ja,

32:37 het is

32:38 echt. Ja, biologen, jongen.

32:41 Dus, die biologen, die verzetten dus de korf. En dan denken die bijen, ja, dag.

32:47 Nou, als je dus de korf verzet, maar echt flink verzet... naar een ander gebied... dan gaan ook ervaren bijen weer zo'n leervlucht maken... Omdat zij gewoon zien van, ja, oh, maar dit is het niet. Ja, ik zou ook als ik zelf mijn voordel uitstap, zochtens een heel andere straat zou zien. Ja, dat is ook wel tijd voor een leervlucht. Ja, dat is tijd voor een leervluchtje. En dat moeten eigenlijk onze drones ook gaan doen. Dus dat is ook een van de volgende stappen waaraan we nu werken. Dat het netwerk niet alleen zegt, ga die kant uit, maar ook...

33:18 ben ik er eigenlijk wel zeker van, weet je. En als je heel onzeker bent, als je zo je nest uitgaat van... dit ziet er raar uit, gewoon opnieuw een leervloer. En zoals het er nu voor

33:26 staat, past dat in de 42 kb?

33:28 Nou ja, dus het netwerkje dat die veiligheidsregio creëert is 42 kb. Als je alles wat de drone doet in een netwerkje wil stoppen... en dat is een van de dingen waaraan we bezig zijn... dan hebben we wel iets meer nodig. Maar ik denk wel alsnog dat we het gaan halen om... het alsnog in een vrij kleine chip te gaan zetten op kleine drones. Maar dat is nog wel iets meer tijd.

33:52 Wordt er eigenlijk een beetje opge... Wij hebben het natuurlijk de hele godganse dag... gaat het alleen maar over AI en gigantische videokaarten... en Sparks met 100 giga RAM en weet ik veel wat. Wordt er een beetje geïnnoveerd ook op dat allerkleinste... Geheugen en opslag.

34:09 Er is natuurlijk wel een inzicht. Dat dingen efficiënter moeten.

34:15 Daar

34:15 ben ik heel blij mee. Aan de ene kant heb je natuurlijk. De hele grote AI modellen. Waar je enorme serverruimtes voor hebt

34:25 Daar is heel

34:26 veel vraag naar. Dus dan wordt het ook snel ontwikkeld. Nou, AI at the edge noemen ze dat dan in het Engels. Dus je wil AI ook in allerlei kleinere dingen hebben. Dus misschien... Ja, je telefoon misschien.

34:41 Of je telefoon. Of je telefoon.

34:43 En robots is natuurlijk ook daar een heel goed voorbeeld van. Dat noemen ze dan physical AI. Fysieke AI. Kijk, robots hebben gewoon een gelimiteerde hoeveelheid energie. Je wil ze wel zo intelligent mogelijk hebben. Dus... Heel veel intelligentie betekent doorgaans meer rekenkracht. Dus heb je meer gewicht, meer energie nodig.

35:05 En tegelijkertijd wil je dat zo'n robot zo lang mogelijk werkt... zonder op te hoeven laden. Of dat het heel licht kan zijn en vliegen. Dus daar is een soort spanning tussen. Maar daar wordt zeker aan

35:18 gewerkt. Maar ook door jullie? Of is dat van, je neemt wat... want efficiency is inderdaad nu... Best wel populair, want het moet efficiënter. We kunnen niet al die compute power, te veel energie kosten, te veel rekenkracht. Dus we willen efficiëntere chips, efficiëntere rekenen, efficiëntere modellen. Doen jullie dat ook?

35:37 Of je pakt gewoon van de plank wat andere onderzoekers

35:41 doen? Dus wij werken aan hoe kun je robots taken laten doen zo efficiënt mogelijk. En er is één ding trouwens wat algemeen in AI en robotica zo is, is dat de De hoofdaanpak die mensen hebben is, er is een probleem, dan gaan we dat modelleren. En het model gaan we in het hoofd van de robot stoppen. Dus bijvoorbeeld bij navigeren is het, oh, we moeten een model van de omgeving in het hoofd van de robot stoppen.

36:08 Maar bijvoorbeeld ook als je het hebt over het vinden van een gasbron. Dus stel, er is een gaslek ergens en je wilt die vinden. De meeste onderzoekers gaan dan zeggen van, oh ja, er is een lek en we hebben lucht. En dan gaan we dat simuleren. En dat hele simulatie model gaat in het brein van onze robot.

36:25 En dan weet hij hoe hij hem moet vinden. Dan zeg jij stop maar, dat is veel te groot. Precies, want een fruitvliegje die altijd op je bananen zit in de zomer in je keuken. Hoe vinden die dat? Gewoon met heel simpele gedragingen. Dus als ze dus wat een luchtstroom voelen. Dan gaan ze eerst zeg maar loodrecht erop vliegen.

36:45 En dan als ze dan iets ruiken van oh ik ruik een banaantje. dan gaan ze tegen de wind in. En als ze hem weer kwijtraken, gaan ze weer loodrecht op de wind vliegen. En door die twee simpele gedragingen af te wisselen... komen ze zo dichtbij dat ze er uiteindelijk op kunnen landen. Ze hebben helemaal geen model nodig van hoe die moleculen zich verspreiden door de lucht. Ze moeten gewoon een succesvol gedrag hebben. En dat is een van de hoofdingen die we doen in ons lab. Het is

37:11 heel

37:12 erg omdenken

37:12 continu

37:13 Ja, het is echt heel erg omdenken. Dat is een hoofding wat we doen. Het tweede is dat er zijn bedrijven die ook zeggen van die efficiëntie van het brein. Dus bijvoorbeeld ons brein. Zou rond de 20 watt doorgaans consumeren. En dat is veel minder dan al die grote LNMs gebruiken. Waar zit dat in? Het zit in heel veel dingen.

37:35 Maar een van de dingen waar dat in zit is dat... we eigenlijk proberen in ons brein zo min mogelijk activiteit te hebben. En neuronen zenden pulsjes naar elkaar... de meeste neuronen, die sturen van die pulsjes. Maar die proberen ze eigenlijk te minimaliseren. Want als je ze niet stuurt, is er nog minder energie. Maar je moet natuurlijk wel dingen doen. Nou, er zijn bedrijven zoals... Mag ik bedrijven noemen? Ja,

38:00 graag zelfs

38:01 Zoals Intel of IBM. Van die grote bedrijven. Die maken nu chips. Die nieuwe neurale netwerken maken. Die ook met van die pulsjes met elkaar communiceren. En wat wij dus doen, is zeggen van... Oh, die chips, die zijn fantastisch. We kunnen hopelijk met deze chips straks... al dat intelligente gedrag in één netwerk op zo'n chip zetten. Maar dan moeten we wel die neurale netwerken gaan trainen. En die zijn nog heel lastig te trainen. En dan moeten wij dus weer nieuwe technieken verzinnen om dat trainen te doen

38:30 We

38:31 gaan over neurale chips.

38:33 We hebben al een keer bedacht dat we een keer een technoloog over moeten maken. Maar nu zeg jij het ook.

38:40 En ik vind het wel mooi dat de constatering dus is... dat de neiging van de mensen op dit moment... en dat is waarschijnlijk omdat we gewoon nog niet goed genoeg weten hoe het anders kan... maar de neiging is dus om alles vet erg over te engineeren... en met mega veel rekenkracht gewoon op te lossen. Maar dat jij nu voor die uitdagingen komt en dat je dus eigenlijk... wat ik op het begin vroeg, het dan helemaal teruggaat naar van...

39:00 hoe denken bijen, hoe denken fruitvliegjes... en dus bij veel elegantere, efficiëntere oplossingen. komt. Ik vind het prachtig.

39:08 Maak je veel... Verzeer je dat zelf? Of stop je gewoon al jouw kennis... in een groot... large language model... en ze komen op... ja, maar fruitvliegjes doen dat. En bijen doen dat. En tijgers doen dat. Het

39:24 is echt een beleidiging voor wetenschappers.

39:27 Ik ben gewoon benieuwd. Nou ja... Ik vraag niet aan een LLM... wat ik moet gaan onderzoeken. Nee,

39:34 maar...

39:35 Ik denk wel dat ondertussen... heel veel kennis die wij gegenereerd hebben... in die LLM zit. We werken al heel lang aan drones. Ik was in het lab sinds 2000. Dat zit al in die LLM's. Maar nee, dus... Ja, ik redeneer uiteindelijk wel vanuit de problemen die er zijn. Dus als we drones willen hebben die bijvoorbeeld in kassen ziektes kunnen detecteren. Wat moet die dan allemaal kunnen? Wat zijn op dit moment de grootste obstakels? En dat was eerst dus bijvoorbeeld navigatie. Hoe kunnen we dat veel efficiënter oplossen?

40:06 Laat ik eens lezen over wat biologen eigenlijk weten van insecten. Ja, tuurlijk. En dan ga je kijken naar de bioloog die... kijkt naar iets wat al werkt. Dus die kijken naar zo'n bij. En dat bijtje werkt al. En dan hebben ze een model of een theorie erover. En dat kunnen ze met data ondersteunen. Maar als je een roboticus bent... dan ga je dat implementeren. Dus dat heb ik bijvoorbeeld ook gehad met...

40:30 ik wou een drone laten landen zoals een bij... Dat doen bijen door te kijken naar hoe snel dingen bewegen. En als je bijvoorbeeld op een bloem landt, wordt die bloem steeds groter. Voor die bij? Ja, in je zicht. Dus als ik ergens heen loop, wordt het groter. Wat de bijen leken te doen, volgens de biologen... is dat ze hielden dat groter worden constant. En als je dat doet...

40:55 Als je ver weg bent, dan moet je misschien niet sneller gaan lopen. Maar als je heel dichtbij komt, kijk maar naar de microfoon. Dat wordt heel snel heel veel groter. Dus als je dichtbij komt, moet je juist veel langzamer gaan. En dat was heel elegant. Dus het is prachtig dat biologen dat gevonden hebben. En toen wou ik dat als een boodschap. Nou, dat moeten we op onze drones ook hebben.

41:15 Dus ben ik dat gaan programmeren. En ja, het was niet zo slim van me. De eerste keer dat ik het uitprobeerde was tijdens een demonstratie. Het was eigenlijk een experiment. En toen werkte ik nog bij ESA, de ruimtevaartorganisatie. En ik zei, dit kan een alternatief zijn om te landen op Mars. Ja, bijvoorbeeld op Mars. Want daar gebruikten ze eerst hele grote lasers voor en zo. Ik zei, bijtjes doen dat met gewoon een cameraatje. En ik had dus zo'n demo. En er was een heel groot publiek. Ook met de director

41:43 general

41:43 in de zaal. Heerlijk, ga maar door. Heerlijk, ja. En die drone, ik zette hem op vijf meter. En die keek naar beneden. En ik liet ook zien wat hij dan allemaal aan het doen was in zijn brein. En die begon te landen en iedereen was onder de indruk en begon het te klappen. En het ging mooi en mooi en toen kwam hij dicht bij de grond... en toen ging hij ineens heel wild op en neer zwiepen.

42:04 En toen begon iedereen te lachen. Nou, laten we dit nog eventjes niet gaan doen op Mars. Maar ik zelf zat natuurlijk van, waarom gebeurt dat

42:11 nou? Ja, precies, waarom

42:11 gebeurde dat? Nou, dat heeft me echt heel lang geduurd om daarachter te komen. Ik dacht eerst van, ja, er is een effect, dat noemen ze het grondeffect... dat als je dicht bij de grond komt... Dan wordt de aerodynamica iets anders, omdat de lucht eigenlijk weer kaatst op de grond. Maar dat was het niet. Want ook als ik het in simulatie deed, zag ik het zonder lucht, weet je wel.

42:33 En ik dacht eerst van, ja, zijn mijn algoritmes van het zicht, weet je wel... zijn die niet goed genoeg? Maar ja, nogmaals, ook in simulatie gebeurde het ook. Dus uiteindelijk kwam ik erachter dat het echt gewoon een fundamenteel iets is... beweging gebruikt, dus dat groter worden bijvoorbeeld... dan ontsnap je er niet aan dat je op een gegeven moment gaat overreageren. En het blijkt dat menselijke piloten dat ook hebben. Als zij op zicht vliegen, dan gaat dat goed...

42:59 maar als ze heel dichtbij komen, dan hebben ze de neiging... om te snel te gaan sturen. En dat komt omdat beweging... als je het allemaal gaat uitwerken met de formules... dan is het niet snelheid, het is niet afstand... maar het is snelheid gedeeld door afstand. Je kunt je voorstellen, als die afstand steeds lager wordt... dan ga je op een gegeven moment delen door nul. Of iets dat heel dicht bij nul zit. Dus dan krijg je gigantische getallen. En het coole was, ik ging toen terug in de biologische artikels...

43:27 en ik zag... in de individuele landingen, dat ze dat soort hobbeltjes ook hadden. Die bijen als ze gingen landen. Die gingen ook een beetje hobbelen. En eerst vond ik het frustrerend, want ik denk van... we kunnen dus nooit goed landen, maar die bijen doen het ook. En toen dacht ik van, hé, dit is misschien geen bug, maar een feature. Als je merkt dat je gaat oversturen, dan weet je dat je er bijna bent. Dus ik kon toen ook wiskundig aantonen dat... als je gaat schommelen, dat is altijd op dezelfde afstand... En dat was eigenlijk ook een soort oplossing van hoe bijen... Want wat ze bij bijen zagen was, dan gingen ze landen... en dan gingen ze altijd op 7 centimeter stilhangen. Terwijl uit die optische

44:08 observaties kun je helemaal geen afstand weten. Maar nu konden we dus aantonen hoe dat dan werkte. En zeg alsjeblieft dat jouw drones nu zo landen. Ja, dus mijn drones landen zo, weten dat ze er zijn... en kunnen dan de motoren uitzetten. En je kunt ook, en dat is ook heel cool... Als je dus meerdere keren landt op een bepaald soort bloem... een nieuwe bloem die je nog nooit gezien hebt... kun je ook leren hoe groot die bloem is eigenlijk. En dan kun je steeds vloeiender gaan landen.

44:34 En dus een soort leerproces waarbij je begint eerst met beweging... en je kunt op elke bloem landen, maakt niet uit hoe die eruit ziet... want dat groter worden geldt voor elke bloem. Maar als je nou honderd keer op dezelfde bloem landt... waarom zou je er niet van leren hoe die bloem eruit ziet... zodat je de volgende keer vloeiender kunt landen. En dat kan onze drone dus nu ook...

44:53 Er is nog steeds de hypothese over bijen... waarvan ik hoop dat een bioloog het op gaat pikken... van kunnen we dit aantonen dat ze ook steeds vloeiender gaan landen... omdat ze de bloem leren. Misschien luisteren er wel veel biologen. Zeker, luisteren biologen.

45:06 Ben je al genomineerd voor de Nobelprijs als ik dit allemaal hoor?

45:09 Nog niet,

45:10 maar... Dat is ook schandalig

45:11 Weet je, als jullie een mailtje kunnen zien... Ik

45:13 vind het echt

45:14 schandalig dat het

45:15 niet zo is. Precies, maar... Ja, ga maar, Ben. We

45:19 hebben het nu over kassen. We moeten even, want we vinden mensen altijd belangrijk. Ik vind dat totaal niet belangrijk, want het is gewoon gaaf onderzoeken. En wat we er uiteindelijk mee doen. Al doe je er helemaal niks mee in je leven. Maar heel veel mensen vinden het belangrijk, want er gaat allemaal geld naartoe. En dan vinden ze dat het dan... dus nut moet hebben... naast kassen, bijvoorbeeld schimmels ontdekken... of bestuiven, weet ik wat ze allemaal doen in kassen... zijn er nog meer toepassingen?

45:44 Ja, ik denk dat er heel veel toepassingen zijn... omdat je heel vaak hebt dat een robot iets moet doen... maar ook weer terug moet komen om bijvoorbeeld op te laden. Ja,

45:52 natuurlijk

45:53 Dus bijvoorbeeld, ik noem maar iets... een plein waar je wil dat lopende robotjes afval opruimen of zo... dan lopen die robotjes rond, ze pakken afval... en dan moeten ze ook weer terug kunnen komen om weer op te laden... Met dank aan deze techniek kun je dat doen met heel weinig.

46:08 Ja, energiezuiniger

46:10 vooral. Al die drones, robotjes, anders moeten ze hele kaarten hebben. Dat hoeft niet meer. Nee, precies. Het is eigenlijk best robuust, omdat je niet een kaart maakt. En het is heel efficiënt. Maar je kunt ook denken aan magazijnen. Dus als ik weer even naar vliegende robots terug ga. In magazijnen is vaak de uitdaging van... wat ligt er aan producten nog op welk schap? En ook heel hoog. Vroeger moest dan zo'n heel warenhuis dicht. En dan konden ze met de hoogwerker even overal checken. Nu, in de toekomst, kun je gewoon hele lichte drones hebben... die eigenlijk continu rondvliegen. Checken wat er allemaal op de verschillende schappen ligt. En dan weer terugkomen, opladen. En dan heb je eigenlijk real-time informatie

46:48 over wat je in je magazijn hebt. Maar ik denk ook aan windmolenparken, dus... inspectie van windmolens... Die zijn best wel groot. Die zijn heel groot. Dan moet je er met een boot naartoe. En vroeger moesten dan mensen er ook nog eens in gaan zitten klimmen. Nu gebeurt dat al vaak met roos. Maar ik hoorde ook van zo'n bedrijf dat daaraan werkt. Vroeger deed je één windmolen per dag.

47:13 Met een drone doe je er nu misschien vijf. Maar het duurste is dan altijd die boot op en neer. Wat als je bij zo'n windmolenpark ook een korf met drones hebt... die er af en toe uitvliegen, die inspecties doen... terugkomen en weer landen daar. Dus ik denk echt dat er heel veel mogelijkheden zijn... waar dit nuttig kan zijn.

47:34 En we moeten wel nog stappen maken... dat we nog preciezer weten van waar het werkt. te laten werken. Dus er is echt nog wel een traject natuurlijk om te gaan. En waar werkt het nu goed? Nou, het werkt in de binnenruimtes waar we het geprobeerd hebben heel erg goed. En ja, tot nu toe 100%, maar goed, 100% is altijd een beetje... Ja, dat maakt ook niet uit of het 99% is. Nou ja, kijk... Nou, Ben. We hebben ook wel in een kassa al getest... Maar dat was echt heel uitdagend, omdat het een vrij open kas was.

48:11 Maar het was ook een kas waar we deden de leervlucht. En na de leervlucht ging er

48:17 schermen.

48:18 Waardoor het echt heel donker werd. En dan paars licht ging eraan. Dus er zijn dan uitdagingen. Ook buiten is het nog uitdagend. Dus dan werkt het voor 80 procent. Dat moet echt omhoog. Dus waarom werkt het buiten niet zo goed? Omdat er heel veel wind stond, de zon verandert veel... En dus moeten we naar een ander camera systeem toe. Maar daar zijn we allemaal aan het werken.

48:39 En ook als je dit naar een product uiteindelijk moet brengen, zijn er echt nog wel ontwikkelingsslagen. Maar het concept op zich kan denk ik op heel veel plekken gewoon heel goed

48:47 werken. Hoe is het sowieso qua synergie binnen de TU Delft? Want ik kan me nog herinneren, vorig jaar in de technoloog hebben wij Christophe de Waal. Wachter gesproken. Die ken je ongetwijfeld ook. Dat is mijn directe kleukollega. Kijk, precies. Dat ging over drone racen. Heb jij daar toen ook aan meegewerkt? Het was het wereldkampioenschap. Het heette anders, maar het was in Dubai uit mijn hoofd. In een golfstaat.

49:12 Abu Dhabi. Ik doe dat samen met Christophe. We hebben heel veel dingen samen gedaan. Drone racen doen we sinds 2016. Inderdaad. De reden om te beginnen aan drone racen was voor mij ook... je zag toen dat drones autonoom werden... maken van kaarten en heel veel rekenkracht... en dan zag je ze vliegen een paar centimeter per seconde of zo. Ik dacht, als je naar de natuur kijkt, die lachen ons uit.

49:41 En drone racen is juist iets waarbij je snel moet zijn... snel moet reageren, je hebt weinig rekenkracht... maar je moet wel split-second decisions, besluiten nemen. En daarom zijn we erin gestapt om te laten zien... hoe biologisch geïnspireerde methodes, zoals die neurale netwerken... daar eigenlijk heel goed kunnen functioneren. En samen met Christophe hebben we allerlei successen... en ook failures gehad over de jaren. Maar de laatste jaren gaat het heel erg goed. En we hebben nu dit jaar in januari...

50:22 hebben we zelfs een oplossing gepresenteerd die volledig noraal is. Dus plaatjes gaan in een noraal netwerk en commando's naar de motoren eruit. En dan kan dat noraal netwerk sneller vliegen dan menselijke piloten. Maar goed, we werken dus heel veel samen. Ja,

50:39 precies. Wat ik dus ook geleerd heb van je antwoord... je hebt er min of meer antwoord op gegeven... is dat dat racen... dat helpt dus ook deze use case. Omdat je dus dat hele snelle reageren nodig hebt. Dat is dus eigenlijk hetzelfde idee. Hoe snel gaan de bijtjes?

50:58 Eh... Dat weet ik niet precies. Kijk, en je hebt natuurlijk absolute snelheid van hoeveel kilometer per uur... maar je hebt ook hoeveel lichaamslengtes per seconde. Dus ze vliegen echt wel snel voor hun lichaam.

51:11 Nee, maar

51:12 ik bedoelde jou bij drones eigenlijk. Nou ja, kijk, bij het racen vliegen we over de 100 kilometer per uur. Ja, maar die zijn een stuk groter, toch? Nou ja, kijk

51:22 Iets kleiner dan ongeveer 10 centimeter, dacht ik toch? Ach.

51:25 Nou ja, oké. Dus waar we mee drone racen is een gewone drone van laten we zeggen ongeveer 30 centimeter diameter of zo. We hebben de studie voor het bijennavigatie ook met zo'n drone gedaan. En de reden daarvoor was dat we buiten echt 600 meter wilden vliegen. Ja, dan heb je gewoon een iets grotere drone nodig. Het principe past in een heel kleine chip. Dus we zijn eigenlijk nu de stap aan het maken naar kleine droontjes van 10 centimeter met een mini chipje. Het is voor mij eigenlijk geen vraag of dat gaat lukken. Dat gaat lukken, maar die stap zijn we nu aan het maken om dat dan ook echt aan te tonen. Tijdens het navigeren vliegen we wel iets langzamer. Het coole is wel dat stappen tellen... dat voorbij trekken van het landschap, dat kan

52:15 heel snel. We vliegen 600 meter. Als we dan terugkomen kunnen we heel snel terugvliegen met die odometrie. Maar als we dan denken van we zijn er... en dan gaan we kijken en bewegen, dan gaan we langzamer. En je ziet dat in de bijendata dus ook terug... Want we hebben met biologen samengewerkt daar. En die hadden echte bijendata.

52:33 En dan zag je ook dat ze in het eerste gedeelte veel sneller vliegen. En als ze dan dichtbij komen, dan beginnen ze te kijken. En er is nog iets heel moois aan dat leren met de domotrie trouwens. Als je leert met dat stappentellen, dat stappentellen is inaccuraat. Dus je zou ook kunnen zeggen, waarom doe je dat? Je zegt dan tegen je netwerk, het nest is daar. Maar eigenlijk is het nest daar. En dat is geen probleem.

53:01 Zolang het binnen de 90 graden weg is van het nest, kom je thuis. Maar je gaat niet recht naar je nest toe. Je gaat dan een beetje zo ernaartoe cirkelen. Een beetje wat kronkeltjes. En dat is ook precies wat we op de bijendata ook onderzocht hebben. En wat we ook zagen, dat tijdens het eerste gedeelte kom je heel snel terug. En je vliegt ook heel erg recht terug.

53:22 Maar zodra je dan in dat gebied komt, zodra die bijen in dat gebied komen, zie je ze ook veel meer kronkelpaadjes en langzamer vliegen

53:31 Wat doet de natuur slim en mooi? Daar kunnen we heel veel van leren. Wat doet de natuur echt dom? Wat heb je ontdekt dat je dacht van... Tjongejonge zeg. Mens, dat doen wij echt wel veel beter

53:45 Nou ja, kijk... Je hebt ook wel eens dat je zo'n vlieg tegen je raam ziet botsen. Wat dom dat je tegen mijn raam vliegt. Wat doe je? Wat ben je hier mee bezig? En dat je ook zo'n raam openzit. Ja, daar is het raam.

53:58 Ja, dat hij er niet uit

54:00 gaat. Dan gaat hij zomaar

54:01 naast of zo. Ja, dat is waar.

54:02 Dat

54:03 doet een

54:03 vlieg. Maar het is natuurlijk een soort afweging. Je betaalt altijd iets. Ik vind het echt prachtige, superintelligente wezens. Maar, weet je... Als je dus zo'n klein breintje hebt, je gaat bepaalde aannames doen. Kijk, en bijvoorbeeld ramen bestaan nog niet zo lang, evolutionair gezien. Ze moeten evolueren dat ze ook ramen herkennen natuurlijk. Nou, ik weet niet of dat gaat evolueren, want misschien is het dat het niet waard.

54:29 Weet je wel, dus die ene bij die bij jou binnenvliegt en niet meer naar buiten kan. Misschien is dat prima voor evolutie. Ja, het is jammer, maar je had ook opgegeten kunnen worden door een vogel. Dus misschien gaat dat ook niet evolueren. En we hebben dat eigenlijk bij ons onderzoek ook. Dus als ik heb over die kaarten. Ja, die zijn heel duur. Het brengt wel iets. Want je kunt een optimaal pad gaan plannen. Dat kan onze bij niet.

54:51 Onze drone kan dat niet. Dus we betalen wel iets. We kunnen alleen terug nu op dit moment. En waar we naar gaan kijken nu is van. Die bijen hebben meerdere bloemenvelden. Waar de biologen heel erg veel discussies over hebben. Want dat is nog geen uitgemaakte zaak. is als zo'n bijtje ziet zo'n dansje... Gaat naar een bloemenveld. Stel het bloemenveld, er is geen nectar meer. Er zijn al helemaal bezochte andere bijtjes. Kan hij dan in één keer naar een ander bloemenveld? Dat is eigenlijk een grote

55:19 vraag.

55:19 Want

55:19 hij moet eerst terug

55:21 dansen. Hij moet eerst terug dansen, daar moet hij naartoe. Nou ja, dat is de vraag. Moeten ze eerst terug? Of kunnen ze dan ineens zeggen van deze is leeg? Dat weten ze nog niet. Dat weten ze nog niet goed. En dat is een hele grote vraag. Want als ze wel naar een ander bloemenveld kunnen... dan volgens de definitie van de bioloog... hebben ze dan toch een soort heel ruwe kaart... En dat is ook een van de stappen waar wij naar gaan kijken. Nu moet onze robot altijd eerst terug. Maar kan ons netwerk ook misschien meerdere plekken?

55:50 Dat zijn ook dingen waar wij over na gaan denken. En dan brengen we eigenlijk een kaart, en dat is wel cool aan robotica... van oké, we kunnen dit in de robot. Dat weet ik zeker. We kunnen het in de robot voor elkaar krijgen. Maar de vraag is, wat kost het? En dat kunnen wij heel duidelijk in kaart brengen...

56:06 en daarmee de biologen helpen. Is dat het eigenlijk waard? Dus jullie gaan uiteindelijk... nu helpen de biologen vooral jou... Ja, ze helpen ons. Ik moet zeggen, met deze studie dragen we allerlei nieuwe ideeën aan. Dus bijvoorbeeld dat je met odometrie leert. En dat dat niet perfect is. En dat je daardoor niet recht naar je nest toe vliegt. Is iets wat biologen kunnen gaan testen. Dus ook daar, als biologen luisteren. Ik heb ook wel een paar ideeën over hoe je dat zou kunnen testen. Natuurlijk gaan we de baai dan weer een beetje pesten. Dat is misschien in de naam van de wetenschap toegestaan. Maar dat zou je kunnen testen op bepaalde manieren. En ja, dus daar geven we eigenlijk al ideeën. Maar ook hier hopen we dat

56:46 dit biologen ook helpt om zaken heel scherp te krijgen.

56:50 Ja.

56:51 We hebben nog

56:52 3,5 minuten, Ben. Ik heb nog wel een aantal kleutervragen. Doe maar even kleutervragen. Ik wilde nog

56:58 vragen over de positie ten opzichte van de aarde. Hoe we dat doen. Dat is allemaal van die detail en techniek die we hebben overgeslagen. Dus doe maar de kleutervragen.

57:08 Ja, kijk, ik moest direct denken aan die Black Mirror aflevering. Ja, ik ook. In je oor met al die insecten. Ja, dat allebei zijn uitgestort. Allebei zijn verhekt. Weet je welke aflevering ik bedoel? Ja, ik weet het heel goed. Dat hoor je natuurlijk iedere week. Gaan we daarheen. Kan dit. Gaan we neer bij je hekken. Kijk we hebben nu.

57:30 Dat hebben we toen met Christophe natuurlijk ook weer voor zijn voeten geworpen. Vorig jaar. Maar we zijn natuurlijk in Oekraïne. Dat gaat helemaal los met die drones daar. Nog steeds. En het wordt steeds bijzonderder. Ja. Als ze daar met zulke kleine bijtjes in elkaars oor kunnen vliegen. Dan wordt het een top idee.

57:48 Oké, ja, dat zijn op zich veel vragen. Ja, reageer maar eens. Ja, reageer maar eens. Tweeënhalve minuut. Kijk, ten eerste, het is gewoon een heel belangrijke technologie. En ik denk economisch. Ik heb zelf allerlei toepassingen in gedachten waar we ook aan werken. Waarbij ik denk dat je heel positieve impact op de maatschappij kunt hebben. Ik denk ook wel, ja, Oekraïne maakt wel duidelijk... dat dit ook voor militaire toepassing heel erg belangrijk is. En dat we op deze technologie kunnen maar beter vooraan lopen, zou ik zeggen. Want dat is natuurlijk ook een toepassing van de technologie. Precies dit wat we hebben ontwikkeld trouwens... Vraag ik me af, want je

58:26 komt

58:26 terug. Maar wel misschien om rond een basis bijvoorbeeld te checken. Wat gebeurt er rond een basis en dan weer terug te komen. Op verkenning is het misschien wel heel interessant. Op verkennen en terugkomen, maar hij komt wel terug. Er zou misschien ook gevolgd kunnen worden terug. Dat wil je dan misschien wel niet. Ik weet niet of het direct daartoe pasbaar is. Maar op zich is drone technologie natuurlijk... Ja, ook militair toepasbaar. En we moeten daar gewoon als Nederland en Europa ook in voorop lopen. En jammer genoeg ook op deze toepassing. Maar

58:59 dan ben ik wel, dan is het een iets minder kleuterachtige vraag. Want ik ben blij dat ik hem toch heb gesteld. Leeft dat op de TU dat jullie deze technologieën aan het ontwikkelen zijn? Het is overduidelijk dat dit natuurlijk onwijs gave... waar we de afgelopen 58 minuten over hebben gehad. En belangrijke toepassingen, allerlei dingen die we... kunnen gaan gebruiken. Maar leeft toch die dual use? Leeft dat ook bij jullie? Is dat meer een ding geworden de afgelopen jaren?

59:21 Nou ja, heel erg natuurlijk. Daar zijn we heel erg mee bezig. Ja, het is ethisch natuurlijk best wel ingewikkeld ook. Want eigenlijk het meeste wat je aan technologie ontwikkelt... voor bijvoorbeeld drones, is natuurlijk dual use. Dus ik denk wel dat wat je ziet is dat er steeds meer besef is... ook in de maatschappij, van ja, we hebben dit wel nodig...

59:44 om onze democratie ook te beschermen. Dus ja, in die zin denk ik dat ook die toepassing, weet je wel... ja, nogmaals, daar moeten we toch ook in vooraan lopen. Als je het hebt over die Black Mirror aflevering... het stemt me aan de ene kant een beetje triest, zeg maar. Want we maken juist kleine drones omdat ze dan veilig zijn.

1:00:07 Maar natuurlijk, ook dan kun je dat concept pakken... en je kunt er altijd wel weer iets gevaarlijks van maken. Ik denk niet dat het de meest... als je drones voor dat doel wil gebruiken... de meest voor de hand liggende manier is... Ik denk ook wat betreft bestuiving. Ja, ik heb altijd gezegd van laten we in godsnaam gewoon de bijen redden. En dat heeft

1:00:28 natuurlijk

1:00:29 heel veel met het milieu te maken. En impact van technologieën rond ook landbouw, maar ook andere zaken. Laten we in godsnaam ons best doen om de dieren te redden. Die zijn echt niet zomaar te verplaatsen. En dat zou ik ook niet willen. Ik denk wel dat op termijn in kassen... bijvoorbeeld nu bestellen ze dan dozen met hommels...

1:00:50 op termijn zou je in kassen dat ook wellicht met drones kunnen doen.

1:00:54 Ja

1:00:54 want hoe

1:00:54 diervriendelijk is dat om

1:00:56 een doos met hommels te bestellen?

1:00:58 Ja, dus ik denk wel dat daar is het misschien diervriendelijker... om het uiteindelijk met drones te doen. Ik denk dat we daar uiteindelijk wel komen. Maar ja, überhaupt weet je wel, daar hebben we het niet eens over gehad... maar het lichaam, zeg maar, een diertje eet wat... en kan dan weer een eind vliegen... Ja, met batterijtjes en zo. Er zijn wel groepen aan de wereld die echt op die insectgrootte werken.

1:01:19 Maar die hebben nog steeds draadjes nodig... naar een heel grote batterij die daarnaast staat. Dus ook het energiesysteem van hoe dieren eten...

1:01:28 Oh, daar hebben we het niet over gehad. Nee

1:01:29 shit

1:01:30 En ook de... Energiesysteem. Guido zegt nu, we lopen hier op voorop. Hoe is het wereldwijd? Even de wereldkaart. We zijn al hartstikke over tijd, maar het maakt me niet uit.

1:01:40 Nou ja, ik denk dat we op zich op allerlei technologieën mee voorop lopen. Bij de drone race zijn we bijvoorbeeld wereldkampioen. Ik hoop dat we het ooit met menselijk voetbal zullen worden. Wat vind

1:01:52 je nou belangrijker, met

1:01:54 drones of met menselijk voetbal? Drones toch? Ja, weet ik niet. Drones is waarschijnlijk belangrijker. Voor jou wel, je moet die Nobelprijs winnen. Oh ja, inderdaad. Dus ja, we lopen daar mee voorop. Maar er zijn natuurlijk heel veel landen, heel veel groepen over de wereld... die heel erg goed zijn in dit gebied. Ja, ik denk wel van... het is wel goed als we dat blijven stimuleren, ook in Nederland.

1:02:18 Daar kunnen we heel

1:02:19 veel

1:02:20 gesprekken over hebben.

1:02:21 Daar word

1:02:21 ik natuurlijk van.

1:02:22 Heb je trouwens nog wensen? Heb je iets nodig zodat je meer kan ontwikkelen? Of is het zo oké, je moet gewoon meters maken?

1:02:30 Ja, dus dan hebben we het toch over dat onderwerp. Dingen testen is in Nederland nog best wel moeilijk. Omdat mensen het niet willen? Mensen niet, maar veiligheid is extreem belangrijk. Ook voor ons. Maar het is best wel moeilijk om buiten testen te doen. In de toekomst willen we misschien drones... die ook pakketjes bezorgen in een stad of zo. Maar het regelen van een test als universiteit om dat te kunnen doen... Het is heel erg ingewikkeld, het is heel veel papierwerk. Oké,

1:03:03 dus

1:03:03 dat moet

1:03:05 weg.

1:03:05 Ja,

1:03:05 dus voor het straks

1:03:06 vliegen, we hadden het over sterren. Het is ook iets waar we met de overheid echt in contact staan hierover. En op zich steunen ze dit natuurlijk. Maar tegelijkertijd is het ook wel heel moeilijk om een test te doen. Dat je s'nachts mag vliegen of over

1:03:19 een frontaatgebied. Ja, maar dit gaat voor alles

1:03:21 Dit is toch het allerbelangrijkste? Het is heel belangrijk, dus ik vind dat we daar echt

1:03:26 iets

1:03:26 meer ruimte aan moeten bieden Wel altijd veilig, dus veiligheid nogmaals staat altijd voorop. Maar ja, je moet echt wel meer mogelijkheden daarvoor krijgen.

1:03:37 Mooi. Nou, we hebben een toekomstige Nobelprijswinnaar hier. Ik ook. Echt

1:03:43 fantastisch, Guido.

1:03:44 Guido, wil je ons beroven dat je ons op

1:03:46 de

1:03:46 hoogte houdt hiervan? Ja, is echt heel goed. Alle ontwikkelingen, dit vinden we fantastisch.

1:03:49 Jullie maken me wel heel verlegen allemaal met jullie. Nee, was heel leuk om hierover te spreken. Ja, bedankt. Ja, dankjewel.

1:03:56 Daniel, jij ook bedankt trouwens. Ja, dit was Guido de Kroon. Full professor, wat was het? Micro Eric, moet je LinkedIn er gelijk weer bij houden. AI for Drones is misschien. AI for Drones? Kijk, hoppa. Aan de TU Delft. Ben van den Burg. Ja. 2e op het WK Allround in 1991 of zo. 90. 90, prima. Tot volgende week.