Van drones tot magazijnbots, veiligheidsprogrammering is cruciaal – MIT kan een oplossing hebben

De behoefte om grote vloten van autonome voertuigen en drones te beheren blijft groeien.  Helaas vereisen de huidige systemen veel inspanning en rekenkracht. Bovendien kunnen deze veiligheidsprogrammeringssystemen niet ter plekke aanpassen.

Drone Shows

Van de Olympische Spelen tot nieuwe productlanceringen, drone‑shows komen vaker voor dan ooit. Deze evenementen kunnen honderden drones inzetten die in unison werken om beelden, animaties en nog veel meer te creëren. Deze grootschalige lichtshows zijn adembenemend. Nog indrukwekkender dan deze acties is al het werk dat nodig is om deze shows mogelijk te maken.

Huidige Veiligheidsprogrammeringsmethoden

De huidige manier waarop ingenieurs grote drone‑zwermen of andere multi‑autonome robotsystemen besturen, is via Multi‑agent‑systemen (MAS). Deze protocollen combineren trajecten met waypoints en tijdsbeperkingen. Samen stellen deze factoren elke drone in staat te weten waar hij zich bevindt langs zijn vooraf geplande vluchtpad.

Deze aanpak werkt wanneer de omstandigheden goed zijn en de drones op tijd op de juiste plek zijn. Echter, er kunnen ernstige nadelen optreden wanneer apparaten van koers raken. Om botsingen te voorkomen, gebruiken ingenieurs een techniek die pair‑wise path‑planning wordt genoemd.

Gebreken van Veiligheidsprogrammering

Dit algoritme laat elke drone weten waar hij zou moeten zijn ten opzichte van andere drones als alles perfect verloopt. Echter, bij miscommunicaties kunnen ernstige problemen ontstaan. Omdat elke drone in de MAS‑opstelling na lancering blind vliegt, gaat hij uit van het vooraf geplande traject, zelfs als externe factoren het oorspronkelijke plan onjuist maken. Deze situatie kan leiden tot zeer vreemde acties, zoals drones die onverwacht landen, uit de lucht op toeschouwers vallen, nergens heen vliegen of onresponsief worden.

Recente Drone‑Show‑Ongevallen

De plotselinge toename van drone‑shows en autonome robotica heeft geleid tot gevaarlijke situaties. Drones vormen veel bedreigingen, zelfs wanneer ze ongewapend zijn. Deze apparaten kunnen de verbinding verliezen en van honderden meters hoogte neerkomen, waardoor zowel het apparaat als voetgangers beschadigd raken. Bovendien kunnen botsingen met andere luchtvaartuigen catastrofale verliezen en dodelijke slachtoffers veroorzaken. Twee recente voorbeelden benadrukken deze zorgen:

Florida

De bewoners van Orlando die op 21 december 2024 buiten verzamelden om de drone‑show te bekijken, hadden geen idee dat het evenement gevaarlijk zou worden. Tijdens het evenement, dat honderden drones omvatte, leidde een verbindingsfout tot het neerkomen van meerdere drones op de grond, waarbij toeschouwers werden geraakt.

Helaas viel een van de drones op een 7‑jarig kind, wat ernstige verwondingen veroorzaakte die een spoedoperatie vereisten. Toen men de betrokken partij vroeg naar het incident, betuigde het bedrijf achter het evenement, Sky Elements Drone, spijt en beloofde het de oorzaak te onderzoeken om toekomstige incidenten te voorkomen.

New York

Een andere incident dat vorig jaar plaatsvond, betrof drones op Staten Island, New York. In dit incident had een drone‑operator 2,5 mijl gevlogen. Omdat hij buiten het duidelijke zichtlijn was, kon hij een UH‑60 Black Hawk‑helikopter niet opmerken en botste met het toestel.

Gelukkig kon de helikopter terug naar de basis kronkelen. Bij nader onderzoek realiseerde de bemanning zich echter dat ze buitengewoon geluk hadden gehad, aangezien delen van de drone in de hoofdrotoras werden aangetroffen. Na een langdurig onderzoek bracht de National Transportation Safety Board een ongevalsrapport uit waarin de fout van de UAV‑operator werd bevestigd.

Multi‑Agent  Veiligheidsprogrammeringsstudie

Met het besef van de noodzaak voor een wendbaarder en responsiever veiligheidssysteem bij het omgaan met vloten van autonome eenheden, introduceerden MIT‑ingenieurs een nieuwe trainingsmethode in een recent artikel gepubliceerd in IEEE Transactions on Robotics¹. Hun onderzoek beschrijft een nieuwe trainingsmethode die de veiligheidsbescherming verbetert en de werklast rondom het implementeren van deze protocollen vermindert.

Graph Control Barrier Function GCBF+

Het Graph Control Barrier Function +‑protocol bouwt voort op eerdere barrier‑function‑algoritmen en voegt eigen systemen toe om het handhaven van veiligheid over enorme vloten voertuigen te stroomlijnen. Indrukwekkend genoeg stelt GCBF+ drones in staat complexe omgevingen te navigeren zoals mensen dat doen.

Sensing Radius

Het systeem begint met het creëren van een kleinere detectieradius die zich voornamelijk richt op botsingsrisico’s in plaats van op het volledige vluchtplan. Dit vermindert de beheersbehoeften van de drone en stelt hem in staat actief obstakels in de omgeving te volgen en te vermijden.

Situational Awareness

De bijgewerkte GCBF+ stelt drones in staat precies te weten waar ze zich in realtime bevinden en hun positie ten opzichte van andere UAV’s in de omgeving. Het realtime volgen van alle drones maakt meerdere gecoördineerde, collaboratieve en computer‑geprogrammeerde agenten mogelijk om samen taken uit te voeren.

Graph Neural Networks (GNNs)

Het team ontwikkelde een aangepast computermodel dat geavanceerde Graph Neural Networks benut, waardoor ze enkele belangrijke voordelen konden benutten, zoals het parametriseren van een GCBF en het distribueren van controle‑policies. Specifiek simuleert het systeem agenten en controllers.

Bron – MIT

De ingenieurs gebruiken de exacte specificaties van drones uit de echte wereld. Ze namen hun mechanische mogelijkheden, limieten, prestaties, batterijduur en andere cruciale factoren op. De simulatie nam vervolgens deze informatie en gebruikte die om grootschalige tests te creëren die de ingenieurs monitoren.

Opmerkelijk is dat de keuze voor een graph neural network (GNN) logisch is, omdat het het volgen van de veranderende grafische topologie van afstandsgebaseerde observatie‑informatie‑stroom mogelijk maakt. Deze input werd vervolgens in combinatie met andere data gebruikt om het AI‑systeem te programmeren zodat prestaties en veiligheid in balans worden gebracht.

Add More Agents and Tasks

De ingenieurs begonnen vervolgens de simulatie op te schalen om meer eenheden en complexere taken op te nemen. Ze merkten op dat de realtime veiligheidssystemen automatisch werden aangepast nadat ze naar nieuwe drones waren gekopieerd en geplakt. Elke interactie werd genoteerd naarmate er meer drones aan de simulatie werden toegevoegd.

Track Collision Over Thousands of Simulations

Naarmate het aantal en de dichtheid van agenten en obstakels toenamen, werd het systeem verfijnd om geen botsingen te zien als beloning. De GNN begon vervolgens autonoom de controller‑input aan te passen om ervoor te zorgen dat veiligheids­schendingen werden verminderd.

De ingenieurs merkten op hoe de GNN de drones in staat stelde hun trajecten in realtime aan te passen om botsingen met andere bots te vermijden. Deze test hielp te verzekeren dat hun controller reactief was, wat betekent dat hij voortdurend een vluchtpad voor de drones opnieuw creëerde op basis van realtime omgevingscondities.

De MIT‑ingenieurs introduceerden ook veiligheidsgrenzen als onderdeel van deze aanpak. Dit zijn gebieden waar apparaten waarschijnlijk in veiligheids­schendingen zullen lopen. Door apparaten te instrueren deze gebieden te vermijden, verminderde het team drastisch veel van de botsingen en fouten die de huidige systemen teisteren.

Training Method for Multi-Agent Systems

Indrukwekkend is dat de controller werd gekopieerd en geplakt naar andere eenheden zodra de simulatie eventuele veiligheidszorgen had opgelost. Omdat het protocol willekeurige graf‑topologieën kan verwerken, is verticale schaalvergroting eenvoudiger. Bovendien kan het rekening houden met veranderende aantallen deelnemers, wat betekent dat programmeren op een paar drones kan worden gedaan en vervolgens met de zwerm kan worden gedeeld.

MAS Safety Programming Test

De ingenieurs gingen aan de slag om hun gedistribueerde raamwerk voor veilige multi‑agent‑controle in grootschalige omgevingen met obstakels te testen via het gebruik van Crazyflies‑drones. Deze hand‑grote quadrotor‑drones werden geüpgraded met behulp van de GNN. In totaal werden 8 Crazyflies gebruikt in de testfase.

De agenten gebruikten de 8 drones uit de echte wereld om activiteiten te volgen en te monitoren. Vervolgens werd de data gedeeld in een simulatie met 1000 drones. dezelfde opschalingsmethode werd toegepast op obstakels. Het team begon met 8 obstakels in een test in de echte wereld. De simulatie verhoogde het aantal tot 128 bewegende en niet‑bewegende obstakels voor de uiteindelijke tests.

MAS Safety Programming Test Different Objectives

De drones kregen verschillende doelstellingen om te zien hoe ze het zouden doen in drukke omgevingen. Eén taak was om van positie te wisselen tijdens de vlucht. Deze taak lijkt simpel, maar wanneer je met 1000 drones werkt, is het risico op botsingen hoog.

Landing

De volgende doelstelling was om drones te laten landen op bewegende dozen. De bewegende dozen waren robots genaamd Turtlebots. De Turtlebots werden ingesteld om in verschillende snelheden te cirkelen. De drones moesten om elkaar heen navigeren en veilig op de turtlebot landen om hun taak te voltooien.

MAS Safety Programming Test Results

De resultaten van de veiligheidsprogrammeringsstudie zijn verbluffend. Ten eerste presteerden de apparaten beter dan hun voorganger in zowel 2D‑ als 3D‑omgevingen. Het gebruik van LiDAR‑gebaseerde point‑cloud‑observaties om obstakels te verwerken bleek een geweldige toevoeging. Het stelde de drones in staat realtime aanpassingen te maken en binnen hun aangewezen veiligheidszones te blijven.

De Crazyflies vlogen rond, voltooiden hun taken tijdens de vlucht en landden succesvol zonder botsingen. De ingenieurs concludeerden dat hun systeem een reductie van 40 % in botsingen kon opleveren. Het verbeterde ook de drone‑prestaties, waardoor ze taken konden uitvoeren die honderden drones omvatten zonder incidenten.

MAS Safety Programming Study Benefits

Er zijn verschillende voordelen die deze studie naar de markt brengt. Ten eerste stelt het ingenieurs in staat automatisch een balans te vinden tussen het voldoen aan veiligheidsvereisten en prestatiecriteria. Het gebruik van control‑barrier‑function‑theorie voor veiligheidsgaranties vermindert gevaren voor iedereen in de nabijheid van deze voertuigen drastisch. Daarnaast zorgt het gebruik van LiDAR‑systemen voor realtime feedback en aanpassingen van het vluchtpad.

Destination Only

Een van de grootste voordelen van deze technologie is dat ingenieurs geen vluchtpad hoeven te plannen, in tegenstelling tot traditionele methoden die veel tijd en rekenkracht vereisen om te creëren. Het team gaf de drone alleen instructies en een bestemming. Het apparaat berekende geen enkel botsingsvrij traject. In plaats daarvan berekende het duizenden trajecten op basis van zijn sensorinput in realtime, waardoor alle veranderingen worden gevolgd en aanpassingen worden gemaakt.

Scalable

De ingenieurs brachten een grote upgrade aan het huidige systeem met hun nieuwste copy‑and‑paste‑controller. Dit protocol maakt gebruik van een grafstructuur die ideaal is voor schaalbare en generaliseerbare gedistribueerde controle van MAS.

Deze aanpak betekent dat toekomstige drone‑piloten slechts een klein aantal eenheden hoeven te programmeren. De veiligheidsparameters kunnen vervolgens opgeschaald worden naar een onbeperkt aantal drones, waardoor geld, tijd en inspanning bespaard worden, zonder in te boeten aan prestaties.

MAS Safety Programming Applications

De lijst van toepassingen voor deze technologie blijft groeien. Het vermogen om het controller‑protocol eenvoudig te creëren, distribueren en opschalen is een enorme upgrade voor drone‑anti‑botsingsystemen. Het maakt snelle configuratie van grootschalige toepassingen voor nieuwe omgevingen mogelijk. Deze capaciteit maakt de technologie geschikt voor gebruik in magazijnen, zoek‑en‑reddingsoperaties, zelfrijdende auto’s en militaire taken.

MAS Safety Programming Researchers

De onderzoekers achter deze taak omvatten MI‑associate professor of Aeronautics and Astronautics, Chuchu Fan. Daarnaast hebben Songyuan Zhang, Oswin en Kunal Garg bijgedragen aan het onderzoek. Opmerkelijk is dat de studie financiële steun kreeg van de U.S. National Science Foundation, MIT Lincoln Laboratory onder het Safety in Aerobatic Flight Regimes (SAFR)‑programma, en de Defence Science and Technology Agency of Singapore.

Een toonaangevend bedrijf in autonome voertuigen

Verschillende bedrijven zouden de MAS‑veiligheidsprogrammeringsstudie kunnen benutten om hun UAV‑ of EV‑aanbod te verbeteren. Naarmate meer fabrikanten van autonome vaartuigen lanceren, zullen de veiligheidsvereisten voor vloten autonome voertuigen toenemen. Hier is één bedrijf dat perfect gepositioneerd is om deze data te benutten en zijn ROI’s te verbeteren.

Amazon

Als het gaat om het opereren van zwermen autonome robots, is Amazon (AMZN ) de leider van de markt. Het bedrijf heeft al jaren autonome robots in zijn fabriek geïntegreerd. Sindsdien heeft het zijn drone‑vloot uitgebreid met UAV’s en EV’s. Naarmate hun vloot groeit, zal de vraag naar veiligheidsparameters en controlesystemen zoals die ontwikkeld door MIT‑onderzoekers toenemen.

Amazon heeft al lange tijd gesuggereerd over drone‑leveringsvloten. In het komende jaar zou het bedrijf de lancering kunnen starten. Opmerkelijk is dat de FAA de MK30‑drones die ze van plan zijn te gebruiken voor vluchten in november vorig jaar heeft goedgekeurd.

Amazon heeft ook vooruitgang geboekt richting haar 10‑jaren‑doel om pakketten per drone in de EU te leveren. Specifiek testte het bedrijf zijn leveringssysteem in San Salvo, Italië, afgelopen december met uitstekende resultaten.

Als dit succesvol is, zou Amazon drones kunnen inzetten om jaarlijks meer dan 500 miljoen klanten te bedienen. Deze manoeuvre zou de leveringskosten en diefstal aanzienlijk verminderen, wat zou kunnen leiden tot een stijging van de AMZN‑aandelen.

Toekomst van MAS Safety Programming

De toekomst van drone‑veiligheidsprogrammering bestaat uit schaalbare, high‑performance AI‑gebaseerde systemen. Deze systemen zullen ingenieurs in staat stellen alles te vereenvoudigen, van het creëren tot het beheren en distribueren van veiligheidsprotocollen.

In de toekomst zal jouw leveringsdrone een volledig begrip hebben van zijn realtime omgeving, vluchtpad en de locatie van zijn collega‑drones. Hierdoor blijven mensen streven naar de dag waarop 24‑uur‑levering misschien te traag lijkt.

Lees over andere coole ontwikkelingen in de robotica‑sector hier.

Studie Referentie:

^{1. Zhang, S., So, O., Garg, K., & Fan, C. (2025). GCBF+: A neural graph control barrier function framework for distributed safe multi-agent control. IEEE Transactions on Robotics. https://doi.org/10.1109/TRO.2025.3530348}