Onderzoekers van de Université Libre de Bruxelles in België en het CISPA Helmholtz Center for Information Security in Duitsland beschrijven hoe foundation models de ontwikkeling en inzet van robot swarms kunnen veranderen.
Robot swarms zijn systemen van meerdere robots die zonder centrale aansturing samenwerken. De software die zulke robots aanstuurt, wordt meestal nog handmatig geschreven door specialisten. Dat vraagt veel voorbereiding, omdat ontwikkelaars vooraf moeten bedenken welke situaties de robots kunnen tegenkomen. In de praktijk lukt dat niet altijd. Robots kunnen bijvoorbeeld te maken krijgen met defecte sensoren, veranderende omstandigheden of onverwachte gebeurtenissen.
Volgens de onderzoekers kunnen foundation models robot swarms helpen om beter met zulke situaties om te gaan. De modellen zouden gegevens van sensoren, zoals camerabeelden of temperatuurmetingen, kunnen verwerken en op basis daarvan gezamenlijke acties bepalen. Daardoor kunnen robot swarms hun gedrag tijdens een inzet aanpassen, van taak veranderen als dat nodig is en op een natuurlijkere manier met mensen communiceren, bijvoorbeeld via spraak of gebaren.
Een voorbeeld is een robot swarm die een bosgebied controleert en plotseling een gewonde persoon aantreft. Met een besturingssysteem op basis van foundation models zou de robot swarm kunnen overschakelen van monitoring naar hulpverlening. Dat gebeurt dan niet omdat die specifieke situatie vooraf is geprogrammeerd, maar omdat het systeem de omstandigheden anders beoordeelt.
Voordat dit soort toepassingen mogelijk zijn, moeten nog wel verschillende problemen worden opgelost. Zo zijn er beperkingen in de hardware, en is nog niet duidelijk hoe beslissingen van afzonderlijke robots het best kunnen worden vertaald naar gecoördineerd gedrag van de hele robot swarm. Ook veiligheid is een belangrijk aandachtspunt. Foundation models kunnen zogenoemde hallucinated outputs geven: antwoorden die aannemelijk lijken, maar niet kloppen. Dat kan de betrouwbaarheid van autonome robotsystemen onder druk zetten.
Volker Strobel, hoofdauteur van het artikel en onderzoeker bij IRIDIA, het laboratorium voor kunstmatige intelligentie van de Université Libre de Bruxelles, zegt dat foundation models robot swarms kunnen helpen om zelfstandig acties uit te voeren waarbij rekening wordt gehouden met hoe mensen in vergelijkbare situaties zouden reageren. Tegelijkertijd roept de probabilistische aard van foundation models volgens hem fundamentele vragen op over de balans tussen autonomie en controleerbaarheid in autonome systemen.
Foto: Volker Strobel
