In een video van Helsing wordt de ontwikkeling getoond van Centaur, een AI-algoritme dat is ontworpen om gevechtsvliegtuigen te besturen. Centaur is gebaseerd op 'reinforcement learning' en wordt getraind in simulaties. Het systeem is in staat om niet alleen het vliegtuig te besturen, maar ook de wapen- en radarsystemen te bedienen en een missie van begin tot eind uit te voeren. Het project begon als een onderzoek om te zien of het mogelijk was een AI te ontwikkelen die een menselijke piloot kon verslaan in luchtgevechten. Een samenwerking met Saab voor de Gripen toonde aan dat de technologie ook op echte platformen werkt.

De ontwikkeling van een AI-first platform

Tijdens de ontwikkeling werd duidelijk dat de capaciteiten van de AI die van bestaande vliegtuigen overstegen. Dit leidde tot het idee voor de CA-1 Europa, een nieuw type vliegtuig dat specifiek is ontworpen rond de AI, zonder ruimte voor een menselijke piloot. De makers stellen dat het bouwen van een ethisch wapensysteem een grotere uitdaging is dan het bouwen van een onethisch systeem, en benadrukken dat zij voor de ethische benadering kiezen. De spanning binnen het team is voelbaar nu het project concreet wordt en de eerste vlucht dichterbij komt.

Simulatietraining en de menselijke piloot

De training van Centaur vindt plaats in grootschalige simulaties. De video toont een voorbeeld van een luchtgevecht tussen twee eigen en twee vijandelijke toestellen. Van dit soort simulaties worden er tienduizenden parallel uitgevoerd, waardoor de AI in één dag evenveel ervaring kan opdoen als een menselijke piloot in zijn hele carrière. Ervaren piloten maken deel uit van het ontwikkelteam; zij testen de AI en helpen bij de verdere ontwikkeling. Een van de piloten geeft aan dat de AI van een heel ander niveau is. Tijdens een recente testsessie met circa 50 gevechtssituaties wisten de menselijke piloten slechts één keer te winnen van de AI.

Data, uitlegbaarheid en de toekomst

De eerste versie van Centaur werkt met dezelfde voorbewerkte radarinformatie als een menselijke piloot. Een toekomstige stap zou kunnen zijn om de AI toegang te geven tot de ruwe, meer gedetailleerde data van de sensoren. Dit roept echter vragen op over de uitlegbaarheid. Als de AI beslissingen neemt op basis van data die voor mensen niet toegankelijk of interpreteerbaar zijn, wordt het een systeem dat niet meer te doorgronden is. Daarom zou er een extra laag moeten worden ingebouwd die de beslissingen van de AI alsnog uitlegbaar maakt voor de mens.