Het Hitloop-project is een AI-kunstinstallatie die de mate van menselijke controle over AI-besluitvorming onderzoekt. Door muziek als metafoor te gebruiken, stelt de installatie deelnemers in staat om AI-gestuurde keuzes in realtime te ervaren en te beïnvloeden.

Bij ESNS testten onderzoekers van de Hogeschool van Amsterdam hun installatie, waarbij een DJ, AI en festivalbezoekers muziek co-creëerden. Hitloop maakt gebruik van WAIVE, een open-source toepassing van Thunderboom Records. WAIVE genereert virtuele instrumenten uit straatgeluiden en audio uit het publieke domein. De AI componeert vervolgens tracks met behulp van deze instrumenten, terwijl een menselijke DJ de selecties samenstelt. Festivalbezoekers deden actief mee, door met handcontrollers individuele instrumenten te manipuleren en zo de door de AI gegenereerde compositie te beïnvloeden.

Dit onderzoek is cruciaal omdat menselijk toezicht op AI essentieel is voor het beperken van risico’s in toepassingen waar veel op het spel staat, zoals de gezondheidszorg en het strafrecht. Hoewel regelgeving zoals de EU AI Act de noodzaak van menselijk toezicht benadrukt, ontbreekt het aan duidelijke implementatierichtlijnen. Menselijk toezicht zelf heeft echter beperkingen. Mensen maken fouten, zijn inconsistent en kunnen moeite hebben om AI-outputs te corrigeren.

Dit experiment is mogelijk gemaakt met steun van Regieorgaan SIA.

Tijdens de test bij ESNS werd de algehele gebruikerservaring positief beoordeeld. Deelnemers vonden de interface gebruiksvriendelijk, al is er ruimte voor verbetering in visuele feedback en uitleg. Een verrassende uitkomst was de positieve houding van muziekprofessionals ten opzichte van AI. Artiesten toonden interesse in samenwerking met Hitloop en in het uitvoeren van live-experimenten met hun publiek.