In 1996 opgericht als New Concert Big Band. De initiatiefnemers, pianist/arrangeur Henk Meutgeert, bassist Frans van Geest en drummer Hans Dekker, waren van mening dat er weer een groot Nederlands jazzorkest moest komen in de traditie van de befaamde Amerikaanse bigbands. Drie jaar na de oprichting werd een samenwerking aangegaan met het Amsterdamse concertgebouw, waarna de naam, op initiatief van Concertgebouwdirecteur Martijn Sanders, werd omgedoopt tot Jazz Orchestra of the Concertgebouw. Het gezelschap is vaste speler in de Grote Zaal van het Concertgebouw. Daarnaast wordt er met regelmaat opgetreden in het Amsterdamse Bimhuis, in theaters en op diverse jazzfestivals.