Vermoedelijk werd dit Chinees paviljoen gebouwd in opdracht van Paul Guillemin (1864-1944), de toenmalige eigenaar van het Abtenhuis en het omringende park.
De hoogte van het gebouwtje doet vermoeden dat het bedoeld was om het stadspanorama te bewonderen. Het is een zogenaamd gekkigheidje, een folly: vermaakarchitectuur die populair was in de burgerlijke architectuur eind negentiende, begin twintigste eeuw.
Toen het Abdijpark vanaf 1962 dienstdeed als toeristisch centrum kon je ijsjes eten in het paviljoen, vandaar de bijnaam melkhuisje.
De dienst Uitvoering van het lokaal bestuur knapte het melkhuisje terug helemaal op. In de toekomst kan het mogelijks gebruikt worden voor pop-up initiatieven.