De geschiedenis van De Parel van Zuilen gaat terug tot de 17e eeuw. In het huis zijn elementen uit die tijd aangetroffen. Het huis, zoals het er nu bij staat, kreeg vanaf 1830 zijn huidige vorm, in fasen. Hoogstwaarschijnlijk is De Parel van Zuilen begonnen als een hofstee die later steeds is uitgebreid met verdiepingen en aanbouwen. De tuin dateert van 1911. Een jonge tuin dus, vergeleken bij het huis.
De poort met de naamsteen dateert uit de 17e eeuw en vormde vroeger de toegangspoort over een brug over een sloot.