První písemné zmínky o Valči jsou z r.1358, kdy je statek uváděn jako rozdělené zboží, držené bratry Ctiborem a Benešem z Valče. Panství bylo spojeno až za královského podkomořího Jakuba Kyšperského, kdy došlo k pozdně gotické upravě. První písemná zpráva zmiňující zámek je z r. 1526. Od r. 1694 vlastnil panství Jan Kager, který velkolepě přestavěl zámek, zámecký areál a celé panství za účasti předních umělců a architektů té doby. Novobarokní přestavba proběhla r. 1890. R. 1976 zámek zachvátil zničující požár. Jeho obnova trvá dodnes.