Hrad založil ve 2. polovině 13. stol. Oldřich Zajíc z Valdeka nedaleko obchodní stezky do Bavorska. Za vlády Jana Lucemburského se stal majetkem českých králů. Velká přestavba proběhla za vlády Karla IV. a jeho syna Václava IV. Po požáru r. 1395 dal však Václav IV. vystavět na nedalekém kopci nový hrad Točník. Koncem 15. stol. byla ještě provedena oprava a posíleno opevnění, ale již r. 1552 je Žebrák uváděn jako pustý. Rozsáhlá rekonstrukce proběhla v 80. letech 20. stol., kdy byla zachráněna a zpřístupněna hlavní kruhová věž.