Das bewohnte Schloss Kaldenbroek stammt aus der Zeit um 1394. Seitdem wurde das Schloss mehrmals umgebaut.
Das heutige Hauptgebäude ist nicht groß und sieht aus wie zwei zusammengebaute Bauernhäuser. Die Mauern enthalten eine Menge Mergel von früheren Renovierungen. Kleine Teile der Gräben sind noch zu erkennen.
Das Schloss liegt mitten in der Stille eines Naturschutzgebietes (Teil der Stiftung Limburgische Landschaft). Ein großer Baum steht hier im Mittelpunkt. Derzeit wird das Schloss als Ferienhaus und B&B genutzt.