Im Zentrum von Castenray steht die Kirche Saint-Matthias. Im Jahr 1944 wurde der Kirchturm von den Deutschen gesprengt, wobei das Nonnenkloster vollständig zerstört wurde, das Pfarrhaus aus dem Jahr 1485 blieb jedoch unversehrt.
Auf dem Platz gegenüber der Kirche befinden sich eine Sonnenuhr und die Statue des "Schansemaker" zur Erinnerung an die Entsendung von 12 jungen Männern nach Niederländisch-Ostindien und an die große Zahl von Jungen und Männern, die während des Krieges deportiert wurden.