1. Đền Vũ hay đền con cá chép (Võ miếu Phủ Tam Đái)
a. Vị trí Đền Vũ và ngày lễ
            Ngôi đền Cao Xá, có tên là Đền Vũ, đang được phục dựng, nằm trong cụm di tích quốc gia đình - đền - chùa Cao Xá. Tương truyền ngôi đền đá này thờ một vị võ tướng là Lân Hổ Đại Vương. Hậu cung có bệ thờ, không có ngai vị mà chỉ có một bành gỗ sơn son thếp vàng. Bành đặt ở nơi võ tướng chỉ huy và duyệt quân lính tập trận dưới thời nhà Trần. Vị tướng chỉ huy quân nhà Trần đó là Lân Hổ Hầu hay Hắc đạo tướng quân - võ tướng chỉ huy phòng tuyến chống giặc Nguyên Mông ở phủ Tam Đái thời nhà Trần.
            b. Lễ tế tại Đền Vũ
            Hàng năm đại tiệc tế đền vào ngày 1 tháng 2 Âm lịch, tổ chức tại đền, diễn ra trong một ngày. Phẩm vật gồm oản, bánh mật, chè kho. Trước ngày tế, lễ vật được chuẩn bị gồm vàng mã, bốn bộ quần áo tướng quân và đôi hia. Sau đó, mọi người mổ lợn tế thần tại hậu cung. Theo nghiên cứu, có thể Đền Vũ chính là Võ miếu của Phủ Tam Đái. Thời xưa Đền Vũ là nơi Hắc đạo tướng quân luyện binh.
            Hắc đạo tướng quân hay Lân Hổ Hầu là người chỉ huy đội quân nhà Trần lập phòng tuyến chống quân Nguyên Mông. Phòng tuyến được đặt từ Hiền Lương huyện Cẩm Khê đi qua Cao Xá, Tứ Xã rồi về Bạch Hạc - Việt Trì. Để tưởng nhớ công ơn võ tướng, dân làng  dựng đền trên một quả gò thấp giữa cánh đồng, huyệt kim quy. Huyệt này có hình giống như một con cá chép vàng nên gọi là đền Cá chép. Cạnh Đền Vũ có cánh Đồng Trận là nơi tập trận, cũng có thể là bãi chiến trận trong trận chiến của Hắc đạo tướng quân.
            c. Lịch sử Đền Vũ theo truyền miệng dân gian
            Theo truyền thuyết trong dân gian thì khi dân làng làm đình, họ lấy gỗ từ miền Thanh Ba, Hạ Hòa. Trải qua hơn vài chục cây số, những cây gỗ to hai ba người ôm kết thành bè lớn đẩy về trên cánh đồng chiêm trũng ngập nước. Khi về đến trước chùa Cao Xá, bè gỗ mắc cạn không đi được. Dân làng làm lễ cầu thủy thần dâng nước lên để đưa gỗ về làm đình. Sau buổi tế lễ, đêm đó trời mưa to, nước dâng lên cao, bè gỗ nổi lên, dân làng đưa gỗ về làm xong ngôi đình Cao Xá. Để tạ ơn thủy thần, họ liền xây ngôi Đền trên khu đất có hình con cá chép. 
            Đền làm bằng những cột đá hoa cương và xây bằng gạch có bệ thờ thủy thần, xung quanh đền trồng những cây muỗm. Ngôi đền nằm ở phía Đông Bắc, trước cửa chùa Cao Xá (Sơn Lôi) làm án sơn vừa trấn tà ma, vừa làm vượng thêm sinh khí cho dân làng. Đến năm 1960 - 1962, khi đó có chủ trương chống mê tín dị đoan, các đình miếu không còn được chăm sóc. Từ đó, đền con cá chép bị đổ chỉ còn bốn cột đá. Sau này, người ta phá ngôi đền. Đến nay, dân làng đã xây dựng lại ngôi đền đó.
           
            2. Đền Vũ có phải là Võ Miếu phủ Tam Đái thờ Lân Hổ đại vương?
            a. Sự ra đời kỳ lạ của Phùng Lân Hổ
            Làng Cao Xá hiện còn những địa điểm thờ cúng liên quan đến hai vị nhân thần là Cái Sĩ Đương Hương và Lân Hổ Đô thống. Ngôi đền Cao Xá, có tên là Đền Vũ, đang được phục dựng, nằm trong cụm di tích quốc gia đình - đền - chùa Cao Xá. Tương truyền ngôi đền đá này thờ một vị võ tướng tên Lân Hổ Đô thống.
            Theo truyền thuyết, tướng Phùng Lân Hổ được sinh ra trong một hoàn cảnh kỳ ảo.  Mẹ của ông là bà Phùng Thị Dung, trong một lần vào rừng hái củi do mệt quá nên bà nằm thiếp đi. Trong giấc mơ, bà thấy có mây hồng cuốn chặt, hổ dữ gầm vang, từ đó mà có thai. Sau 14 tháng, bà sinh được người con trai khôi ngô tuấn tú đặt tên là Lân Hổ.
            Khi trưởng thành, Lân Hổ mình cao 8 thước, sức có thể nâng 100 cân, võ nghệ cao cường, có tài thao lược. Vào thể kỷ XIII, giặc Nguyên Mông tràn sang xâm lược, nhiều nơi rơi vào tình trạng rối loạn. Vua Trần xuống chiếu cầu người tài đánh giặc, Lân Hổ xin đi và được vua cho chỉ huy một đội quân lên vùng Gia Ninh (Bạch Hạc ngày nay).
            Sau đó, ông bày binh bố trận lập một phòng tuyến bảo vệ Kinh đô Thăng Long. Vì có công giúp dân đánh giặc cứu nước, giữ đất, yên dân trong lần thứ nhất chống Nguyên Mông năm 1258 nên Lân Hổ được ban tước Hầu (Lân Hổ Hầu) và làm quan trong triều. Tuy nhiên, sau đó ông từ chối xin được về quê phụng dưỡng mẹ già
            b. Phùng Lân Hổ (Lân Hổ Hầu) chống nguyên lần thứ hai năm 1264 - 1285  
            Bị thua trận lần thứ nhất, quân Nguyên Mông điên cuồng tìm cách quay trở lại báo thù. Năm 1284 - 1285, quân Nguyên Mông do Thoát Hoan chỉ huy, tiến vào nước ta ở phía Bắc. Toa Đô ở phía Nam từ Chiêm thành đánh ra Thanh Hóa. Đứng trước hai gọng kìm của giặc mạnh, vua Trần Nhân Tông ban chiếu khắp nơi tìm người tài chống đánh. Lân Hổ lại được mời ra chỉ huy chiến tuyến Gia Ninh - Dục Mỹ.
            Trong đội quan chỉ huy phòng tuyến Gia Ninh - Dục Mỹ, có hai vị quan tài ba. Quan văn là Cái Sĩ Đương Hương và quan võ là Phùng Lân Hổ. Trên đường đi về Kinh đô đến phủ Thao Giang, đến trang Cao Xá thì dừng lại nghỉ chân nấu cơm ăn. Đêm ấy, các ngài mổ lợn tế miếu thần (Đình Cao Xa bây giờ), cầu trời đất phù hộ cho đánh thắng trận. Tuy nhiên, thế giặc mạnh và đông nên Phùng Lân Hổ đã anh dũng hy sinh vào ngày 1 tháng 2 âm lịch năm 1286. Tiếc thương vị tướng tài lập nhiều công lớn, vua Trần đã hạ chiếu xây lăng cho Lân Hổ. Ông được nhân dân Tứ Xã và một số địa phương dọc bờ sông Thao tôn thờ là con của trời đất, thần linh.
            3. Những chứng cứ về hai vị quan nhà Trần chống quân Nguyên
            a. Những chứng cứ liên quan đến Cái Sĩ Đương Hương
            Đình Cao Xá là Văn miếu của phủ Tam Giang, vị quan văn chăm lo Văn miếu là Cái Sĩ Đương Hương. Hiện nay, vẫn còn những chứng cứ liên quan đến Cái Sĩ Đương Hương. Vị nhân thần này gắn với mỹ từ Cái Sĩ (gốc của từ “cái” theo nghĩa Nôm là lớn nhất, kiểu như sông cái, tay cái, đũa cái. Theo nghĩa Hán là bao trùm, như anh hùng cái thế. Theo nghĩa dân gian thì “cái” là Mẹ). Cái Sĩ là tước hiệu của vị quan văn có phẩm hàm lớn, có ân uy lớn. Tôn thờ vị tướng văn cỡ lớn đồng nghĩa với tôn thờ văn nghiệp, văn hóa.  Quê của vị nhân thần này có ở Cao Xá hay không, cần tiếp tục tra cứu nhưng vị nhân thần này được thờ ở đình làng là điều có thật. Cao Xá là vùng quê hiếu học, tôn vinh truyền thống hiếu học cũng là điều có thật. Điều này có trong cuốn “Hưng Hóa ký lược” của Phạm Thận Duật-  Tri phủ Hưng Hóa viết năm 1856. Gần đây tác giả Phạm Bá Khiêm dựa vào tư liệu của tiến sĩ Phạm Thị Thúy Vinh, viện Hán Nôm, dịch văn bia “Trùng tu Văn Miếu tịnh nghi môn bi ký”, ký hiệu 5.107-5.108- Thư viện Hán Nôm, đã đăng bài “Văn Miếu phủ Tam Đới” trên Báo Phú Thọ số xuân 2009 cũng đã khẳng định điều này
            b. Những địa danh liên quan đến chiến trận chống quân Nguyên Mông
            Cạnh Đền Vũ có cánh Đồng Trận là nơi tập trận, cũng có thể là bãi chiến trận liên quan đến Hắc Đạo tướng quân. Hàng năm, Đại tiệc tế đền vào ngày 1 tháng 2 âm lịch, tổ chức tại đền, diễn ra trong một ngày. Có thể Đền Vũ chính là võ miếu của phủ Tam Đái thời xưa. Hiện nay, những di tích về phủ Tam Đái vẫn còn như con đường Thiên Lý chạy theo hướng Bắc Nam, bắt đầu từ Bạch Hạc, Việt Trì chạy lên bờ Đồng Trận vào Đền Vũ. Sau đó, chạy sang thành Dền, thôn Dục Mỹ, sang cầu Đòn Dọc (có người gọi Đồng Dọc) và làng Gáp (Tứ Xã) sang cầu Gành (nơi ngăn cách huyện Hưng Hóa và Lâm Thao) với huỵện Tam Nông và huyện Cẩm Khê.
            Hiện Cao Xá vẫn còn nhiều di tích lịch sử từ thời các vua Hùng săn bắn và luyện quân. Với địa danh hiện nay vẫn còn là cầu Đòn Dọc bờ Thiên Lý, Đồng Trận. Tới ngày nay, các di tích như Đồng Trận, Đền Vũ là nơi đặt Phủ Tam Đái thời Lý - Trần vẫn còn.