Lập Thạch là một vùng đất cổ có truyền thống lịch sử, văn hoá lâu đời, có bề dày văn hiến và nhiều phong tục cổ tốt đẹp của nền văn minh lúa nước. Là một huyện gần kề với đỉnh của đồng bằng châu thổ sông Hồng, tiếp giáp với kinh đô Văn Lang thời Hùng Vương, nên các phong tục tín ngưỡng còn đậm sắc thái tinh thần của người Việt cổ. Lập Thạch có nhiều những danh lam thắng cảnh, di tích lịch sử, tiêu biểu là đền thờ Tả Tướng Quốc Trần Nguyên Hãn.

Đền ở thôn Đa Cai, xã Sơn Đông, huyện Lập Thạch, thờ Tả Tướng Quốc, phò Lê Lợi diệt giặc Minh giải phóng đất nước vào thế kỷ XV. Đền được xây dựng trên một thế đất bằng phẳng, rộng cao, tương truyền chính là nơi đặt Phủ đệ cũ của Trần Nguyên Hãn. Đền được cấu trúc theo kiểu chữ "Đinh", xung quanh có tường bao bọc tạo thành khuôn viên chữ "điền" vuông vắn. Các công trình xây dựng gồm 3 phần: Cổng đền, nhà tiền tế, hậu cung. Từ khi xây dựng đến nay, đền đã được tu sửa nhiều lần và tôn tạo thêm, chủ yếu vào đời Nguyễn. Nghệ thuật kiến trúc mang phong cách thời Nguyễn: đục trơn bào nhẵn, trang trí đơn giản. Liên quan tới di tích tương truyền còn có 2 vật cổ: Một thanh Gươm và một phiến đá mài gươm.

Chuyện kể rằng: Trong thời kỳ giặc Minh thống trị nước ta, Trần Nguyên Hãn mới bước vào tuổi thanh xuân. Vì cha mẹ lên khai hoang lập trại ở địa đầu trang Sơn Đông, nên ngày ngày Trần Nguyên Hãn vẫn đi cày, đi cuốc. Trong một lần đi cày ở nương Gò Rạch, Trần Nguyên Hãn cày lên một thanh sắt dài như gươm. Đêm đêm ông đem gươm ra mài ở một hòn đá lớn bên bờ ao Son, vì vậy hòn đá đó có tên là đá mài gươm, hòn đá có một vết lõm trông tựa như vết chém tương truyền đó là vết chém thử gươm của Trần Nguyên Hãn. Thanh gươm được Trần Nguyên Hãn mang bên người, tình cờ được một ông chủ bè ở cửa sông Phú Hậu tặng một thanh gỗ hình chuôi gươm vớt ở dưới lòng sông, khi cắm lưỡi gươm vào thì vừa khít, thanh gươm từ đó công hiệu.

Thanh gươm huyền thoại ấy đã gắn liền với những chiến tích lẫy lừng của vị công thần khai quốc thứ nhất triều Lê. Tương truyền, về sau Tôn Thất Thuyết đã mượn thanh gươm ấy đem đi Cần Vương chống Pháp.

Còn phiến đá, sau một thời gian dài bị phù sa sông Lô lấp, ngày 12 tháng 1 năm 1998 nhân dân thôn Đa Cai tìm thấy ở độ sâu 2m nghiêng về phía ao sen, chiều dài khoảng 2.49m, chiều rộng khoảng 1.6m, bề dày khoảng 0.4m và nặng khoảng 2 tấn. Phiến đá cổ tích này được chính quyền và nhân dân xã Sơn Đông trục vớt lên, chuyển về đặt trong khuôn viên đền thờ Tả Tướng Quốc để mọi người cùng chiêm ngưỡng dấu tích còn lại của người anh hùng thủa trước.