Toàn huyện có 147 di tích văn hóa, đặc biệt thành Nhà Hồ đang được đề nghị xếp hạng di sản văn hoá thế giới; Di tích Đàn tế Nam Giao; Chùa Hoa Long và thắng cảnh động Tiên Sơn. Tuy nhiên, công tác quy hoạch và kêu gọi đầu tư để khai thác tiềm năng du lịch chưa được chú trọng. Nhiều di tích đang xuống cấp do không có kinh phí để trùng tu tôn tạo như: Di tích văn hoá Đa Bút, đền thờ Trần Khát Chân; Việc cắm mốc bảo vệ di tích cũng chưa được chú trọng. Ban đề nghị UBND tỉnh cần quan tâm hơn đến công tác bảo tồn vốn văn hoá cổ trên địa bàn gắn với phát triển du lịch.