Đền có tên chữ là Ngũ Nhạc Linh Từ, được xây dựng vào khoảng cuối thế kỷ XVIII, thờ Trần Hưng Đạo và các vị Thánh Mẫu. Kiến trúc của đền gồm 2 tòa nhà: Tòa thứ nhất là điện thờ Mẫu, toà thứ 2 kiến trúc theo kiểu chữ Đinh thờ Đức Thánh Trần và các gia tướng: Phạm Ngũ Lão, Dã Tượng, Yết Kiêu cùng các Hoàng Tử và Công chúa. Đây là một trong những đền thờ vọng Đức Thánh Trần ở Lạng Sơn.

Hiện nay trong đền vẫn lưu giữ được nhiều hiện vật có giá trị như: Hoành phi, câu đối, hệ thống tượng thờ, chuông… Ngoài ra, Đền còn có 2 tấm bia công đức được tạc năm 1916 và 1923, là những tấm bia tạo hình có giá trị về mặt nội dung cũng như nguồn sử liệu để tra cứu.

Đền Cửa Tây ngoài giá trị kiến trúc nghệ thuật, còn là nơi sinh hoạt tôn giáo tín ngưỡng của nhân dân địa phương cũng như khách hành lễ thập phương./.