Đình làng Kè thuộc cụm di tích Đình chùa làng Kè, được người dân địa phương xây dựng vào cuối thế kỷ XVII, đầu thế kỷ XVIII. Đình thờ danh tướng Dương Tự Minh (quê ở Phú Lương, Thái Nguyên), là người có công lớn chống giặc ngoại xâm, bảo vệ vững chắc biên giới phía Bắc của nước ta. Trong cuộc kháng chiến chống thực dân Pháp, nơi đây từng là chỗ ở và làm việc của bộ đội, đồng thời cũng là địa điểm giấu thuốc của ngành Quân y để cung cấp cho Chiến dịch Điện Biên Phủ.

Trong những năm kháng chiến chống đế quốc Mỹ, Đình chùa Làng Kè lại là nơi đóng quân của Tổng đội 62 và 68 thuộc Tổng đội khu Gang thép - Thái Nguyên, trực tiếp chiến đấu bảo vệ khu Gang thép. Đình làng Kè đã được UBND tỉnh công nhận là Di tích Lịch sử Văn hóa từ năm 2011.

Trải qua thăng trầm của thời gian, lịch sử, đến nay ngôi Đình đã xuống cấp. Tổ dân phố Kè vận động người dân, các nhà hảo tâm, con em xa quê hương đóng tiền của, ngày công xây dựng lại ngôi Đình. Sau hơn 4 tháng thi công, công trình đã hoàn thành và đưa vào sử dụng với diện tích 100m2, gồm 3 gian, sân đình… có tổng kinh phí trên 800 triệu đồng, đáp ứng nhu cầu sinh hoạt văn hóa, tín ngưỡng của người dân trong và ngoài địa bàn.