Đình Phúc Duyên gắn liền với tên gọi của làng Phúc Duyên xưa kia, nay là xóm Duyên Bắc, nằm ngay trục đường giao thông liên xã Tân Hương - Tiên Phong, khách thập phương có thể dễ dàng định vị được vị trí ngôi đình bởi cây quéo cổ thụ vươn cao, quanh năm rợp bóng mát, thân cây xù xì to tới cả sải tay người lớn ôm không xuể. Cạnh đó là cây hồng pháp (dân gian thường gọi là cây quác) cũng được xác định đã hơn 200 năm tuổi.
Không ai xác định được rõ đình Phúc Duyên xây dựng thời điểm nào. Chỉ biết vào mùa đông năm Bính Tuất (1946), công trình được di dời về vị trí hiện tại, với khuôn viên rộng trên 1.000m2, nằm ở vị trí trung tâm của 4 xóm là: Bắc, Đông, Nam và Thành Lập. Công trình được xây dựng theo lối kiến trúc chữ “đinh” với 3 gian, 2 dĩ khá rộng dùng làm hội trường. Phần hậu cung có sập cao đặt bàn thời; trước hậu cung là cửa võng được trang trí lộng lẫy, trạm trổ cầu kỳ theo theo kiểu rồng trầu mặt nguyệt, được sơn son thiếp vàng.
Ông Nguyễn Ngọc Quyến, Bí thư Chi bộ xóm Duyên Bắc, đồng thời là Trưởng Ban Quản lý đình Phúc Duyên giới thiệu: Giá trị của công trình nằm toàn bộ phần cột, kèo đều làm bằng gỗ lim rất quý. Trong đình còn lưu giữ 2 sắc phong thuộc triều Khải Định thứ IX. Ở phía góc luôn treo một cái trống đường kính mặt 1m, gọi là trống cái làng. Nó được dùng khi tế lễ, làm hiệu lệnh việc tập trung sinh hoạt của đoàn thể theo quy ước chung hoặc báo động khi có tình trạng khẩn cấp.
Trong kháng chiến chống thực dân Pháp, đình Phúc Duyên trở thành địa điểm tổ chức lớp “bình dân học vụ” ban đêm cho lứa tuổi trung và cao niên; còn ban ngày dành cho lớp vỡ lòng và tiểu học. Ba gian đình được sử dụng như một trung tâm văn hóa của làng, tổ chức sinh hoạt, học tập cho các đoàn thể thanh niên, phụ nữ, nông hội. Sân đình là nơi tập luyện của du kích địa phương. Thời kỳ chiến tranh phá hoại miền Bắc của đế quốc Mỹ, hậu cung đình Phúc Duyên trở thành nơi chứa đạn pháo phòng không; có thời điểm làm kho thóc của hợp tác xã nông nghiệp. Hòa bình lập lại, bà con địa phương đã tự nguyện đóng góp tiền của và công sức, thực hiện nhiều lần trùng tu, tôn tạo công trình trên cơ sở giữ nguyên vị trí và kiến trúc như xưa.
Theo ông Quyến, đình Phúc Duyên trước đây tổ chức mỗi năm 3 lần lễ hội là: Khai xuân, vào hạ và lễ hội mùa. Hiện nay, các lễ hội gộp vào thành một, tổ chức vào dịp đầu năm với nhiều trò dân gian như: Kéo co, đấu vật hay thi đấu cầu lông, bóng đá mini. Địa điểm này vẫn là biểu tượng của làng quê, nơi sinh hoạt tín ngưỡng, văn hóa và gắn kết tình cảm của người dân địa phương.