Di tích có tên thường gọi là đình Bắc Thịnh, vì được xây dựng ở địa phận giáp Bắc Thịnh. Di tích có tên gọi khác là miếu Thượng vì ban đầu toạ lạc ở đầu ấp Phu Vinh xưa. Hiện nay, đình thuộc địa phận xóm 1, xã Thượng Kiệm, huyện Kim Sơn, tỉnh Ninh Bình.

Đình Bắc Thịnh là nơi thờ cúng, tưởng niệm các vị thần: Đại La Đại vương, Vũ Hùng Uy tôn thần, Bản ấp phúc thần có công phù giúp nhân dân tăng gia sản xuất, mở rộng đất đai, xây dựng cuộc sống yên ổn thanh bình. Đồng thời, là nơi thờ cúng, tưởng niệm chiêu mộ Vũ Duy Lương và các nguyên mộ, thứ mộ, tòng mộ, là những vị tiên hiền có công chiêu mộ dân chúng, khai hoang lấn biển, lập ấp Phu Vinh-làng Phú Vinh hiện nay (Chiêu mộ Vũ Duy Lương cùng 25 cụ nguyên mộ, 54 cụ thứ mộ, tân mộ, tòng mộ là những người dân chủ yếu đến từ vùng đất Nghĩa Hưng, Nam Trực, Hải Hậu, Xuân Trường (Nam Định). Bên cạnh đó, tại di tích còn thờ các cửa họ trong làng (họ Vũ, Cù, Ngô, Lương, Đinh, Nguyễn, Phan, Đặng, Đào) và Thờ phật, thờ Hưng Đạo Đại vương.

Căn cứ lời kể của các cụ cao niên trong làng thì năm Ất Mùi (1838), nhân dân ấp Phu Vinh dựng ngôi miếu mái tranh, tường đất, phên vách làm nơi thờ cúng. Sau này khi các dòng họ phát triển, đất đai được mở rộng, nhân dân tiếp tục nâng cấp di tích, di tích được làm bằng gỗ, mái lợp tranh, tường đất. Năm 1936, xây dựng ngôi miếu kiên cố có quy mô, kiểu dáng kiến trúc như hiện nay. Năm 2014, xây dựng lại Hậu cung trên cơ sở quy mô, kiểu dáng, kiến trúc như cũ; Đảo mái ngói toà Tiền đường; bóc và trát lại tường toàn bộ di tích; lát nền toàn bộ di tích; xây cổng, kè bờ ao.

Đình Bắc Thịnh được xây dựng theo kiến trúc kiểu “chữ Đinh”, gồm 5 gian Tiền đường cổ đẳng, 2 gian Hậu cung cuốn vòm chạy dọc tạo thành chuôi vồ. Kiến trúc tường hồi bít đốc. Được xây dựng cách ngày nay gần hai thế kỷ, trải qua nhiều biến cố của lịch sử, di tích vẫn giữ được quy mô, kiến trúc cổ kính nguyên bản. Đồng thời, còn lưu giữ được nhiều hiện vật, đồ thờ tự quý như long đình, ngai thờ, bài vị, bát hương sứ, lư hương, hoành phi, câu đối, bia đá, 3 sắc phong từ thời nhà Nguyễn.

Trong kháng chiến chống Thực dân Pháp, di tích là nơi tập luyện, huấn luyện của quân dân du kích, hội thanh niên Phật giáo; là cơ sở hoạt động bí mật, cơ sở đi về, hội họp của các cán bộ cách mạng; tổ chức các lớp bình dân học vụ. Trong kháng chiến chống Đế quốc Mỹ di tích được sử dụng làm trụ sở của tổ đổi công, sân kho của Hợp tác xã Vinh Thượng, là cơ sở sơ tán của trường cấp I, xã Thượng Kiệm, là địa điểm tập huấn của huyện đoàn và huyện đội Kim Sơn, là cơ sở sơ tán của trường cấp III Kim Sơn A. Đặc biệt trong suốt những năm kháng chiến chống Đế quốc Mỹ, di tích là nơi cất giấu vật liệu, hàng hoá, vũ khí đạn dược của nhà nước.

Hàng năm, tại di tích diễn ra các hoạt động văn hóa, lễ hội chính như sau (tính theo Âm lịch) như: Giỗ Đại La Đại vương và Vũ Hùng Uy (ngày 13 tháng Giêng); Lễ Cơm mới ( tổ chức 2 lần/năm và tháng 5 và tháng 10 sau khi thu hoạch xong); Lễ Kỵ Mẫu (3/3), Lễ Phật đản (8/4), Lễ Vu Lan (Rằm tháng 7), Lễ Kỵ Đức Thánh Trần (20 tháng 8), Lễ Mộc dục (ngày 23 tháng Chạp).

Đình Bắc Thịnh được Uỷ ban nhân dân tỉnh xếp hạng là Di tích lịch sử văn hóa cấp tỉnh năm 2021.