Chùa Bà Đanh được xây dựng từ thời Lý (thế kỉ XI) do một người đàn bà giàu có trong làng cung tiến. Làng có tên chữ là Đinh Xá (nghĩa là "nơi ở của dòng họ Đinh"), tên nôm gọi là Đanh (nhiều địa phương cũng gọi "cái đinh" là "cái đanh"), vì vậy ngôi chùa được gọi là chùa Bà Đanh.

 

Ngôi chùa linh thiêng, cổ kính nhìn ra con sông Đáy có một quang cảnh vô cùng vắng lặng. Chùa thuộc địa phận thôn Đanh, xã Ngọc Sơn, huyện Kim Bảng, tỉnh Hà Nam, cách núi Ngọc khoảng 100m. Đây là một địa điểm rất xa xôi và cách trở so với trung tâm thành phố Phủ Lý.

 

Vị nữ thần này được tạc bằng đá, mang dáng hình rất phồn thực, hai chân dạng ra.

Vị nữ thần này chuyên ban  phúc cho những người đến cầu cúng, nhất là những người đến cầu tự khi người này cầm gậy bằng đá thọc vào hạ bộ của thần như biểu tượng của sự giao phối thần thánh.

Tên Bà Banh là cách gọi dân gian đặt cho ngôi chùa bởi sự phô phang đó nhưng sau do từ Banh thô tục nên gọi chệch đi thành Bà Đanh.

 

Về câu chuyện này còn có giai thoại: Trạng Quỳnh nghe nói gần nơi mình dạy học có một tượng đá rất thiêng, người ta gọi pho tượng đó là Bà Banh. Một hôm, Quỳnh đến tận nơi để xem thực hư. Quỳnh đến bên tượng lấy chày đá quẳng đi, rồi viết lên bụng bức tượng 8 câu thơ:

 

Khen ai đẽo đá tạc nên mày

 

Khéo đứng ru mà đứng mãi đây

 

Trên cổ đếm đeo dăm chuỗi hạt

 

Dưới chân đứng chéo một đôi giày

 

Ấy đã phất cờ trêu ghẹo tiểu

 

Hay là bốc gạo thử thanh thầy

 

Có gứa gần đây nhiều gốc dứa

 

Phô phang chi ở đám quân này

 

Bài thơ Quỳnh viết xong chưa ráo mực, mồ hôi tượng đá đã vã ra như tắm. Từ đấy, không còn ai nghe nói rằng "Bà Banh" thiêng nữa.