Tháng Hai năm ấy, Đàm Thận Huy được cử làm chánh sứ sang nhà Minh trình bày sự việc Tương Dực phế truất Uy Mục và cầu phong. Sau khi đi sứ trở về, ông được thăng Lại bộ thượng thư, kiêm coi Chiêu văn quán, Tú lâm cục.
Ngay từ năm 1522, khi biết được toan tính của Mạc Đăng Dung, vua Lê Chiêu Tông đã được một số đình thần trung tín bày kế lên vùng Thượng xứ Kinh Bắc xây dựng căn cứ chiến lược. Ngày 16 tháng 8 năm ấy, các bề tôi: Đàm Thận Huy, Hà Phi Chuẩn, Nghiêm Bá Ký, Nguyễn Xí... đã được vua Lê Chiêu Tông cho đem mật chiếu về Yên Thế chuẩn bị lực lượng khởi nghĩa chống lại Mạc Đăng Dung.
Theo gia phả họ Đàm ở Hương Mạc, năm 1522 vua Lê Chiêu Tông trốn khỏi tay quyền thần Mạc Đăng Dung ra ngoài tập hợp tướng sĩ các trấn Cần Vương, đã có mật chiếu giao cho Đàm Thận Huy việc xây dựng căn cứ tổ chức lực lượng Cần Vương ở hai huyện Yên Thế và Tân Yên (Bắc Giang ngày nay).
Đàm Thận Huy chiêu mộ được hơn 30 người cùng làng theo mình lên Bắc Giang gây dựng một đạo nghĩa binh khoảng 6.000 người đưa về Gia Lâm giao chiến với Mạc Đăng Dung. Đã có lúc các lực lượng Cần Vương chiếm ưu thế trước họ Mạc, nhưng sau vì quân ít, thế yếu, ông đã không địch nổi họ Mạc, phải rút về căn cứ ở hai xã Song Vân và Ngọc Thiện, huyện Tân Yên bây giờ.
Nhận thấy đã đến lúc thế cùng lực kiệt, vào nửa đêm ngày mùng 3 tháng 8 năm Bính Tuất (1526), Đàm Thận Huy đã hướng về nơi phát tích Lam Sơn của nhà Lê khóc lạy rồi uống thuốc độc tự tử để giữ khí tiết trung thần tại khu rừng Lăng Cao, cách phủ Mọc không xa, nay là làng Chợ, xã Cao Xá (Tân Yên), gần ngòi Bến Ghềnh.
Khi Đàm Thận Huy mất, hai người con gái của ông là Đàm Thị Dung Hoa và Đàm Thị Quế Hoa tiếp tục cầm quân chống giặc thêm ba ngày nữa mới chịu tuẫn mình xuống dòng sông Sỏi bảo toàn danh tiết. Để tưởng nhớ công ơn hai người phụ nữ ưu tú đó, người dân địa phương lập đền tôn thờ với tên gọi là Cầu Khoai hay còn gọi là đền Cô.
Năm 1527, Mạc Đặng Dung đoạt ngôi nhà Lê, xem Đàm Thận Huy là người trọng nghĩa nên đã cho rước hài cốt ông về chôn ở làng và ban sắc, phong tước hầu cho ông. Tương truyền khi sắc ấy rước về đến chợ Dầu thì bỗng bùng cháy mất. Mọi người kinh sợ cho là ông linh thiêng, không thèm nhận sắc phong của Nguỵ Mạc.
Năm Bính Ngọ (1666), triều vua Lê Huyền Tông, triều đình tuyên dương 13 công thần tiết nghĩa đời Chiêu Tông, phong Đàm Thận Huy là Tiết nghĩa Đại Vương, ban thụy là Trung Hiến. Triều đình còn xếp ông vào hàng kiệt tiết, cho dân lập đền thờ ở làng Hương Mạc, đặt tên là “Tiết nghĩa từ”, lệnh cho quan huyện hàng năm, mùa xuân, mùa thu phải đến tế. Từ đó, trải các triều đều có sắc phong tặng.
Quê ngoại Đại thi hào Nguyễn Du
Ở Hương Mạc xưa, khi đất Kim Thiều chưa tách ra, câu chuyện về sự hiếu học và đỗ đạt mãi được lưu truyền ở nhiều dòng họ khác nhau. Ví như họ Trần, từ vị tiên tổ thứ nhất đến hết đời thứ ba, học vấn chỉ dừng ở bậc tú tài (thời phong kiến thi đậu tú tài là một niềm vinh dự lớn, nhiều nơi cả làng ra nghênh đón khi sĩ tử thi đậu trở về). Nhưng đến đời thứ 4 trở đi, ngày càng nhiều người đỗ đại khoa.
Nhiễm Khê (SN 1472), tuổi trẻ đã thể hiện tài năng văn thơ uyên bác. Tham gia thi hội đậu tam trường. Sau được phong chức giáo thụ ở Quốc Tử Giám. Khi mất, được truy phong “Thái bảo thiện dụ hầu”. Đời thứ 5 có Ngạn Húc, 28 tuổi đã đỗ đầu kỳ thi hương, sau thi đình đỗ tiến sĩ (1538).
Phi Nhỡn đời thứ 6, đỗ tiến sĩ ở tuổi 45, theo phò vua Mạc đến tận đất Cao Bằng. Con cháu sau này từ đời thứ 7 đến đời thứ 14 vẫn nối nghiệp khoa cử, nhiều người đỗ đạt cử nhân, nối nghiệp tổ tiên lập thân bằng đường khoa cử.
Cụ Trần Ôn - ông ngoại của Đại thi hào Nguyễn Du là người con của dòng họ Trần, thuộc đời thứ 9, làm quan Câu Kê. Cụ có con gái là bà Trần Thị Tần lấy Nguyễn Nghiễm. Bởi vậy, xã Hương Mạc nay còn được coi là quê ngoại của Nguyễn Du.
Tại Hương Mạc còn tồn tại các di tích chứng minh cho một thời vàng son khoa bảng, như đền thờ cụ Tiết nghĩa Đàm Thận Huy, đền thờ Trạng nguyên Nguyễn Giản Thanh, đền thờ Quốc sư Đàm Công Hiệu, đền thờ Quận công Đàm Đình Cư, đền thờ cụ Hoàng giáp Đỗ Đại Uyên, cùng một số thư tịch, sắc phong các triều đại.
Trong kho tư liệu ở Bảo tàng Bắc Ninh hiện đang lưu giữ cuốn sách chữ Hán ghi chép về khoa thi hương năm Giáp Ngọ niên hiệu Thành Thái 6 (1894) sưu tầm được tại gia đình ông Đàm Thận Côn. Cuốn sách có kích thước dài 24cm, rộng 15cm lòng viết chữ Hán thể chân phương trên giấy dó màu vàng sẫm, bìa ngoài trang trí hoa văn màu nhũ bạc đề tài tứ linh.
Sách không ghi tên người biên soạn cũng như niên đại viết sách. Nội dung cuốn sách được chia làm 2 phần: Ban giám khảo kỳ thi gồm Tam Tuyên Tổng đốc Cao Xuân Dục - Chánh chủ khảo, Thị giảng học sĩ Nguyễn Gia Thoại - Phó khảo, Đốc học Lê Bá Đôn và tiến sĩ Đặng Như Vọng - Giám khảo, Hoàng giáp Phạm Như Xương, tiến sĩ Dương Thúc Linh, Phó bảng Nguyễn Đình Văn - Phân khảo, Giám sát ngự sử chưởng ấn Lưu Phương Hợp và Nguyễn Văn Quỳ.
Phần hai ghi chép tên tuổi, quê quán của 60 vị đỗ Cử nhân (khoa thi này có hơn mười ngàn sĩ tử dự thi nhưng chỉ lấy đỗ 60 Cử nhân và 200 Tú tài).