Mặt khác, quân nhà Lê từ Lào vừa cầu viện nhà Minh vừa tiến về Nghệ An, Thanh Hóa lập ra Nam triều để chống Bắc triều (Mạc). Mạc Đăng Doanh mất năm 1540 thì trước đó 3 năm, quân Minh do Cừu Loan là Đô đốc, Mao Bá Ôn làm Tán lý quân vụ tiến sát cửa Nam Quan và truyền hịch bắt cha con Mạc Đăng Dung. Sau đó 3 năm, quân Lê do Nguyễn Kim và Trịnh Kiểm chỉ huy thu phục được Tây Đô (Thanh Hóa).
Vận mệnh nhà Mạc ngàn cân treo sợi tóc, vua tôi nhà Mạc nhẫn nhục chịu tội với nhà Minh và dùng lời lẽ thiệt hơn để quân Minh không vượt biên giới. Kết quả là biên giới không có nạn binh đao mà Mạc Đăng Dung còn được vua Minh phong làm Đô thống sứ, hàm quan nhị phẩm nhà Minh.
Tài biện luận ngoại giao là do các bề tôi nhà Mạc, nổi bật là tài năng của Giáp Hải. Tài đối đáp của ông được tương truyền qua sự việc Mao Bá Ôn và ông làm thơ “Vịnh Bèo”.
Để thăm dò tinh thần vua tôi nhà Mạc và thể hiện sức mạnh quân sự của nhà Minh, Mao Bá Ôn làm bài thơ Bèo (Bình thi): “Cao sâu theo nước mọc im lìm/ Nông nỗi xưa nay vốn khó dìm/ Ngọn gốc đã trơ không lá lảu/ Cỗi cành sao lại cả gan tim?/ Coi thường tản mát khi thường tụ/ Biết lúc lênh đênh chả biết chìm/ Ví gặp tung trời cơn bão táp/ Cuốn theo về biển khó đâu tìm!”.
Giáp Hải họa lại: “Sin sít hoa thêu cản mũi khâu/ Mấy tầng gốc rễ vẫn chen nhau/ Ganh cùng mây bạc trên làn sóng/ Đâu để vầng hồng lọt đáy sâu/ Nước vỗ, vỗ sao cho phá được/ Gió to, to mấy có chìm đâu/ Biết bao rồng cá nằm trong đó/ Cụ Lã đừng hòng thả lưỡi câu!”.
Bài thơ của Giáp Hải đối đáp sâu sắc, thể hiện khẩu khí hùng biện. Ông được giữ chức Tuyên phủ đồng tri để thương nghị với nhà Minh việc biên giới. Người Minh thường gọi ông là Giáp Tuyên phủ. Sử sách cho biết ông đi sứ tới 5 lần và có biên soạn sách “Ứng đáp bang giao và Bang giao bị lãm” về công việc ngoại giao giữa nhà Mạc với nhà Minh. Tiếc thay các sách đó bị thất truyền, đời sau không biết cụ thể các cuộc bang giao thế nào.
Ba lần dâng sớ khuyên vua
Phò tá triều Mạc qua 2 đời vua, Trạng nguyên Giáp Hải luôn tận tụy, lấy lời trung và lòng chính trực của một nhà nho để khuyên can vua lo việc chính sự. Năm 1578, Giáp Hải dâng sớ cảnh tỉnh nhà vua 6 điều đáng sợ.
“…Nay chính sự mỗi ngày một bậy… làm lễ tiên tổ… lễ vật kính dâng cẩu thả. Ấy là một điều đáng sợ. Nay những người bên cạnh bệ hạ quen thói nịnh hót, dỗ dành chơi bời để cầu hợp ý bệ hạ. Cung cấm là chỗ rất nghiêm mà nay ra vào không cấm kỵ, tuyên bố mệnh lệnh và thu nạp lời can là việc rất cẩn thận mà nay bị che lấp không thông. Ấy là hai điều đáng sợ.
Nay các quan trên dưới, người không ham lợi mười phần chỉ được hai, ba, còn ngoài ra đắm đuối về lợi cả. Nào nhũng lạm quan tước, nào chiếm đoạt ruộng đất, các quan phiên trấn sách nhiễu và mua rẻ của dân không việc gì là không làm. Ấy là ba điều đáng sợ.
Nay xem quan lại trong ngoài, kể là chính đáng thì mười người chỉ độ hai, ba, còn đều là gian tà cả. Khi có sắc chỉ truyền việc gì thì quan lại sách nhiễu. Khi có kiện cáo to nhỏ thì đòi tiền đút lót, không biết đâu là cùng. Ấy là bốn điều đáng sợ.
Nay việc công, việc tư đều bị sách nhiễu khổ sở, dân khó lòng sống được, vậy thì nước nương tựa vào ai? Ấy là năm điều đáng sợ. Nay tướng soái trái ngược nhau, mỗi người một ý, quân sao thắng được? Ấy là sáu điều đáng sợ.
Ngoài ra còn nhiều việc trái ngược đạo lý không kể xiết được… xin bệ hạ tự răn, lo sợ, thay đổi việc chính thối nát. Khi lòng dân đã hòa thì ý trời cũng thuận. Nếu bệ hạ chỉ say đắm về sự yên vui, không chịu răn chừa sửa đổi thì sẽ có ngày suy vong, không sao giữ được nữa”.
Ba năm sau (1581), Giáp Hải lại có sớ khuyên vua lo việc chính sự, võ bị. Đặc biệt nhấn mạnh lấy dân làm gốc: “Lại xin bệ hạ tôn trọng gốc nước cố kết lòng dân, hậu đãi mà đừng làm khốn dân, giúp đỡ mà đừng làm hại dân, dè dặt chứ không dùng hết sức của dân, nhẹ bớt cho dân những việc phục dịch…”.
Năm 1586, Giáp Hải lại có sớ dâng Mạc Mậu Hợp mà cảnh tỉnh rằng: “Đang lúc thịnh trị cũng nên nghĩ tới sự nguy vong. Đó là lòng chí thành của bầy tôi già này cần bày tỏ”. Năm ấy ông đã 70 tuổi, và là lần cuối cùng khuyên vua lo việc chính sự, võ bị một cách cụ thể. Ông còn chỉ ra những thành, những hào phải tu sửa, đắp cao, đào sâu, đặt đồn trại, đặt bẫy nỏ… thật tỉ mỉ.
Cuối năm 1586, Giáp Hải về trí sĩ rồi qua đời. Hai triều vua Mạc đã không thực hiện đầy đủ lời khuyên của Giáp Hải, nên thế cục suy vong, bị quân Nam triều đánh bật khỏi Thăng Long vào năm 1592. Đất nước rơi vào thời vua Lê chúa Trịnh, rồi Trịnh – Nguyễn phân tranh kéo dài.