Theo sách "Đại Việt sử ký toàn thư", sau khi nhà Lê Trung Hưng lên, việc bang giao giữa nhà Lê với nhà Minh trở nên căng thẳng và phức tạp. Khi lên ngôi, các vua Mạc đã tỏ ra yếu hèn, quỵ lụy, tiến cống, hối lộ quá nhiều để mong được vua quan nhà Minh che chở. Vì thế, nhà Minh nhiều lần đòi vua Lê phải lên tận Nam Quan để chúng khám duyệt các giấy tờ, xác minh xem Lê Thế Tông có đúng là con cháu nhà Lê hay nhà Trịnh giả danh.

Cuối năm 1596, vua sai Đỗ Uông và Trịnh Vĩnh Lộc đem hai tượng người bằng vàng bạc, lọ hoa, bình hương bằng vàng bạc, lụa lên Nam Quan định hội khán cũng không thành. Tháng 2 năm Đinh Dậu - 1597, Đỗ Uông và Nguyễn Văn Giai lại lên Nam Quan thăm dò tình hình quân Minh, nhưng việc không thành. Tháng 3 năm ấy, vua Lê Thế Tông phải kéo đại quân sang Bằng Tường hội khán với các quan nhà Minh. Quan hệ ngoại giao giữa nhà Lê và nhà Minh là không bình đẳng. Nhà Minh hống hách, quan nhà Minh thường ăn đút lót của nhà Mạc, gây khó khăn cho việc bình thường hóa quan hệ giữa hai triều đại. Trong hoàn cảnh quan hệ khó khăn như vậy, vua Lê đã cử Phùng Khắc Khoan đi sứ. Việc đi sứ nhà Minh lúc đó thực sự là một đại họa không lường hết được. Vào thời nhà Mạc, Lê Như Hổ đi sứ bị sơn cả hai mắt, Lê Quang Bí bị chúng lấy mất đồ cống, bị vu cho là giả và bị giam cầm đến 18 năm sau mới được tha về. Phùng Khắc Khoan được cử đi sứ lần này vào lúc tuổi đã 70. Trong lịch sử ngoại giao Việt Nam thời xưa chưa có một sứ thần nào tuổi già như thế. Ông được cử đi sứ hai lần vào năm 1597 và 1606.

Và sách lược ngoại giao của Phùng Khắc Khoan đã thể hiện rõ trong cảm tác khi đi sứ, đó là: nói khéo, lời hay. Khi sứ bộ Phùng Khắc Khoan đến biên giới, quan nhà Minh không cho sứ bộ nhập cảnh với lý do "chúng chỉ biết nước Nam có nhà Mạc cai trị, chưa công nhận nhà Lê". Phùng Khắc Khoan đã đấu lý và chắc là có đút lót vàng bạc cho chúng nên cửa ải được mở. Đoàn đi sứ tháng 7 năm Đinh Dậu tới tháng 8 năm sau mới đến Yên Kinh. Lúc đi đường thủy, lúc đi đường bộ qua Nam Ninh, Quảng Châu, Hồng Châu, Nam Kinh, Tế Nam, Thiên Tân, rồi đến Yên Kinh. Hành trình dài như vậy đã làm tiêu hao sức lực con người đã 70 tuổi như Phùng Khắc Khoan.

Sứ bộ Phùng Khắc Khoan đến Yên Kinh, tạm trú ở quán Ngọc Hà trong 5 tháng liền mà không được bàn đến việc chính là sang xin cầu phong cho vua Lê Thế Tông. Nhưng bằng sở trường của mình, ông đã có quan hệ văn chương với quan lại nhà Minh. Ông đã nắm được tinh thần cốt yếu của thơ nhà Minh đương thời, đàm đạo văn chương, trở thành người bạn văn chương của họ. Thượng thư bộ Lại Trương Vị, một đại học sĩ dạy thái tử rất kính trọng ông.

Được biết vua Minh Thần Tông sắp tổ chức mừng thọ 80 tuổi nên ông đã chuẩn bị ráo riết, làm xong 31 bài thơ trong tập Vạn Thọ Thánh Tiết để dâng lên vua Minh. Chỉ trong mấy tháng, ông đã hoàn thành một công trình văn học nghiêm túc để phục vụ mục đích ngoại giao. Để Vạn Thọ Thánh Tiết không có một sai sót nhỏ, ông phải tìm hiểu dòng dõi các vua Minh cùng gia tộc, kiêng các điều cấm kỵ và nắm được tình hình phát triển thơ ca đời Minh lúc đó. Để có tập thơ được hoàn thiện tối đa, ông đã đưa cho Thượng thư bộ Lại Trương Vị xem mà xin lời đề tựa. Trương Vị đã dâng lên vua Minh tập thơ của Phùng Khắc Khoan, vua Minh xem rất lấy làm bằng lòng, vui thích và đã phê:

Hiền tài hà địa vô chi. Trẫm lãm thi tập, cụ khiến Phùng Khắc Khoan chi trung khổn, thủ khả thâm gia quốc mỹ, tức mệnh hạ khắc bản ban thần thiên hạ (nghĩa là: Hiền tài đất nào chẳng có. Trẫm xem thi tập, thấy rõ Phùng Khắc Khoan là người trung hậu, thật đáng ngợi khen, lệnh khắc bản in ngay để ban hành trong thiên hạ).

Theo sử cũ, trong triều đình nhà Minh lúc đó có phe ủng hộ sứ giả Phùng Khắc Khoan thì công nhận vua Lê. Còn những kẻ ăn tiền của nhà Mạc tìm cách trì hoãn. Song bằng chính tài năng và đức độ của mình, ông đã mềm mỏng, ôn hòa và cương quyết buộc quan nhà Minh phải tổ chức để ông được dâng biểu cầu phong của vua Lê lên vua Minh. Yêu cầu cao nhất của chuyến đi sứ đối với Phùng Khắc Khoan là xin phong vương tuy chưa đạt được, vì vua Minh chỉ phong cho vua Lê chức Đồng thống, nhưng đó cũng là một thắng lợi quan trọng. Bởi từ việc phong này, vua quan nhà Minh đã phải coi nhà Lê là chính thống, không còn danh nghĩa gì để giúp quân Mạc.

Điều mà người đời sau phải ghi nhận và tôn vinh ông một lần nữa là tấm lòng vì dân của Phùng Khắc Khoan. Vì trong thời gian đi sứ, Phùng Khắc Khoan đã học bằng cách nhập tâm cách dệt the lượt mỏng, cách trồng bắp, mè. Về nước, ông truyền dạy lại cho dân, vì vậy mà được tôn làm ông tổ các nghề ấy. Ngoài ra, ông còn đem về được một số giống lúa tốt, mang lại lợi ích cho dân...