Tùy văn Đế Dương Kiên là vị hoàng đế ôm hoài bão lớn, vừa dựng lên triều Tùy, ông hạ quyết tâm tiêu diệt nhà Trần ở miền Nam để thống nhất Trung Quốc. Từ quốc lực quân lực mà luận: triều Tùy quả thật mạnh hơn triều Trần rất nhiều. Nhưng đối với kế hoạch vĩ đại này, Tùy Văn Đế còn nhiều lo lắng trong lòng.
Đất đai triều Tùy rộng lớn: phía nam giáp sông Trường Giang, phía đông giáp Tam Hiệp, phía đông nam sát biển. Từ những năm cuối đời Tây Tấn đến nay, có nhiều người miền Bắc dời đến miền Nam sinh sống, bọn họ cùng nhân dân miền Nam nỗ lực xây dựng nền kinh tế văn hóa, nền kinh tế của triều Trần có sự phát triển tương đối mạnh, quân đội Trần trong một vài khu vực có sức chiến đấu mãnh liệt, thậm chí bất cứ lúc nào cũng có khả năng xâm phạm biên cương nhà Tùy. Hoàng đế cuối cùng của triều Trần là Trần Thúc Bảo hoang dâm bất chính khiến quốc gia dần đi tới mục nát yếu kém, điều đó giúp triều Tùy đủ khả năng tiêu diệt triều Trần một cách dễ dàng. Nhưng con sâu có một trăm chân chết mà không bế tắc huống hồ vùng Giang Nam rộng lớn, xoay chuyển xung quanh tự do thoải mái. Một khi dụng binh không thể trong thời gian ngắn là thu phục được. Hơn nữa chính quyền Tùy vừa mới thành lập không thể hứng nhận nhiệm vụ trọng đại này.
Điều khó nhất là triều Trần có rãnh trời Trường Giang từ đầu nguồn phía tây Vũ Xương (nay thuộc phía tây thành phố Nghi Xương tĩnh Hồ Bắc) cho đến các thị trấn quân sự quan trọng ở Thái Thạch (nay thuộc phía bắc Đương Đồ tỉnh An Huy), Kinh Khẩu (nay thuộc Trấn Giang tỉnh Giang Tô), Kiến Khang (nay thuộc Nam Kinh tỉnh Giang Tô) đều chịu sự khống chế của quân Trần. Lúc đó triều Trần rải 20 vạn quân bố trí tỉ mỉ chặt chẽ , điều động linh hoạt, như vậy dù triều Tùy cố gắng xuất quân, sợ rằng phải vùi xác ở đáy sông.
Còn nữa, láng giềng phía bắc của triều Tùy là tộc Đột Quyết, là nỗi đau đầu cho người Hán. Lúc đó tộc Đột Quyết đang ở thời kỳ chế độ nô lệ nhưng họ có 10 vạn kỳ binh hành động dũng mãnh, chuyển động phi thường. Giả sử gặp thời cơ, liền phi ngựa cướp bóc, nếu đụng kẻ địch mạnh, trong chốc lát đã chạy trốn. Quân lực triều Tùy vốn dĩ không mạnh bằng tộc Đột Quyết, huống hồ còn muốn dồn lực lượng chính xuống Nam hạ tấn công chinh phạt triều Trần, vì vậy dễ có cảnh trộm gà không xong mà còn mất gạo, xuống miền Nam không giành thắng lợi mà còn bị tộc Đột Quyết quấy nhiễu cướp bóc.
Đắn đo cân nhắc, vì chuyện này Tùy Văn Đế không thể khinh suất làm xằng, nhưng hoài bão lý tưởng luôn bùng cháy, chí hướng không thay đổi. Ông hành động nhẹ nhàng, từ tốn, chưa đánh mà đã gây hậu quả diệt nước Trần, mở ra công tác chuẩn bị trường kỳ.
Đầu tiên phải tiêu diệt mối lo lắng ngay sát bên cạnh bắt đầu từ tộc Đột Quyết. Xây dựng triều Tùy không lâu, Tùy Văn Đế phái Dương Quảng trấn thủ tại Thái Nguyên thuộc tỉnh Sơn Tây, Hạ Nhược Bật trấn giữ tại Dương Châu thuộc Giang Tô, và Hàn Cầm Hổ trấn giữ tại Hợp Phì tỉnh An Huy, tạo ra sự bố trí chinh phạt miền Nam trấn giữ miền Bắc. Năm 581, Tùy Văn Đế hạ lệnh cho Cao Cảnh thống lĩnh quân đội bắt đầu mở cuộc tấn công nhà Trần với qui mô lớn nhưng vẫn mang tính chất thăm dò. Không ngờ nhân lúc quân Tùy hành động, tộc Đột Quyết liên kết với một lại sứ (vốn dĩ anh ta làm quan ở triều Bắc Tề) để đánh vào cửa ải Sơn Hải của triều Tùy, chuẩn bị mở cuộc chiến lớn xâm lược miền Nam. Tùy Văn Đế nhận thấy rằng không dễ gì khống chế tộc Đột Quyết, triều Tùy có thể trở thành con bọ ngựa bắt con ve, xuống phía Nam tấn công triều Trần, bỏ lại kinh đô - như vậy khác gì một miếng mồi ngon cho tộc Đột Quyết. May thay Trần Tuyên Đế ốm chết. Tùy Văn Đế mượn cớ "kính lễ không phạt tang" và ra lệnh thu quân. Hạ quyết tâm thu phục tộc Đột Quyết để trói buộc việc chinh phạt triều Trần. Trải qua gần 4 năm cố gắng đấu trí và đấu lực, cuối cùng Tùy Văn Đế hàng phục các bộ tộc Đột Quyết, bọn họ phải xưng thần với triều Tùy.
Diệt triều Trần cần phải qua sông đánh trận, nếu không có thuyền chiến cùng thủy quân tinh nhuệ thì tất tốn thời gian và phí sức lực. Do đó, vừa hàng phục xong tộc Đột Quyết, năm 585, Tùy Văn Đế ra lệnh cho Dương Tố làm tổng quan Tín Châu (nay thuộc Phùng Tiết ở Tứ Xuyên) chuẩn bị thuyền chiến. Dương Tố phụng mệnh rồi sai người đóng một loạt thuyền chiến. Thuyền lớn gọi là "Ngũ Nha", thuyền có 5 tầng, cao 100 tấc bày đặt 6 lô cốt, cao 50 tấc, có thể chứa 800 người, thuyền nhỏ có các tên gọi như: "Hoàng Long", "Bình Thăng"... cũng có sức chứa 100 người. Ngoài việc vượt rãnh trời Trường Giang, còn tiến hành vượt qua các con sông khác, nên công tác chuẩn bị về quân sự, vật chất rất chu đáo chặt chẽ.
Tùy Văn Đế chú trọng vào việc dùng trí mưu hòng giành thắng lợi, ông đề ra nhiều sách lược khiến kẻ địch mê muội, rối rắm, buông lỏng phòng bị.
Thời cơ vượt sông Trường Giang đã chín muồi. Nhưng Tùy Văn Đế vẫn không coi thường kế hoạch, ông ta trưng cầu ý kiến, phối hợp nghiêm túc với các bộ phận tác chiến. Cuối cùng trên cơ sở lắm mưu nhiều lực đồng thời dựa vào hình thế địa lý của sông Trường Giang, lúc này quân Trần đã phân tán lực lượng, Tùy Văn Đế đặt ra kế hoạch tấn công từ nhiều ngả, mà trọng điểm đột phá là khu vực hạ lưu sông Trường Giang. Quân Tùy chia chiến trường làm hai bộ phận lớn: Cửu Giang lấy phía đông làm chiến trường chủ yếu, còn lấy phía tây làm chiến trường thứ yếu. Nhưng cách đánh cụ thể lại không đưa ra quy định cứng nhắc. Ông sắp xếp thủy quân ở Tứ Xuyên, Hồ Bắc, nhiệm vụ quan trọng đầu tiên phái chặn dòng nước chảy vào