Được tiếp đón niềm nở và đối xử thân tình nên hai bà Dung, Cúc yên tâm học tập và cùng với bà Bùi Thị Nhạn, Trần Thị Lan kết làm chị em, tôn bà Bùi Thị Xuân vừa lớn tuổi vừa tài đức hơn trội làm chị cả. Vì vậy, nhân dân thời đó xưng tụng năm bà là Tây Sơn ngũ phụng thư.
Theo sách “Đại Việt thông sử”, vào thời hậu Lê có hai nữ tướng tài ba, đó là Nguyễn Thị Dung và Huỳnh Thị Cúc. Cả hai nữ tướng đều là người tỉnh Quảng Ngãi, song vì gia nhập vào phong trào Tây Sơn và lập nhiều thành tích nên được ghép vào hàng ngũ “Tây Sơn Ngũ phụng thư”. Cũng theo sách trên, Nguyễn Thị Dung là em ruột của Nguyễn Văn Xuân, là người đồng hương và bạn thân với Huỳnh Văn Thuận. Hai ông là người có tài văn học, nghe tiếng thầy Trương Văn Hiến nên rủ nhau đem theo em gái vào An Thái xin thọ giáo.
Sau khi diện kiến, hai ông được thầy giáo Hiến thu nhận làm môn sinh. Riêng hai cô gái thì vì môn quy không nhận dạy nữ môn sinh nên thầy giáo Hiến từ chối. Tuy nhiên, nhìn tướng mạo hai cô gái biết là bậc cân quắc anh hùng nên thầy giáo Hiến viết thư giới thiệu cùng Bùi Thị Xuân. Được tiếp đón niềm nở và đối xử thân tình nên hai bà Dung, Cúc yên tâm học tập và cùng với bà Bùi Thị Nhạn, Trần Thị Lan kết làm chị em, tôn bà Bùi Thị Xuân vừa lớn tuổi vừa tài đức hơn trội làm chị cả. Vì vậy, nhân dân thời đó xưng tụng năm bà là Tây Sơn ngũ phụng thư.
Kể từ đấy, hai bà Dung, Cúc đã nhập vào phong trào Tây Sơn và xem Bình Định là quê hương thứ hai của mình. Nguyễn Thị Dung, người khỏe mạnh, rất ham mê cưỡi ngựa múa đao, làm tì tướng cho Bùi Thị Xuân, bà đã giúp rất nhiều công trong việc huấn luyện nữ binh. Bà kết duyên cùng một danh tướng Tây Sơn là Trương Đăng Đồ, người làng Mỹ Khê, huyện Sơn Tịnh, tỉnh Quảng Ngãi. Ông Đồ là chú ruột của Trương Đăng Quế – một tướng tài văn võ kiêm toàn của triều Nguyễn sau này. Tướng Đăng Đồ lập nhiều công lớn, được vua Quang Trung phong tước Tú Đức Hầu, chức Đô đốc. Bà Nguyễn Thị Dung luôn theo sát bên chồng, lúc thì xông pha trận mạc, khi thì rèn luyện binh sĩ, đôn đốc việc canh tuần.
Năm Nhâm Tuất (1802), vợ chồng Tú Đức Hầu theo Nguyễn Quang Thùy lên đánh Trấn Ninh. Thành Trấn Ninh được phòng giữ nghiêm ngặt nên đánh mãi không hạ được. Sau khi nghe tin đại binh ở Đâu Mâu rút lui, Nguyễn Quang Thùy cùng vợ chồng Trương tướng quân theo đường núi về Nghệ An rồi ra Bắc. Khi quân nhà Nguyễn tràn ra Thăng Long, vua Bửu Hưng chạy về phía Bắc để thành Thăng Long lại cho Nguyễn Quang Thùy và vợ chồng Tú Đức Hầu chống giữ. Sau vài trận giao tranh, biết thế không chống nổi, bà Nguyễn Thị Dung cùng chồng mở đường máu hộ giá Nguyễn Quang Thùy chạy về ngả Sơn Tây. Mục đích để nhử giặc chạy theo hướng này mà không đuổi theo xa giá vua Bửu Hưng. Lên đến Sơn Tây thì nghe tin vua Bửu Hưng bị bắt. Thế cùng, binh tận, sau một trận chiến oai hùng cả ba đều bị bắt. Nguyễn Quang Thùy đập đầu tuẫn tiết. Vợ chồng Tú Đức Hầu cũng rút gươm tự sát.
Huỳnh Thị Cúc người mảnh mai. Tuy không nhan sắc nhưng dịu dàng, nết na. Ra ngoài đường như một thôn nữ hiền lành, không ai biết là một nữ hiệp tài ba. Bà được Bùi Thị Xuân đặc biệt mến yêu, xem như là em út ruột thịt. Bà được chân truyền môn song kiếm và cưỡi ngựa không yên cương, chỉ dùng hai chân điều khiển. Luôn luôn ở cạnh chị, Huỳnh Thị Cúc nhất định không lấy chồng, mặc dù có nhiều danh tướng Tây Sơn đã từng nhờ Bùi nữ tướng làm mai mối.
Trong trận chiến công phá Đâu Mâu, nữ tướng họ Huỳnh đã sát cánh cùng Bùi nữ tướng hợp lực chiến đấu khi công thành. Khi Bùi nữ tướng vượt được lên thành thì bên cạnh đã có Huỳnh Thị Cúc. Bà luôn che chở phía sau cho Bùi nữ tướng bảo giá vua Cảnh Thịnh qua sông. Quân địch bị Huỳnh Thị Cúc ngăn chặn dồn lại bên bờ Linh Giang. Các nữ binh đã một lòng với chủ tướng nên trận chiến kéo dài qua một đêm.
Sáng hôm sau, Huỳnh Thị Cúc cùng mười nữ binh còn sống sót, áo ướt đẫm máu về đến thành Nghệ An. Vừa trông thấy Bùi nữ tướng, Huỳnh Thị Cúc vội chạy đến ngã vào lòng chị. Bùi nữ tướng ôm lấy em. Huỳnh Thị Cúc nhìn chị lần cuối cùng rồi tắt thở.
Lời bàn về các nữ tướng trong Tây Sơn ngũ phụng thư
Quang Trung – Nguyễn Huệ không chỉ là vị anh hùng dân tộc vĩ đại của Việt Nam thế kỷ XVIII mà ông còn là nhà quân sự, chính trị, ngoại giao thiên tài. Vậy nên, dưới cờ đào của Người anh hùng áo vải, trí tuệ, tâm lực của các nhân tài, tướng soái đã phát huy đầy đủ, góp phần to lớn vào thắng lợi chung của toàn dân tộc. Vì thế, dưới trướng của ông không chỉ có “Thất hổ tướng” mà còn có “Ngũ phụng thư”. Tây Sơn Ngũ phụng thư là danh hiệu của năm phụ nữ nổi bật của nhà Tây Sơn, gồm có: Bùi Thị Xuân là vợ Thiếu phó Trần Quang Diệu. Bùi Thị Nhạn là một trong số các vợ của tướng Nguyễn Huệ. Trần Thị Lan là vợ của Đô đốc Nguyễn Văn Tuyết. Huỳnh Thị Cúc không có chồng và là nữ tướng dưới quyền của Bùi Thị Xuân. Bùi Thị Dung là vợ của tướng Trương Đăng Đồ.
Lịch sử chống ngoại xâm của dân tộc Việt Nam đã sản sinh ra rất nhiều nữ tướng anh hùng hào kiệt, bất khuất và không ít người trong số đó đã trở nên bất tử với cái chết trung liệt của mình được đời đời kính ngưỡng. Cái chết lẫm liệt, bất tử của các nữ tướng Tây Sơn, mà đặc biệt là cái chết của Đô đốc Bùi Thị Xuân đã để lại dấu ấn sâu đậm không chỉ trong lòng người đương thời mà còn được truyền lại qua nhiều thế hệ hôm nay và mãi mãi về sau.