Trong Cách mạng Tháng Tám, chưa liên lạc được với trung ương, ông Giàu tự phân tích tình thế và phát động khởi nghĩa giành chính quyền. Một tháng sau, ông Giàu đứng trước tình thế tướng giữ thành bị đánh úp, phải quyết định kháng chiến trước khi có lệnh của trung ương.

Theo nghị quyết hội nghị Postdam (Đức) của các nước Đồng minh thắng trận, đầu tháng 9-1945, quân Anh đổ vào Nam Bộ để giải giới quân Nhật. Nhằm giúp quân Pháp tái đô hộ Việt Nam, trưởng phái bộ Anh đã ngầm lấy vũ khí của quân Nhật giao cho quân Pháp.

Phái bộ Anh buộc ta phải thả những tên Pháp gây rối bị ta bắt trong ngày mít-tinh mừng Quốc khánh 2-9 và yêu cầu UBND Nam Bộ giao lại trụ sở (dinh Thống đốc Nam Kỳ cũ, nay là Bảo tàng cách mạng) cho họ. Anh cho quân Pháp thay thế quân Nhật canh gác một số nơi trọng yếu trong thành phố. Ngày 20-9-1945, phái bộ Anh tuyên bố giữ quyền kiểm soát thành phố, thả hết lính Pháp ra và buộc lực lượng vũ trang của ta phải ra khỏi thành phố. Trước tình thế ấy, Xứ ủy, UBND Nam Bộ hết sức kiềm chế nhưng cũng tích cực, khẩn trương chuẩn bị kháng chiến.

Giữa đêm 22 rạng 23-9-1945, quân Pháp nổ súng đánh chiếm trụ sở UBND Nam Bộ (nay là trụ sở UBND TP.HCM), Sở Cảnh sát, trại Cộng hòa vệ binh, ngân hàng, khám lớn v.v… Các đơn vị tự vệ đã nổ súng chống trả quyết liệt suốt đêm. Tại cột cờ Thủ Ngữ, quân Anh bắt buộc các chiến sĩ tự vệ phải hạ cờ đỏ sao vàng, lực lượng tự vệ bất tuân và đã chiến đấu đến viên đạn cuối cùng, người chiến sĩ cuối cùng. Khâm phục tinh thần này, đơn vị quân Anh đã lập dàn chào các liệt sĩ của ta trước khi chiếm giữ cột cờ.

Ngay trong đêm ấy, ông Giàu viết lời kêu gọi kháng chiến và triệu tập gấp cuộc hội nghị liên tịch giữa Tổng bộ Việt Minh, Xứ ủy, UBND và Ủy ban Kháng chiến tại số 629 đường Cây Mai (nay là Nguyễn Trãi). Cuộc họp bắt đầu trước hừng sáng ngày 23. Dự hội nghị có: Hoàng Quốc Việt, Cao Hồng Lãnh (đại diện Trung ương Đảng và Tổng bộ Việt Minh), Ung Văn Khiêm, Nguyễn Văn Nguyễn (của Xứ ủy), Phạm Ngọc Thạch, Ngô Tấn Nhơn (của UBND), Huỳnh Văn Tiểng, Trần Văn Giàu (của Ủy ban Kháng chiến)… Ông Giàu báo cáo tình hình: … xin hội nghị quyết định kháng chiến. Yêu cầu hội nghị thông qua lời kêu gọi kháng chiến.

Giặc đã tấn công, cứ tưởng chuyện kháng chiến là đương nhiên nhưng bắt ngờ có ý kiến phản bác cho rằng chiến hay hòa là chuyện quốc gia. Phải báo cáo để trung ương quyết định, Xứ ủy không thể tự quyền.

Huỳnh Văn Tiểng cho rằng: Ta chưa chính thức kêu gọi kháng chiến mà tự vệ, dân quân, thanh niên, công đoàn đã bắt đầu đánh trả quân địch rồi. Nếu ta không kêu gọi kháng chiến thì ta sẽ không lãnh đạo được phong trào kháng chiến của quần chúng nữa, ta sẽ mất hết uy tín, quần chúng sẽ chán chê sự do dự của ta, ta còn lãnh đạo được ai nữa. Ông Giàu tiếp lời: Tất nhiên là ta phải báo cáo thỉnh thị. Nhưng ta không chờ có chỉ thị kháng chiến mới bắt đầu kháng chiến. Trong tình hình hiện giờ chắc chắn trăm phần trăm là Trung ương Đảng và Chủ tịch Hồ Chí Minh tán thành kháng chiến. Không thể khác. Nếu ta chờ lệnh đánh mới đánh thì địch sẽ có lợi thế nhiều quá, ta sẽ thất thế nhiều quá. Không nên chờ. Phải đánh trả ngay…

Vẫn có ý kiến phản bác, cuộc họp vô cùng căng thẳng. Cuối cùng ông Giàu nói, tay nắm chặt dằn xuống bàn như sắp làm một việc gì có tính chất quyết định số phận của chính mình: “Tướng ở biên cương cũng như tướng ở nội địa và ở kinh thành đều phải theo lệnh vua, nguyên tắc là như vậy. Song, tướng ở biên cương có khi không chờ lệnh vua trong trường hợp nếu chờ lệnh vua thì địch lấy mất biên ải, tràn vào nội địa, cướp của, bắt người, chiếm đất. Tướng biên cương phải biết tự quyết định theo đường lối bảo vệ đất nước mình. Tướng biên cương cũng có thể làm khác, thậm chí làm khác lệnh vua trong trường hợp lệnh vua tới nơi thì tình hình đã khác hẳn, nếu theo lệnh cũ thì hại cho dân, cho nước, cho vua. Tướng biên cương phải biết quyền biến, hoặc tử thủ để làm chậm bước tiến của địch, hoặc rút lui để bảo toàn chủ lực, hoặc phản công để tiêu diệt địch, làm những việc mà trong lệnh vua không có… Vua sẽ xem xét sau, đúng thì khen, sai thì trị tội, thì chém đầu. Tôi bây giờ là tướng biên cương. Tôi thấy có trách nhiệm phải quyết định, phải quyền biến”.

Ông Giàu đưa bản “kêu gọi” cho Huỳnh Văn Tiểng đem đi in ngay ở tất cả nhà in Chợ Lớn với số lượng lớn cho kịp phát và dán ngay buổi sáng. In như thế nào cái để dán trên tường, cái để chuyền tay, gửi các ôtô đi lục tỉnh. Thế nhưng cũng ngay trong ngày hôm ấy có một lời kêu gọi khác yêu cầu nhân dân Nam Bộ bình tĩnh, kiềm chế, chờ lệnh của trên. Bốn ngày sau, nhân dân Nam Bộ nhận được huấn lệnh của Chính phủ.

Bản huấn lệnh cho thấy Hồ Chủ tịch và Chính phủ đã nhất trí với quyết tâm của người tướng giữ biên cương.

Ngay sau hội nghị, ông Giàu chuyển trụ sở kháng chiến về Chợ Đệm và tổ chức hội nghị quân sự thống nhất các lực lượng vũ trang kháng chiến, vạch chiến lược phòng tuyến vòng ngoài, mở ra bốn mặt trận đánh địch ở bốn hướng. Quân đội Pháp những tưởng nhanh chóng chiếm được Nam Bộ đã bị bao vây trong chảo lửa Sài Gòn. Chỉ một thời gian ngắn sau đó, ông Giàu và Phạm Ngọc Thạch được triệu tập ra Bắc nhận nhiệm vụ mới. Từ Chợ Đệm nhìn về Phú Lâm, Tham Lương còn đang đỏ lửa, người tướng giữ biên cương bùi ngùi từ giã Sài Gòn. Mãi đến 32 năm sau, năm 1977, ông mới quay trở lại.

Lời kêu gọi của Ủy ban Kháng chiến Nam Bộ Đồng bào Nam Bộ! Nhân dân thành phố Sài Gòn! Anh em công nhân, thanh niên, tự vệ, dân quân, binh sĩ! Đêm qua, thực dân Pháp đánh chiếm trụ sở chính quyền ta ở trung tâm Sài Gòn. Như vậy là Pháp bắt đầu xâm chiếm nước ta một lần nữa. Ngày 2 tháng 9, đồng bào đã thề quyết hy sinh đến giọt máu cuối cùng để bảo vệ độc lập của Tổ quốc: “Độc lập hay là chết!”. Hôm nay, Ủy ban Kháng chiến kêu gọi: Tất cả đồng bào, già, trẻ, trai, gái, hãy cầm võ khí xông lên đánh đuổi quân xâm lược. Ai không có phận sự do Ủy ban Kháng chiến giao phó thì hãy lập tức rời khỏi thành phố. Những người còn ở lại thì: – Không làm việc, không đi lính cho Pháp. – Không đưa đường, không báo tin cho Pháp. – Không bán lương thực cho Pháp. – Hãy tìm thực dân Pháp mà diệt. – Hãy đốt sạch tất cả các sở, xe cộ, tàu bè, kho tàng, nhà máy của Pháp. Sài Gòn bị Pháp chiếm phải trở thành một Sài Gòn không điện, không nước, không chợ búa, không cửa hàng. Hỡi đồng bào! Từ giờ phút này, nhiệm vụ hàng đầu của chúng ta là tiêu diệt giặc Pháp và tiêu diệt tay sai của chúng. Hỡi anh em binh sĩ, dân quân, tự vệ! Hãy nắm chặt võ khí trong tay, xông lên đánh đuổi thực dân Pháp, cứu nước. Cuộc kháng chiến bắt đầu! Sáng ngày 23 tháng 9 năm 1945 Chủ tịch Ủy ban Kháng chiến Nam Bộ Trần Văn Giàu