Ngay sau khi chiếm được Sài Gòn, tháng 10 năm 1865 quân đội Pháp đã cho xây một cột cờ với tên gọi Mât des Signaux để hướng dẫn thuyền tàu vào bến hay qua lại khu vực sông Sài Gòn và kênh Bến Nghé.
Theo chữ Hán Việt là Thủ Ngữ, có nghĩa trao đổi tín hiệu giữa người trên bờ với người dưới tàu thuyền, giống như hai tàu thuyền trao đổi tín hiệu lúc gặp nhau. Cột cờ này giống cột cờ trên tàu thuyền, luôn phất phới trước gió như gọi chào những ai mới lần đầu đặt chân tới vùng đất Gia Định- Bến Nghé.
Từ khi xây dựng đến nay đã gần 150 năm, Cột cờ Thủ Ngữ đã là “nhân chứng” của biết bao biến cố lịch sử thành phố trong cả hai cuộc kháng chiến chống thực dân Pháp và đế quốc Mỹ.
Nói về Cột cờ Thủ Ngữ chắc chắn chúng ta sẽ mãi không thể quên được một huyền thoại. Huyền thoại về những người lính tự vệ đã anh dũng chiến đấu, hy sinh đến hơi thở cuối cùng để bảo vệ thành phố trước súng đạn của người Anh.
Công trình này gắn liền với Bến cảng Nhà Rồng, nơi chứng kiến cảnh người thanh niên yêu nước Nguyễn Ái Quốc lên tàu tìm đường cứu nước cách đây hơn 100 năm.
Chính nơi đây cũng là một trong những chứng tích lịch sử của sự kiện Nam Bộ đồng loạt vùng lên kháng chiến ngày 23 tháng 9 năm 1945
Tháng 4 năm 2009, UBND TP.HCM đã bàn giao công trình Cột cờ Thủ Ngữ cho Sở VH-TT-DL để trùng tu sửa chữa và tôn tạo lại công trình mang tính lịch sử này.
Ngày nay, bên cạnh những công trình mới, mang nét tiêu biểu đại diện cho hình ảnh trẻ trung và đầy năng động của thành phố thì Cột cờ Thủ Ngữ vẫn mang trong mình một dấu ấn rất riêng và đặc biệt. Hình ảnh lá cờ đỏ sao vàng tung bay trước gió như tượng trưng cho sức trẻ của một thành phố đang phát triển, khao khát trỗi dậy mỗi ngày.