Hòa thượng Hoàng Long quê ở Bình Định vân du vào Hà Tiên, đến ở phía Bắc núi Vân Sơn 5 dặm lập chùa tu hành (sau gọi là núi Bạch Tháp). Cảnh chùa thanh tịnh, u tịch, thế núi quanh co, có cây cảnh đẹp.

Hòa thượng Hoàng Long vào hoằng hóa ở Hà Tiên vào thời Tổng binh Cửu Ngọc Hầu Mạc Cửu (?-1735). Cửu Ngọc Hầu Mạc Cửu là một Phật tử thuần thành, có liên hệ với chùa Thập Tháp Di-đà ở Bình Định, có lẽ do đó mà Hòa thượng Hoàng Long vào Hà Tiên hoằng dương Phật pháp.

Năm Ất Mão (1735), Cửu Ngọc Hầu Mạc Cửu chết, con là Mạc Thiên Tứ được chúa Nguyễn Phước Trú ban cho chức Khâm Sai Đô Đốc, tước Tông Đức Hầu, thay thế cha cai trị trấn Hà Tiên.

Năm Bính Thìn (1736), Tông đức hầu Mạc Thiên Tứ lập Chiêu Anh Các để mời các văn nhân tài hoa hội họp, xướng họa thơ. Hòa thượng Hoàng Long cũng được mời vào Chiêu Anh Các.

Năm Đinh Tỵ (1737), Hòa thượng Hoàng Long viên tịch ở chùa trên núi, môn đệ lập tháp bảy từng để táng hài cốt, tháp màu trắng, nên từ đó dân địa phương gọi núi đó là núi Bạch Tháp.

Theo lời tương truyền: Vào lễ Phật Đản hay tiết Tam Nguyên (Rằm tháng giêng, tháng 7, tháng 10), có con hạc đen đến chầu và con vượn xanh đem trái cây đến cúng.

Trong sách “Gia Định Thành Thông Chí” phần chép về núi sông ở trấn Hà Tiên, khi viết về núi Bạch Tháp, An toàn hầu Trịnh Hoài Đức đã viết như sau:

“Ở phía Bắc Vân Sơn năm dặm (núi Bạch Tháp) có thế núi quanh co, cây xanh tươi tốt, có thầy tăng ở Qui Nhơn (Bình Định) là Đại Hòa thượng Hoàng Long đến lập chùa ở đấy.

Đời vua Túc Tông Hiếu Minh Hoàng Đế năm thứ 13,  là năm Đinh Tỵ (1737), Hòa thượng mất, đồ đệ của ông xây tháp bảy từng để trân tàng cốt xá-lợi. Mỗi khi đến thời tiết Tam Nguyên [Tam Nguyên: Thượng Nguyên (Rằm tháng giêng), Trung Nguyên (Rằm tháng 7), Hạ Nguyên (Rằm tháng 10).] và Phật Đản [Phật Đản: Mùng 8 tháng 4 âm lịch.] thì có con hạc đen đến chầu con vượn xanh dâng cúng quả, lưu luyến bồi hồi như có ý muốn tham thiền thính pháp; đáng gọi là nơi tịnh độ tiêu dao vậy !” [Gia Định Thành Thông Chí, Bd. của Tu Trai Nguyễn Văn Tạo, quyển Thượng, trang 104-105.]