Hàng Giáo phẩm Việt Nam được thành lập vào ngày 24 tháng 11 năm 1960, tuy nhiên, cách mốc đó 27 năm, vào năm 1933, Việt Nam, lúc bấy giờ là một phần của Liên bang Đông Dương, bắt đầu có giám mục người bản địa đầu tiên. Vị giám mục đầu tiên được tấn phong đó là Gioan Baotixita Nguyễn Bá Tòng, thuộc Giáo phận Phát Diệm.

Ngày 10 tháng 01 năm 1933, Đức Giáo hoàng Piô XI ra sắc lệnh bổ nhiệm Linh mục Gioan Baotixita Nguyễn Bá Tòng làm Giám mục Hiệu tòa Sozopoli, giữ chức Giám mục phó với quyền kế vị giáo phận Phát Diệm.

Trong buổi tấn phong giám mục tại Đền thánh Phêrô, Roma, ngày 11 tháng 6 năm 1933, cùng Nguyễn Bá Tòng, còn có 4 giám mục khác đến từ châu Á là Đức cha Attipetty của Ấn Độ và ba giám mục Trung Hoa là Giuse Fan, Ts’oei và Mathêu Ly.

Lần đầu tiên một người Việt được phong chức giám mục, là kết quả của một quá trình dài ngót nghét 4 thế kỷ từ khi công giáo du nhập vào Việt Nam.

Năm 1934, Giám mục Nguyễn Bá Tòng được bầu vào Ủy ban nghiên cứu về tài chính của Giáo hội Việt Nam.

Ngày 15 tháng 10 năm 1935, nhân ngày kỷ niệm 40 năm làm giám mục, Giám mục Alexandre Marcou Thành lãnh đạo giáo phận Phát Diệm từ giã Phát Diệm về Thanh Hóa nghỉ hưu. Giám mục Nguyễn Bá Tòng chính thức làm giám mục giáo phận này.

Giám mục Nguyễn Bá Tòng nổi tiếng là một người chăm lo cho việc học hành của những người nghèo. Ở Sài Gòn trước 1975 có trường Trung học Nguyễn Bá Tòng với ý biểu dương công đức của ông và hiện nay có con đường mang tên ông ở phường 11, quận Tân Bình.