Beliau adalah seorang kasim Muslim yang menjadi orang kepercayaan Kaisar Yongle dari Tiongkok (berkuasa tahun 1403-1424), kaisar ketiga dari Dinasti Ming . Nama aslinya adalah Ma He, juga dikenal dengan sebutan Ma Sanbao, berasal dari provinsi Yunnan. Ketika pasukan Ming menaklukkan Yunnan, Cheng Ho ditangkap dan kemudian dijadikan orang kasim. Ia adalah seorang bersuku Hui, suku bangsa yang secara fisik mirip dengan suku Han, namun beragama Islam. Dalam Ming Shi (Sejarah Dinasti Ming) tak terdapat banyak keterangan yang menyinggung tentang asal-usul Cheng Ho. Cuma disebutkan bahwa dia berasal dari Provinsi Yunnan, dikenal sebagai kasim (abdi) San Bao. Nama itu dalam dialek Fujian biasa diucapkan San Po, Sam Poo, atau Sam Po. Sumber lain menyebutkan, Ma He (nama kecil Cheng Ho) yang lahir tahun Hong Wu ke-4 (1371 M) merupakan anak ke-2 pasangan Ma Hazhi dan Wen.