Se trata del primer sabio relacionado con Pechina que se conoce hasta el momento. Su corta genealogía (solo conocemos a su padre Abú Jálid Yazid, de quien tomó su apelativo) hace pensar que era de origen hispano y que fue su progenitor el converso y él ya nació musulmán, por lo que era muladí, aunque llevaron el gentilicio árabe de al-Ansari, el más utilizado en al-Ándalus, que debió de ser por relación de clientela.

Aunque su biógrafo lo considere de Pechina, añade que nació y murió en Elvira, si bien al ser esta también la cora en la que estaba encuadrada aquella, no podemos determinar si se refiere a la ciudad o a la circunscripción administrativa. Gracias al califa al-Ḥakam II sabemos que nació en septiembre u octubre del 844, durante el emirato de Abdarrahmán II. Su padre, que era de Zaragoza, se habría trasladado al Sur.

Muhámmad Ibn Abí Jálid estudió en Córdoba con el sabio Ibn Waddah (m. 900), experto en tradiciones proféticas, derecho y ascetismo, e Ibn al-Qazzaz, que fue imam de la Mezquita Aljama cordobesa, y marchó a la frontera a hacer el ribat, retiro espiritual al servicio de la comunidad. En Elvira escuchó el Muwattaa de Málik b. Ánas, la piedra angular de la escuela jurídica malikí, predominante en al-Ándalus; la estudió con el jurista Áhmad b. Sulaymán (m. 909). Otros maestros suyos fueron el jurista Yahya b. Yahya al-Layzi y Abú l-Músab al-Zuhri.

Viajó a Oriente y cumplió con el precepto de la peregrinación, además de estudiar en Egipto con el historiador Muhámmad b. Abdallah b. Abdalhákam (m. 882) y en Cairuán con discípulos de Sahnún la obra de éste titulada al-Mudawwana, cuyas cuestiones jurídicas memorizó.

Pudo ser uno de los que llevaron una vida de retiro espiritual en lo que luego sería Almería, pues se dice que fue persona virtuosa que se alejó del poder terrenal. Se cuenta que el zabazoque (sáhib al-suq, el encargado del mercado) recurría a él, yendo a su casa, para asesorarse, si bien él se mostraba reacio a atenderlo. Se trasladó a Elvira un mes antes de fallecer en septiembre u octubre de 929 o unos pocos años después.

Tuvo un hijo que murió antes que él y cuyos conocimientos alabó el maestro de Pechina Salama b. Fadl (m. 940/1 o 949/50 en Córdoba). Entre sus discípulos cabe citar a Abú Úmar Ibn al-Batini (m. 940-41), que llevó ya la nisba (adjetivo de relación) de al-Mariyi, relativo a Almería, antes de su fundación oficial, y también al cadí de Pechina y Elvira Ibn ash-Shaqqaq (m. 956).