Los que escriben acerca de su vida, principalmente san Efrén con quien le unió una estrecha amistad, no mencionan el lugar de su vida de anacoreta, sí el territorio: Mesopotamia y, probablemente, en la cercanía de Edesa. Pasó más de cincuenta años en el desierto.
Hijo de padres ricos que también sabían ser buenos. Ven a su hijo tan bueno y leal que deciden casarlo con hija de buena familia escogida entre sus amistades y comprometen su matrimonio hasta que tengan la edad y puedan contraerlo. Parece que a Abraham no le agrada la idea lo más mínimo y que hasta la desprecia porque sus planes futuros van por otro derrotero. Pero el tiempo pasó y llegó la hora de casarse sin más dilaciones; ha pedido a su padre que lo libere del compromiso, mas no hay medio que haga desistir al progenitor de la palabra dada; por fin, el respeto paterno pudo más que sus propios deseos.
Lo que sucedió la noche de bodas, después de haber celebrado la fiesta con la grandiosidad propia de gente pudiente, fue lo imprevisto. Se escapa de casa huyendo; parece ser que solo Dios ocupa su corazón y a él quiere entregarlo. No ha mediado una sola palabra ni ha dado explicación; lo ha hecho en secreto. Solo tiene ganas de esconderse y lo hace en una cueva cercana que encontró.
Todos han pasado diecisiete días de trajín andando en su búsqueda, removiendo matojos y adentrándose en los agujeros de las peñas. Al encontrarlo, todo son ruegos, lágrimas, caricias y hasta amenazas, pero el que no supo imponerse en su momento mantiene ahora una actitud inflexible. Consigue de la esposa defraudada el consentimiento de una perpetua separación y del autoritario padre la promesa de no interrumpir en adelante su voluntario retiro.
Con veinte años ha comenzado Abraham su vida de soledad. Vive en una celda con ventanilla al campo y allí se entrega a la oración y a la penitencia. Sus bienes son ahora una escudilla de madera para comer y beber, una estera de juncos, un manto y un cilicio; el alimento ordinario son las hierbas y raíces que el campo le da. La gente empieza a tener noticia de la existencia del solitario penitente en aquellos contornos; primero por curiosidad, y luego por interés espiritual se le van aproximando los vecinos, que transmiten más y más sus méritos y santidad. Siempre le vieron alegre y con carácter apacible.
El obispo de Lampsaco (ahora, la ciudad turca de Lapseki) conoce su virtud; como tiene en su territorio un poblado en donde solo impera el paganismo, no ha pensado en mejor varón para convertirlos que en Abraham, y por eso le da el encargo de predicarles a Cristo después de hacerlo sacerdote.
El santo penitente deja su celda por amor a la Iglesia, que no por gusto personal. Lo primero que hace al llegar a su destino es edificar un templo grande, hermoso y digno de Dios; pasa las noches en oración, se lamenta de la ceguera de los incrédulos y gime ante las imágenes de los ídolos. Un día, animado por el edicto de Constantino, rompe las estatuas de las falsas divinidades. Como era de esperar, los paganos responden montando en cólera y propinándole una paliza de muerte. Al día siguiente, se repite la historia entre la invitación a seguir al Dios verdadero y los palos que recibe. Tres años pasan alternándose la predicación y los vapuleos hasta que su perseverancia consigue el fruto. El pueblo se ha decidido a asistir al templo ante la inusitada actitud de Abraham que ya está disponiendo las cosas para comenzar a administrar el bautismo a medida que va formando a los paganos en la fe verdadera. Convertido el pueblo, se retira nuevamente a su ansiada soledad.
Mezcladas la verdad histórica de la santidad de este hombre de Dios con los añadidos de la cándida fábula es difícil separar los elementos que corresponden a una y otra fuente. Algunos biógrafos añaden la conversión que hizo de una sobrina suya dedicada a artes nada recomendables y que termina sus días como penitente arrepentida junto a la celda del santo.