جد بزرگ خواجه عبدالله، ابو ایوب انصاری، همان کسی است که پیامبر اسلام(ص) هنگام هجرت از مکه به مدینه در خانه‌ی او فرود آمد. خواجه عبدالله به سال 396 ه.ق. در هرات ولادت یافت. از کودکی زبانی گویا و طبعی توانا داشت و شعر عربی و پارسی را نیک می‌سرود. او بسیاری از علوم ادبی و دینی و اشعار عربی را حفظ بود و به احادیث پیامبر علاقه می‌ورزید. خواجه تصوف را در محضر شیخ ابوالحسن خرقانی، عارف برجسته‌ی آن روزگار آموخت و بعد از وی، سمت جانشینی او را یافت و در هرات به تعلیم و ارشاد اشتغال داشت تا این که در سال 481 ه. ق. درگذشت.