از خاندان، تحصیلات و زندگی باباطاهر اطلاعات صحیحی در دسترس نیست اما بنا به نوشته راوندی در راحةالصدور، باباطاهر در سال ۴۴۷ هجری با طغرل سلجوقی دیدار کرده و مورد احترام وی نیز قرار گرفته است. در یکی از دوبیتی‌های مشهورش سال تولدش را به حروف ابجد گنجانیده که پس از محاسبه توسط میرزا مهدی خان کوکب به سال ۳۲۶ هجری رسیده‌است. اما رشید یاسمی با استناد به همان دو بیتی و اشاره به اهمیت عدد ۱۰۰۰ نزد اغلب ملل برآن رفته است که مقصود باباطاهر از واژه الف سال ۱۰۰۰م بوده و در نتیجه مقارن سالهای ۳۹۰ و ۳۹۱ (برابر با ۱۰۰۰ میلادی) زاده شده استاو پس از ۸۵ سال زندگی، در همدانوفات یافته است.آرامگاه باباطاهر در شمال شهر همدان و در میدانی به نام وی قرار دارد.

 

خداوندا به فریاد دلم رس   کس بی کس تویی من مانده بی کس
همه گویند طاهر کس نداره   خدا یار منه چه حاجت کس