شهرت او بیشتر به‌خاطر نگارش کتاب معروف به تاریخ بیهقی است که مهمترین منبع تاریخی در مورد دوران غزنوی است. او اوائل عمر را در نیشابور به تحصیل دانش اشتغال داشت، سپس به سمت دبیری وارد دیوان محمود غزنوی و حکمرانان بعد از او شد و در سال ۴۱۸ ه. ش. پس از درگذشت استادش بونصر مشکان به سمت دبیر دیوان شاهی برگزیده شد.

در روزگار عبدالرشید غزنوی، هفتمین امیر غزنوی، بیهقی به بالاترین مقام در دیوان، صاحب دیوان رسالت رسید. در همین دوران گرفتار تهمت و کین بداندیشان شد. امیربدگمان او را از کار برکنار کرد و به زندان انداخت.

طغرل، غلام گریخته دربار محمود بر امیر عبدالرشید شورید و او را کشت. باز بیهقی به زندان افتاد به همراه گروهی دیگر از درگاهیان و درباریان. وی در سال ۴۳۷ ه. ش. پس از آزادی از زندان شروع به نوشتن کتاب معروف خود، تاریخ بیهقی، نمود.

یکی از بخش‌های بسیار گیرای این کتاب داستان حسنک وزیر است. بیهقی هشتاد و پنج سال زیست و در سال ۴۵۶ ه. ش در گذشت و به این ترتیب نوزده سال پس از اتمام تاریخ خویش زنده بوده و هرگاه به اطلاعات تازه‌ای در زمینه کار خود دسترسی می‌یافته، آن را به متن کتاب می‌افزوده‌است.

بیهقی در دوران جدید، کشف مورلی (Morley)، خاورشناس انگلیسی است. او که در نیمه سده نوزدهم در هندوستان می‌زیسته چند نسخه از کتاب تاریخ بیهقی را فراهم آورد؛ اما اجل مجال انتشارش را نداد. دوست نزدیک او، کاپیتان ویلیام مسولیس (Captain William Massolis)، در سال ۱۸۶۲ برای نخستین بار تاریخ بیهقی را در شهر کلکته هند به چاپ رسانید. کتاب تاریخ بیهقی نخستین بار در ایران توسط علی‌اکبر فیاض تصحیح شده‌است.