ثنای علما بر وی:
ابوبکر بن خطیب می‌گوید: وی امامی ربانی و حافظی متقن بود که بسیار حدیث می‌گفت. وی با احمد بن حنبل همنشین بود و با وی مذاکره‌ی حدیث نموده و از وی حدیث روایت کرده است.
ابن ابی شیبه می‌گوید: [در حدیث] حافظ تر از ابوزرعه ندیده‌ام.
محمد بن اسحاق صاغانی می‌گوید: ابوزرعه به احمد بن حنبل شبیه است.
علی بن حسین بن جنید می‌گوید: کسی ندیدم که بیشتر از ابوزرعه به حدیث مسند و منقطع مالک بن انس آگاه باشد و همچنین در سایر علوم.
ابن ابی حاتم می‌گوید: شنیدم یونس بن عبدالاعلی می‌گفت: کسی متواضع‌تر از ابی زرعه ندیدم در حالی که او و ابوحاتم امامان خراسان بودند.
نسائی می‌گوید: ابوزرعه رازی ثقه است.
اسحاق بن ابراهیم بن عبدالحمید قرشی می‌گوید: شنیدم عبدالله بن احمد می‌گفت: شبی با پدرم حفظم را مرور می‌کردم پس گفت: ای فرزندم حفظ حدیث پیش از این از آن ما بود اما اکنون به خراسان تغییر مکان داده است و نزد این چهار جوان است: ابوزرعه، آن که اهل ری هست و محمد بن اسماعیل که اهل بخارا است و عبدالله بن عبدالرحمن که اهل سمرقند است و حسن بن شجاع که از بلخ است...