আলী ইবনুল মাদীনী একজন বড় মুহাদ্দিস ছিলেন। হাদীস শিক্ষায় যাঁহারা তাঁহার উস্তাদ ছিলেন, তাঁহাদের তালিকা দীর্ঘ। তাহা দেখিলে সহজেই ধারণা করা যায় যে, তিনি হাদীস শিক্ষায় অদম্য উৎসাহে দেশ-দেশান্তর পরিভ্রমণ করিয়াছেন।মক্কা, মদীনা, বাগদাদ, কূফা প্রভৃতি হাদীসকেন্দ্র ও হাদীস- সমৃদ্ধ শহরসমূহ ঘুরিয়া তিনি রাসূল (ﷺ)-এর হাদীস শ্রবণ ও সংগ্রহ করিয়াছেন। ইয়েমেন শহরে তিনি এই উদ্দেশ্যেই একাধিক্রমে তিন বৎসর কাল অতিবাহিত করেন। কিন্তু ইয়েমেনে অবস্থানের সময় তিনি হাদীসের প্রাথমিক ছাত্র ছিলেন না, বরং ইহার পূর্বেই তিনি হাদীসের এক বিরাট সম্পদ স্বীয় বক্ষে ধারণা করিয়া লইয়াছিলেন।

তিনি আবদুল্লাহ ইবনে জাফর, হাম্মাদ ইবনে যায়দ, আবূ দাউদ তায়ালিসী ও সাঈদ ইবনে আমের প্রমুখ বড় বড় মুহাদ্দিসের নিকট হইতে হাদীস গ্রহণ করিয়াছেন।

হাদীস গ্রহনের ব্যাপারে তিনি অতিশয় সতর্কতা অবলম্বন করিতেন। তিনি উব্বাদ ইবনে সুহাইব নামক একজন বর্ণনাকারী সূত্রে ত্রিশ হাজার হাদীস সংগ্রহ করিয়াছিলেন; কিন্তু পরে তাঁহার সত্যবাদিতা ও নির্ভরযোগ্যতা সম্পর্কে সন্দেহের সৃষ্টি হওয়ায় তিনি উহা সবই প্রত্যাখ্যান ও আগ্রাহ্য করিলেন।

তিনি একজন দক্ষগ্রন্হ প্রণেতা ছিলেন, হাদীস সম্পর্কিত ইলমের বিভিন্ন দিক সম্পর্কে তিনি বহু সংখ্যক গ্রন্হ প্রণয়ন করিয়াছেন। ইতিপূর্বে অপর কোন মুহাদ্দিসই এইসব বিষয়ে কোন গ্রন্হ রচনা করেন নাই।

তিনি ১৬১ হিজরী সনে বসরা নগরে জন্মলাভ করেন এবং হিজরী ২৩৪ সনে ইন্তেকাল করন।