১৭ বৎসর বয়সে কলিকাতার উদ্দেশ্যে রাতের অন্ধকারে বাড়ী ছাড়লেও তরুণ আহমাদ আলী আত্মীয়-স্বজনের হাতে ধরা পড়ার ভয়ে কলিকাতায় অবস্থান না করে সোজা আযমগড় (উত্তর প্রদেশ) চলে যান। সেখানকার খ্যাতনামা আহলেহাদীছ মাদরাসায় তিন বছর লেখাপড়া করার পর তিনি কলিকাতা সরকারী আলিয়া মাদরাসায় এসে ‘দাখেলী সুওমে’ (প্রবেশিকা ৩য় বর্ষ) ভর্তি হন। অল্পদিনের মধ্যেই বিশেষতঃ আরবী ব্যাকরণে তিনি একজন কৃতী ছাত্ররূপে বরিত হন। কয়েক বৎসর পরে ‘আলেম’ ফাইনাল পরীক্ষায় বাঙ্গালী (পূর্ব বাংলা) ছাত্র হয়েও তিনি প্রথম বিভাগে উত্তীর্ণ হওয়ার গৌরব অর্জন করেন। মাত্র তিনটি নম্বরের জন্য তিনি স্কলারশিপ লাভে ব্যর্থ হন। এরপর তিনি কৃতিত্বের সঙ্গে ফাযেল বা ‘উলা’ পাশ করেন। এই সময় তিনি বিপ্লবী আলেম মাওলানা আকরম খাঁর সংস্পর্শে আসেন। অতঃপর কলিকাতা আলিয়ার সর্বোচ্চ ডিগ্রি ‘কামেল’ (টাইটেল) টেষ্ট পরীক্ষায় সুনামের সঙ্গে উত্তীর্ণ হন। কিন্তু হঠাৎ এই সময়ে মাতৃবিয়োগের সংবাদে ফাইনাল পরীক্ষার মাত্র ১৪ দিন পূর্বে দেশে ফিরে আসেন। ফলে কামেলের সার্টিফিকেট লাভের সৌভাগ্য তাঁর হয়নি। প্রকাশ থাকে যে, সে সময় ‘কামেল’ তিন বৎসরের কোর্স ছিল।

বেশ কিছুদিন বাড়ীতে কাটানোর পর তিনি পুনরায় কলিকাতা ফিরে যান এবং বিহারের ‘দারুলউলূম আহমাদিয়া সালাফিইয়াহ’ মাদরাসার প্রখ্যাত মুহাদ্দিছ শায়খুল হাদীছ মাওলানা আব্দুন নূর দারভাঙ্গাবীর নিকট তিন বৎসর ‘কুতুবে সিত্তাহ’ অধ্যয়ন করেন ও তাঁর হাতেই দিস্তারবন্দী সম্পন্ন হয়।