তার জন্ম বাংলাদেশের [[সিলেট]] (সাবেকঃ শ্রীহট্ট) জেলায়। আবুল মাল আবদুল মুহিত ১৯৫১ খ্রিষ্টাব্দে সিলেটের [[মুরারিচাঁদ কলেজ|এমসি কলেজ]] থেকে উচ্চ মাধ্যমিক পরীক্ষায় প্রথম বিভাগে উত্তীর্ণ হন। পরবর্তীতে [[ইংরেজি সাহিত্য|ইংরেজি সাহিত্যে]] স্নাতক (সম্মান) শ্রেণীতে [[ঢাকা বিশ্ববিদ্যালয়|ঢাকা বিশ্ববিদ্যালয়ে]] ভর্তি হন। সেখান থেকে ১৯৫৪ খ্রিষ্টাব্দে ঐ বিষয়ে প্রথম শ্রেণী পেয়ে কৃতকার্য হন এবং একই বিষয়ে ১৯৫৫ খ্রিষ্টাব্দে স্নাতকোত্তর ডিগ্রী অর্জন করেন। বিদেশে চাকুরীরত অবস্থায় [[অক্সফোর্ড বিশ্ববিদ্যালয়|অক্সফোর্ড বিশ্ববিদ্যালয়ে]] অধ্যয়ন করেন তিনি। অতঃপর ১৯৬৩-[[১৯৬৪|৬৪]] শিক্ষাবর্ষে [[হার্ভার্ড বিশ্ববিদ্যালয়]] থেকে এমপিএ ডিগ্রী লাভ করেন।