কাজী আরেফের জন্ম ৮ এপ্রিল, ১৯৪২। বাবার নাম কাজী আবদুল কুদ্দুস, মায়ের নাম খোদেজা খাতুন। বাবা কোলকাতায় অবিভক্ত বাংলার একজন সরকারি কর্মকর্তা (এক্সাইজ ইন্সপেক্টর) ছিলেন। সেখানেই সপরিবারে থাকতেন। ১৯৪৭-এ পূর্ববঙ্গে এসে কর্মসূত্রে ঢাকায় বসবাস শুরু করেন। আদি নিবাস কুষ্টিয়ার মীরপুর উপজেলার খয়েরপুর গ্রাম। তাঁর প্রাথমিক শিক্ষা শুরু হয় ঢাকা কলেজিয়েট স্কুলে। এ স্কুল থেকেই ১৯৬০-এ ম্যাট্রিকুলেশন পাস করেন। জগন্নাথ কলেজ থেকে আইএসসি ও বিএসসি ডিগ্রি নেওয়ার পর ঢাকা বিশ্ববিদ্যালয়ে ভূগোলে (এমএসসি) অধ্যয়ন করেন। ছাত্র জীবনে একজন পড়ুয়া ছাত্রের পাশাপাশি খেলাধুলা এবং সাংস্কৃতিক কর্মকাণ্ডেও সমান মেধার স্বাক্ষর রাখেন। কাজী আরেফ পগোজ স্কুলে গোপনে চাকরি নিয়েছিলেন তাঁর দলকে সহযোগিতা করার জন্য, যে-কথা বাড়ির কেউ জানতেন না।
আজীবন প্রচারবিমুখ সব্যসাচী এ রাজনীতিবিদ নেপথ্যে থেকেই নীতিনির্ধারণী ভূমিকা পালন করে গিয়েছেন জাতির প্রতিটি ক্রান্তিলগ্নে। তাঁর জীবনযাপনে সমাজতন্ত্র ও সেক্যুলার আদর্শের পূর্ণ প্রতিফলন ছিল। ব্যক্তিগত সম্পদ অর্জনের প্রতি তাঁর কোনো মোহ ছিল না, প্রচেষ্টাও ছিল না। কাজী আরেফ আহমেদের সংগ্রামী জীবন সকল দেশপ্রেমিক প্রগতিশীল রাজনৈতিক কর্মীদের জন্য এক দৃষ্টান্ত।