শামসুর রাহমান ১৯২৯ সালের ২৩ অক্টোবর নানাবাড়িতে জন্মগ্রহণ করেন। বাবা মুখলেসুর রহমান চৌধুরী ও মা আমেনা বেগম। পিতার বাড়ি নরসিংদী জেলার রায়পুরায় পাড়াতলী গ্রামে। কবি শামসুর রাহমানের ভাই-বোনের সংখ্যা ১৩ জন। তন্মধ্যে, কবি ছিলেন চতুর্থ। পুরনো ঢাকার পোগোজ স্কুল থেকে ম্যাট্রিকুলেশন করেন ১৯৪৫ সালে। ১৯৪৭ সালে ঢাকা ইন্টারমিডিয়েট কলেজ থেকে আইএ পাস করেন। ঢাকা বিশ্ববিদ্যালয়ে ইংরেজি বিষয়ে ভর্তি হন এবং তিন বছর নিয়মিত ক্লাসও করেছিলেন সেখানে। শেষ পর্যন্ত আর মূল পরীক্ষা দেননি। পাসকোর্সে বিএ পাস করে তিনি ইংরেজি সাহিত্যে এমএ (প্রিলিমিনারি) পরীক্ষায় দ্বিতীয় বিভাগে দ্বিতীয় স্থান অর্জন করলেও শেষ পর্বের পরীক্ষায় অংশগ্রহণ করেননি।