মির্জা গালিবের জন্ম ১৭৯৭ সালে কালা মহল, আগ্রার^[৪] একটি মুঘল পরিবারে, যারা সেলজুক রাজাদের পতনের পরে সমরকন্দ এ (বর্তমান উজবেকিস্তান) চলে গিয়েছিল। তার পিতামহ মির্জা কোকান বেগ ছিলেন একজন সেলজুক তুর্ক এবং সুলতান বারকিয়ারুকের বংশধর^[৫], যিনি আহমদ শাহের শাসনকালে (১৭৪৮-৫৪) সমরকন্দ থেকে ভারতে এসেছিলেন।^[৬] তিনি লাহোর, দিল্লি এবং জয়পুরে,পাহাসু (বুলন্দশহর, ইউপি) এলাকার উপাধি লাভ করে,করেছিলেন এবং শেষ পর্যন্ত আগ্রায় স্থায়ীভাবে বসবাস শুরু করেছিলেন। তার চার ছেলে এবং তিন মেয়ে ছিল^[৭]।তার বিরাট পরিবারের মধ্যে তার দুই পুত্র আবদুল্লাহ বেগ খান ও নসরুল্লাহ বেগ খান তার পদাংক অনুসরণ করে সৈনিকের পেশা গ্রহণ করেছিলেন বিভিন্ন শাসকের অধীনে৷

মির্জা আবদুল্লাহ বেগ (গালিবের পিতা) ইজ্জত-উন-নিসা বেগমের,যিনি জাতিগতভাবে কাশ্মীরি^[৮], সাথে বিবাহ বন্ধনে আবদ্ধ হয়েছিলেন[৯], এবং তার শ্বশুর মির্জা গালিবের নানার বাড়িতে বসবাস করতে শুরু করেন। তিনি প্রথমে লখনউয়ের নবাব এবং পরে হায়দরাবাদের নিজামের অধীনে কর্মরত ছিলেন। ১৮০৩ সালে আলওয়ারে একটি যুদ্ধে তিনি মারা যান এবং রাজগড় (আলওয়ার, রাজস্থান) এ তাকে দাফন করা হয়^[৯], তখন গালিবের বয়স ছিল পাঁচ বছরের কিছু বেশি। এরপর তিনি তার চাচা মির্জা নাসরুল্লাহ বেগ খানের কাছে বড় হন, কিন্তু ১৮০৬ সালে নাসরুল্লাহ একটি হাতির উপর থেকে পড়ে গিয়ে আহত হয়ে মারা যান।^[১০]

১৮১০ সালে, তেরো বছর বয়সে, গালিব উমরাও বেগমের সাথে বিবাহ বন্ধনে আবদ্ধ হন। উমরাও বেগম ছিলেন নওয়াব ইলাহী বখশের (ফিরোজপুর ঝিরকা এবং লোহরুর নওয়াবের ভাই) কন্যা।^[১১] শীঘ্রই তিনি তার ছোট ভাই মির্জা ইউসুফের সাথে দিল্লি চলে যান। মির্জা ইউসুফ অল্প বয়সেই সিজোফ্রেনিয়া রোগে আক্রান্ত হন এবং ১৮৫৭ সালের বিশৃঙ্খলার সময় দিল্লিতে মারা যান^[৯]। তার সাত সন্তানের কেউই শৈশবকালের পরে বাঁচেনি। বিবাহের পর, তিনি দিল্লিতে স্থায়ী হন। তার একটি চিঠিতে, তিনি তার বিবাহকে দ্বিতীয় কারাবাস হিসেবে বর্ণনা করেছেন, প্রথম কারাবাস ছিল জীবন নিজেই। তার কবিতায় জীবনের প্রতি দৃষ্টিভঙ্গি এরকম যে জীবন নিজেই একটি ধারাবাহিক বেদনাদায়ক সংগ্রাম যা শুধুমাত্র জীবনের সমাপ্তিতেই শেষ হতে পারে, যা তাঁর সাহিত্যকর্মে বারবার ফিরে এসেছে। তার একটি শের এই ভাবনাকে সংক্ষেপে তুলে ধরেছে:^[১২]

তার স্ত্রীর সাথে তার সম্পর্ক নিয়ে বিভিন্ন মতামত রয়েছে। তার স্ত্রীকে ধার্মিক, রক্ষণশীল এবং আল্লাহভীরু মনে করা হত।

মামার বাড়িতেই গালিবের জন্ম এবং তুলনামূলকভাবে তিনি আরামদায়ক শৈশব কাটান, যা তার পিতা ও চাচার মৃত্যুর পরও ব্যাহত ছিল৷ কিন্তু পিতা ও চাচার অকাল মৃত্যুতে তার মধ্যে বঞ্চনার স্থায়ী প্রভাব হয়নি৷ তাছাড়াও বংশের ঐতিহ্যের কারণে অহংকারী গালিবের মধ্যে তার মায়ের পিতৃগৃহে অবস্থানের প্রভাব নেতিবাচক ছিল৷ কিন্তু সৌভাগ্যবশত: শৈশবে তার শিক্ষা এমন ছিল যে তার বুদ্ধিবৃত্তিক বিকাশ ব্যাহত হয়নি৷ আগ্রার খ্যাতিমান পণ্ডিত শেখ মোয়াজ্জেম তার শিক্ষক হিসেবে দায়িত্ব পালন করেন৷ এছাড়া সম্ভবত: তিনি মীর আযম আলী পরিচালিত একটি মাদ্রাসায়ও যেতেন৷ তিনি যুক্তিবিদ্যা, জ্যোতির্বিদ্যা, চিকিত্‍সাশাস্ত্র ও অধিবিদ্যা ছাড়াও অন্যান্য বিষয়ে পড়াশুনা করেন৷ কিন্তু তার ঝোঁক ছিল ভাষা ও সাহিত্যের প্রতি, এবং বিশেষত: ফার্সি ভাষার প্রতি৷ এসময়ে আরবি ও ফার্সি ভাষায় দক্ষ আবদুস সামাদ নামে এক জ্ঞানী ব্যক্তি আগ্রা সফর করেন৷ গালিব তার শিষ্যত্ব গ্রহণ করেন৷ আবদুস সামাদ গালিবের মামার বাড়িতে দুই বছর অতিবাহিত করেন৷ গালিব কখনো কাউকে তার 'উস্তাদ' বলে স্বীকার না করলেও পরবর্তীকালে আবদুস সামাদের উল্লেখ করেছেন অত্যন্ত প্রশংসা ও কৃতজ্ঞতার সাথে৷