پدرش میرزاعبدالخالق، امام جمعه مهاباد بود و محمد را در کودکی برای آموختن زبان فرانسه در مهاباد نزد ادیب برجسته کُرد استاد «گیو مکریانی» فرستاد.
در سال ۱۳۰۸ با کمک عموی خود میرزاجواد قاضی که از آلمان دیپلم حقوق گرفته بود و در وزارت دادگستری کار می‌کرد، به تهران آمد و در سال ۱۳۱۵ از دارالفنون در رشته ادبی دیپلم گرفت. 
در سال ۱۳۱۸ دورهٔ دانشکده حقوق دانشگاه تهران را در رشتهٔ قضایی به پایان برد. او در طول این دوران همیشه جزو بهترین شاگردان زبان فرانسه بود. در مهر ۱۳۲۰ به استخدام وزارت دارایی درآمد. 
نخستین قدم را در راه ترجمه از ابتدای دههٔ ۱۳۲۰ با ترجمهٔ اثری کوچک از ویکتور هوگو به نام «کلود ولگرد» شروع شد. در سال ۱۳۳۳ کتاب «شازده کوچولو» نوشتهٔ سنت اگزوپری را ترجمه کرد که بارها تجدید چاپ شد. محمد قاضی با ترجمهٔ دورهٔ کامل «دن کیشوت» اثر سروانتس در سال‌های ۱۳۳۶ تا ۱۳۳۷ جایزهٔ بهترین ترجمهٔ سال را از دانشگاه تهران دریافت کرد.
او پس از بازنشستگی به فعالیت در کانون پرورش فکری کودکان و نوجوانان پرداخت که حاصل این دوره ترجمهٔ کتاب‌های «باخانمان» از هکتور مالو، «ماجراجوی جوان» از ژاک ژروند و «زوربای یونانی» از نیکوس کازانتزاکیس است. او در مقدمه کتاب زوربای یونانی، خودش می‌گوید: «من زوربای ایرانی هستم».
محمد قاضی مترجم برجسته، مؤلف، شاعر، قاضی و حقوق‌دان ایرانی؛ در ۱۳۵۴ به بیماری سرطان حنجره دچار شد. او ۵۰ سال ترجمه کرد و نوشت. فهرست کتاب های ترجمه شده توسط محمد قاضی بسیار طولانی و شامل ٧٠ اثر است که نقش مهمی در آشنایی فارسی‌زبانان با ادبیات جهان ایفا کرده‌اند.
این مترجم برجستهٔ، در۲۴ دی ۱۳۷۶ در تهران درگذشت و در مقبره الشعرای مهاباد به خاک سپرده شد.