ولد زكريا محيي الدين بكفر شكر محافظة القليوبية في ٧ مايو عام ١٩١٨.

تلقى دراسته في مدرسة أولية بالقرية، ثم ألتحق بمدرسة العباسية الابتدائية، فمدرسة فؤاد الأول الثانوية بالقاهرة، ثم ألتحق بالكلية الحربية عام ١٩٣٦، وتخرج فيها في أول فبراير عام ١٩٣٨.
عمل مدرساً بالكلية الحربية بعد إنتهاء حرب فلسطين، وكان قائداً للسرية الثانية لطلبة الكلية الحربية، ومسئولاً عن الضباط الأحرار فيها بحكم أنه أقدم الضباط بالكلية،كما أسند إليه مهام تحريك القوات المسلحة في ٢٣ يوليه عام ١٩٥٢، وترأس مجموعة الأمن التي قامت باعتقال كبار الضباط، وقامت القوات التابعة له بالقبض على قائد البوليس السياسي وقائد القوات المدرعة.
عين، بعد ذلك، مديراً للمخابرات الحربية عام ١٩٥٢، وأسند إليه إنشاء إدارة المخابرات المصرية وعين مديراً لها عام ١٩٥٣، وتولى منصب رئيس الجهاز المركزي للمحاسبات في (إبريل ١٩٦٤- سبتمبر ١٩٦٥).

تولى رئاسة مجلس الوزراء ونائب رئيس الجمهورية ووزير الداخلية في أول أكتوبر عام ١٩٦٥، وقدم استقالة وزارته في ٩ سبتمبر عام ١٩٦٦، نتيجة خلافات سياسية تتعلق بعمليات الانكماش الاقتصادي الضرورية في ضوء العجز في العملات الأجنبية بمصر، ولكنه احتفظ بمنصبه نائباً لرئيس الجمهورية.
كلفه الرئيس جمال عبد الناصر في بيانه إلى الأمة في ٩ يونيه عام ١٩٦٧، عقب نكسة يونيه، بأن يتولى رئاسة الجمهورية، فرفض هذا المنصب في بيان ألقاه قائلاً " إن جماهير شعبنا لا تقبل غير قيادة جمال عبد الناصر " وذلك في ١٠ يونيه عام ١٩٦٧، ثم استقال من منصبه كنائب لرئيس الجمهورية في ٢٠ مارس ١٩٦٨، كما قبلت استقالته من جميع مناصبه.حصل زكريا محيي الدين على (١٨) وسام وقلادة من دول عربية وأجنبية.