נולד ב- 6 במאי 1910, בוייזנפלד שבגרמניה. רכש את השכלתו באוניברסיטאות של פרייבורג, גטינגן וברלין.
בשנת 1933 עלה לארץ והצטרף להכשרה בקבוצת דגניה שם שהה כשנתיים.
בשנת 1938 הוסמך כעורך דין.
בין השנים 1938-1948 כיהן כשופט של בית משפט השלום בירושלים. עם קום המדינה מונה כשופט וכנשיא של בית המשפט המחוזי בירושלים.
בשנת 1963 התמנה כשופט בבית משפט העליון.
השופט לוי ישב בדין בכמה מהמשפטים הידועים ביותר בתולדות מדינת ישראל, ובהם משפטם של נאשמי מחתרת צריפין, משפט קסטנר, משפטם של נאשמי הטבח בכפר קאסם ומשפט אייכמן.
כאשר פרש מכס השיפוט ופנה לתחום הפוליטי, הוא התמודד בבחירות לכנסת השביעית מטעם רשימת גח"ל, שהיתה לימים סיעת הליכוד.
בין השנים 1969 -1981 כיהן כחבר כנסת.
בשנת 1973 פרש מסיעת הליכוד והקים סיעת יחיד.חודשים אחדים לפני הבחירות לכנסת התשיעית הצטרף לתנועה הדמוקרטית לשינוי (ד"ש). גם ד"ש התפרקה והלוי הצטרף כחבר לסיעת התנועה הדמוקרטית,ובסופו של דבר היה שוב לסיעת יחיד.
ביום 01/01/1969 פרש לגימלה.
נפטר ביום 01/01/1996.