נולד ב-13 באוגוסט 1925, בדנציג שבפולין. (שם משפחתו הקודם היה שטרנברג).
בשנת 1939 עלה לארץ ולמד היסטוריה, פילוסופיה ומשפטים באוניברסיטה העברית, ואח"כ
באוניברסיטה בלונדון.
התגייס לפלמ"ח ושירת בפלוגה ד', מחלקת רמת הכובש /מעוז חיים. לאחר מכן הצטרף לאצ"ל
והשתתף בפעולותיו, ולימים היה בין גולי אצ"ל ולח"י שהובאו למחנות המעצר באפריקה.
במהלך שהותו באפריקה המשיך בלימודי משפטים. בשהותו במחנה המעצר השתתף באחד
מנסיונות הבריחה.
בשנת 1948 עם קום המדינה, חזר לארץ ישראל.
בשנים 1961-1968 כיהן בתפקיד הפרקליט הצבאי הראשי ובמהלך כהונתו זו גם הקים את
מערכת הממשל הצבאי בשטחים.
בין השנים 1968-1975 היה היועץ המשפטי לממשלה.
בשנת 1975 מונה לשופט בית המשפט העליון.
בשנת 1982 מונה כממלא מקום קבוע לנשיא בית המשפט העליון.
בשנת 1983 מונה כנשיא בית המשפט העליון.
בשנת 1994 עמד בראש ועדת החקירה הממלכתית לבדיקת הטבח במערת המכפלה.
בשנת 1995 עמד בראש ועדת החקירה לעניין רצח ראש הממשלה יצחק רבין.
בשנת 1996 הוענק לו פרס ישראל על מפעל חיים.
בשנת 2000 כיהן כיושב ראש ועדת החקירה הצבאית לבדיקת "השלכות הפעילות הצבאית בנחל
הקישון ומימי הסביבה על בריאותם של חיילי צה"ל שצללו במקום".
בשנת 2001 קיבל את פרס לשכת עורכי הדין בשל תרומתו הניכרת לקידום המשפט בישראל.
בנימוקים להענת הפרס נכתב, כי "שמגר הוא מדמויות המפתח של המשפט הישראלי,אבי מערכת
המשפט הצבאי ומוביל דרך במערכת המשפט האזרחי בישראל על כל גווניה".
הוועדה קבעה עוד, כי שמגר "ביסס רצף של פסיקה שיש בה אחדות רעיונית,עמקות מחשבתית
ותבונה אנושית", "הטביע את ייחודו בכל המערכות בהן שירת" והוא "מודל לאזרח שהקדיש
עצמו לחברה שבה חי ושירת ותרומתו הערכית והאישית לה חתומה בהישגיו".
ביום 13/08/1995 פרש לגימלה.
נפטר ביום 18/10/2019.