למד משפטים באוניברסיטה העברית בירושלים ולאחר מכן הוסמך כעורך דין והחל לעסוק במקצוע זה.
את פעילותו הציבורית החל ריבלין במסגרת מועדון הכדורגל בית"ר ירושלים, בתחילה כיועץ משפטי ולאחר מכן כמנהל הקבוצה ויושב-ראש האגודה. במקביל לפעילות בתחום הספורט היה פעיל בסניף חירות בירושלים והחל משלהי שנות ה-70 החל למלא שורה של תפקידים ציבוריים ופוליטיים: בשנים 1988-1978 כיהן כחבר מועצת עיריית ירושלים, בשנים 1993-1986 כיהן כיושב-ראש סניף חירות בירושלים, בשנים 1993-1988 כיהן כיושב-ראש ארגון הליכוד. תפקידים ציבוריים נוספים אותם מילא: חבר מועצת המנהלים של אל-על (1986-1981), יושב-ראש המוסד לבטיחות ולגהות (1988-1985), חבר דירקטוריון תיאטרון החאן, חבר דירקטוריון מוזיאון ישראל ועוד.
בשנת 1988 התמודד על תפקיד מועמד הליכוד בבחירות לראשות עיריית ירושלים והפסיד. באותה שנה נבחר לכנסת ה-12 כחבר בסיעת הליכוד. בכנסת ה-12 היה חבר בוועדת הכנסת, בוועדת החוקה, חוק ומשפט, בוועדת החוץ והביטחון, בוועדה לענייני ביקורת המדינה ובוועדה למלחמה בנגע הסמים. ריבלין כשל בניסיונו להיבחר לכנסת ה13. בשנת 1993 התמודד בשנית על תפקיד מועמד הליכוד בבחירות לראשות עיריית ירושלים והפסיד (לאהוד אולמרט).
בשנת 1996, במהלך כהונת הכנסת ה-14, שב לכהן כחבר כנסת בסיעת הליכוד לאחר התפטרותו של חבר הכנסת אליהו בן-אלישר. בכנסת ה-14 כיהן כחבר בוועדת החוקה, חוק ומשפט, בוועדת החינוך והתרבות, בוועדה למלחמה בנגע הסמים, בוועדה לבחירת שופטים, בוועדה לקידום מעמד האישה ובוועדה לכלכלה.
למן הכנסת ה-14 המשיך ריבלין לכהן ברציפות כחבר כנסת עד 2014 (במהלך כהונת הכנסת ה-19), אז נבחר לתפקיד נשיא המדינה. בכנסת ה-14 כיהן כיושב-ראש סיעת הליכוד. בכנסת ה-15 כיהן כסגן יושב-ראש הכנסת.
ב-2001 עם הקמת ממשלת האחדות בראשותו של
אריאל שרון, יועד ריבלין לתפקיד שר המשפטים, אולם נאלץ לוותר על תפקיד זה בשל 7 תיקי חקירה שניהלה נגדו המשטרה בנוגע ליחסיו עם הקבלן דוד אפל. מונה לשר התקשורת בממשלתו של שרון. ב-2004 הודיע היועץ המשפטי לממשלה דאז מני מזוז על סגירת כל תיקי החקירה נגד ריבלין.
בכנסת ה-16 (2006-2003) נבחר ריבלין לכהן כיושב-ראש הכנסת, תפקיד אליו שב גם במהלך הכנסת ה-18 (2013-2009). לאורך כהונותיו כחבר כנסת נודע ריבלין כמי שמייצג את ערכיה הבסיסיים של תנועת חירות: ליברליזם כלכלי, עמדות מדיניות ימניות הכוללות תמיכה בחזון ארץ ישראל השלמה, לצד תמיכה בעקרון הממלכתיות ובמוסדות המדינה. כך למשל התנגד ריבלין לתוכנית ההתנתקות שהוביל ראש הממשלה אריאל שרון, אך בשם עקרון הממלכתיות נמנע מלהצטרף לקבוצת "מורדי הליכוד" שהובילה את המאבק בהתנתקות במפלגת הליכוד.
נבשנת 2007 התמודד לראשונה בבחירות בכנסת לתפקיד נשיא המדינה, לאחר סיבוב ההצבעה הראשון, כאשר התברר כי שמעון פרס זכה במרב הקולות, פרש ריבלין מן המרוץ וקרא לחברי הכנסת להצביע בסיבוב הבחירות השני בעד פרס.
ביוני 2014 התמודד בשנית בבחירות בכנסת על נשיאות המדינה ולאחר שני סיבובי הצבעה ניצח וביולי 2014 הושבע כנשיא המדינה העשירי של מדינת ישראל. במהלך כהונתו כנשיא רשם ריבלין מספר החלטות אשר עוררו דיון ציבורי סוער, הבולטות בהן: השתתפות באירוע לזכר טבח כפר קאסם, ביטול הופעה של הזמר עמיר בניון במשכן הנשיא בשל התבטאויות שנתפסו כגזעניות וסירוב לבקשת החנינה של החייל אלאור אזריה. מרבית החלטותיו של ריבלין וכן התבטאויותיו בעניינים על סדר היום הלאומי, זכו לתמיכה מנציגי צידה השמאלי של המפה הפוליטית ולביקורת מנציגי הצד הימני, בהם כמה מחברי הממשלה.
ביולי 2021 סיים את כהונתו כנשיא המדינה.
