את פעילותו הפוליטית החל מקלב בשלטון המקומי כפעיל בתנועת דגל התורה. ב-1993 נבחר למועצת העיר ירושלים כנציג רשימת
יהדות התורה (איחוד של דגל התורה ואגודת ישראל). עם הצטרפות יהדות התורה לקואליציה בראשות אהוד אולמרט, מונה מקלב לסגן ראש העיר והאחראי על תיק החינוך. מתוקף תפקידו בעיריית ירושלים כיהן גם כחבר דירקטוריון "הגיחון", תאגיד המים של ירושלים וכחבר הנהלת מרכז הקונגרסים הבינלאומי בירושלים.
בבחירות לכנסת ה-17 (2006) שובץ מקלב ברשימת יהדות התורה במקום לא ריאלי. שנתיים לתוך כהונת הכנסת ה-17 בעקבות מימוש הסכם רוטציה ביהדות התורה, נכנס מקלב (נציג דגל התורה) לכנסת במקומו של חבר הכנסת יעקב כהן (נציג אגודת ישראל). מספר חודשים לאחר כניסתו לכנסת התפרקה סיעת יהדות התורה ומקלב היה לחבר בסיעת דגל התורה. במהלך הכנסת ה-17 היה מקלב חבר בוועדות: ועדת הכלכלה, ועדת המדע והטכנולוגיה, וועדה מיוחדת לבעיית העובדים הזרים והוועדה המיוחדת לפניות ציבור.
לקראת הבחירות לכנסת ה-18 (2009) שובץ מקלב במקום הרביעי ברשימת יהדות התורה ולאחר הבחירות המשיך לכהן כחבר כנסת. במהלך הכנסת ה-18 כיהן מקלב כסגן יושב-ראש הכנסת וכן כיהן כיושב-ראש הוועדה המיוחדת לפניות הציבור וכחבר בוועדות: ועדת החוץ והביטחון, ועדת הפנים והגנת הסביבה וועדת החוקה, חוק ומשפט. כיהן כחבר כנסת גם בכנסת ה-19, במהלך חלק מכהונתה כיהן שוב כסגן יושב-ראש הכנסת. כמו כן כיהן כחבר בוועדות: ועדת הכנסת, ועדת החוץ והביטחון וועדת החוקה, חוק ומשפט.
בכנסת ה-20 כיהן מקלב כיושב-ראש ועדת המדע והטכנולוגיה וכן כיהן כחבר בוועדות: ועדת הכלכלה, ועדת הפנים והגנת הסביבה, ועדת החוקה, חוק ומשפט, הוועדה המיוחדת לזכויות הילד, הוועדה המיוחדת ליישום הנגשת המידע הממשלתי ועקרונות שקיפותו לציבור, הוועדה המיוחדת לדיון בהצעות הבאות: הצ"ח הפיקוח על שירותים פיננסיים מוסדרים, עבודת נשים-תקופת הלידה וההורות והוועדה המיוחדת להסדרת מעמדם של תלמידי ישיבות, ולשילובם של בוגרי ישיבות, בשירות צבאי, בשירות לאומי-אזרחי ובתעסוקה.
במהלך שנותיו כחבר כנסת זכה מקלב למוניטין כפרלמנטר מצטיין ופעיל במיוחד, מוניטין שנתמך בין היתר ב-293 הצעות חוק אותם יזם. ב-2011 הוענק לו אות הפרלמנטר המצטיין על ידי המכון הישראלי לדמוקרטיה. ב-2018 פורסם כי מקלב הוא שיאן הנוכחות בכנסת לשנת 2017, השנה השלישית בה החזיק בתואר זה. ב-2018 הוענק לו אות אביר איכות השלטון.