פעילות ציבורית ופוליטית
בסיועו של אביו השתלב בפעילות פוליטית ב"אגודת ישראל" כנציג הסיעה הפנים מפלגתית "שלומי אמוני ישראל". ב-1981 מונה למנכ"ל מרכז אגודת ישראל בירושלים ובתפקיד זה הקים את המשרד המרכזי לעזרה קהילתית.
ב-1983 נבחר לכהן כחבר מועצת עיריית ירושלים מטעם סיעת אגודת ישראל, ושימש כיושב-ראש הסיעה במועצת העיר. בתפקיד זה עמד בראש המאבק נגד פתיחת בתי קולנוע בשבת, פעל להשגת מימון פיננסי מהאחים רייכמן מקנדה לצורך בניית בנייני העיריה החדשים, פעל לסיכול התוכנית להקמת מרכז ספורט ברכס שועפאט (ובמקביל - להקמת שכונת המגורים החרדית רמת שלמה), הקים את קרן קדושת ירושלים שעזרה לבנות בתי כנסת בשכונות החדשות בירושלים, ארגן שורה של פעולות על מנת למנוע חילול קברים באתרי פיתוח, יסד את הטיפול בפניות הפרט במסגרת שירותי העיריה ובמסגרת פרזות - חברה עירונית ממשלתית לשיכון, בה שימש חבר הנהלה.
ב-1989 נבחר בשנית לכהן כחבר מועצת העיר ירושלים - כראש סיעת אגודת ישראל. כיהן כסגן ראש העיר וכממונה על האגף לשיפור פני העיר. במסגרת תפקיד זה הביא לטיפוח השכונות החרדיות הוותיקות והחדשות, ויזם את פרויקט שיקום השכונות: בתי הונגרין, בתי ורשה ובתי ויטנברג.
ב-1993, במסגרת כהונתו כסגן ראש העיר ירושלים, שימש כממונה על אגף החינוך החרדי. במקביל, שימש חבר במוסדות המרכזיים של אגודת ישראל. בבחירות לכנסת ה-14 (1996) נבחר לחבר כנסת מטעם אגודת ישראל. מונה ב-1996 לכהן בממשלה בתפקיד סגן שר הבינוי והשיכון. בזמן כהונתו כסגן שר לא אוישה משרת שר הבינוי והשיכון.
במאי 1999 נבחר לכנסת ה-15 ברשימת יהדות התורה. שימש יושב-ראש ועדת חקירה פרלמנטרית בעניין המצוקה הכספית המתמשכת של הרשויות המקומיות. בשנים 2003-2001 כיהן בתפקיד סגן שר במשרד הבינוי והשיכון, תחת השר נתן שרנסקי. במהלך כהונתו פתחה נגדו משטרת ישראל בחקירה בחשד כי טרום הבחירות לכנסת ה-15 פנה למקבלי סיוע בדיור ממשרד הבינוי והשיכון וביקש מהם לסייע למפלגת אגודת ישראל בבחירות. בתום החקירה המליצה המשטרה להעמידו לדין על עבירות מרמה והפרת אמונים ועבירה על חוק הגנת הפרטיות, אולם פרקליטות המדינה החליטה שלא לקבל את ההמלצה והתיק נסגר ללא הגשת כתב אישום.
ב-2003 נבחר לכנסת ה-16 כחבר סיעת יהדות התורה. במהלך הכנסת ה-16 היה חבר בוועדת הכנסת, ועדת הפנים ואיכות הסביבה, ועדת העבודה, הרווחה והבריאות, ועדת העבודה, הרווחה והבריאות. במהלך הדיונים על תקציב המדינה ל-2003 שערך שביתת רעב במחאה על הקיצוצים בתשלומי הרווחה הממשלתיים שהוביל שר האוצר דאז
בנימין נתניהו. ב-2005 התפצלה סיעת יהדות התורה והוא עבר לכהן כחבר בסיעת אגודת ישראל.
ב-2006 נבחר לכנסת ה-17 כחבר סיעת יהדות התורה. במהלך הכנסת ה-17 היה חבר בוועדות הבאות: ועדת הכנסת, ועדת העלייה, הקליטה והתפוצות וועדה מיוחדת לבדיקת היערכות ומוכנות לרעידות אדמה.
ב-2008 התמודד בבחירות לרשויות המקומיות על ראשות עיריית ירושלים והפסיד לניר ברקת.
ב-2009 הקים עם אביו את העיתון "המבשר", עיתון יומי לקהילה החרדית.
ב-2009 נבחר לכנסת ה-18 כחבר סיעת יהדות התורה. באפריל 2009 מונה לכהן בתפקיד סגן שר החינוך בממשלה ה-32 בראשות בנימין נתניהו. בראשית 2011 התפטר מתפקידו ומן הכנסת, במסגרת הסכם רוטציה בין הסיעות המרכיבות את רשימת יהדות התורה.
ב-2010, בעקבות פטירתו של אביו, ירש את מקומו בתפקיד יושב-ראש אגודת ישראל בירושלים.
ב-2013 נבחר לכנסת ה-19 כחבר בסיעת יהדות תורה. במהלך הכנסת ה-19 כיהן כחבר בוועדת הכנסת ובוועדת החוץ והביטחון.
ב-2015 נבחר לכנסת ה-20 כחבר בסיעת יהדות התורה. במאי 2015 מונה לסגן שר החינוך בממשלה ה-34 בראשות בנימין נתניהו. ב-2016 השעה את חברותו בכנסת במסגרת הסדר החוק הנורווגי.
לאחר כניסתו לתפקיד סגן שר החינוך התפטר מהנהלת עמותת החינוך העצמאי של אגודת ישראל, המפעילה חלק ניכר ממערכת החינוך החרדית. ב-2018 נאלץ להתפטר גם מחברותו בעמותה, זאת בעקבות חוות דעת של המשנה ליועץ המשפטי לממשלה ומחשש לניגוד אינטרסים. פרוש פנה לערכאות בנסיון לערער על ההחלטה, אך בתום ההליך המשפטי נאלץ להתפטר.
בראשית 2018 תועד במפגש עם הרב ברלנד, כאשר התארח בחתונת נינו של הרב. פרסום דבר המפגש עורר ביקורת ציבורית בקהילה החרדית ומחוצה לה.
