בבית הכנסת "איחוד שיבת ציון" התל אביבי, שבו התפלל סבי במשך כמה עשרות שנים, התלבטו החברים בשנות ה-30 של המאה ה-20 בסוגיה שהייתה בעלת משמעות קהילתית, לאומית ודתית גם יחד: קביעת שפת דרשותיו של הרב בבית הכנסת, והבחירה בשפה שבה יראה אור ה
עיתון הקהילתי.
התלבטות קהילתית זו, שהתחוללה באותן שנים בעשרות מקומות בכל רחבי הארץ, נוצרה על-רקע העובדה שבעוד שפת הדיבור של מרבית החברים הייתה גרמנית - ובבתי כנסת אחרים יידיש - הרי שמעמדה של השפה העברית, כאבן יסוד בכינונה של התרבות והזהות הלאומית העברית בארץ ישראל, כמו חייב את בני הקהילה לנסות ולאמצה, חרף אי-הנוחות שבדבר. ואכן, בדין וחשבון שפרסמה הקהילה באותן שנים נקבע: "אנו משתמשים בשביל ההטפה לפני הקהל ולפירוש המקרא בשבתות וביום טוב בעברית ובגרמנית לחצאין, אלא שהייתה בנו מגמתנו, לעבור בהדרגה לגמרי לעברית".
הכרעה זו, שנועדה לחבר בין הוויית בית הכנסת לבין ההוויה הלאומית העברית ההולכת ונוצרת סביבו, לא הייתה פשוטה כלל וכלל, בהתחשב בעובדה שרק מעטים יכולים היו להבין על בוריין דרשות הנישאות בעברית. אלא שהיא הלכה והתחדדה עוד יותר בהמשך הדרך, ומעקב אחר גיליונות כתב העת הקהילתי (שדומה שכיום אין עוד למצוא אוסף מלא שלו), מגלה כי בתוך שנים אחדות הפך זה מכתב עת הכתוב גרמנית לעיתון דו לשוני, גרמני-עברי, וכי לאחר זמן נהיה לכתב עת הכתוב כמעט כולו בלשון הקודש.
גם במקומות אחרים, הרחוקים מרחק רב מעולמם התרבותי של יוצאי גרמניה התל אביביים, נאבקו מתפללים שונים למען השלטת השפה העברית (ולצידה ההברה הספרדית) בעולם בית הכנסת. וכך, בכתבה שפורסמה בשנת 1927 בעיתון "דואר היום" של איתמר בן-אב"י, ושבכותרתה נכתב "שערורייה", מחו שני כותבים על דרשה שנישאה ביידיש, במסגרת אירוע חגיגי שנערך דווקא בבית הכנסת של הראי"ה קוק בירושלים:
"היינו עדי שמיעה וראיה לשערורייה לאומית. מתוך בית הכנסת נשמע נאום בשפה הז'רגונית [...] נכנסנו לבית הכנסת הנ"ל [...] הנאומים נשמעו בשפה לא עברית, ודמינו שאנו נמצאים תחת כיפה אחת לא עם יהודים ציונים כי אם עם אנשים לא-ציונים שבאיזו פינה נידחת ברוסיה או פולניה [...] איה המזרחי? איה כל הציונים הטובים שביהדות החרדית? איה הרבנים על לשון הקודש? ואיה גדוד מגיני השפה?"
אלא שההתלבטות על זהותו ותכניו הלאומיים של בית הכנסת, יש לומר, לא הצטמצמה לדיון על שפת הדרשה או על הברת התפילה. בה במידה - ובאופן שלחלוטין אינו מפתיע, בהתחשב בדרמה התרבותית והלאומית שהתחוללה בארץ באותן שנים - ביקשו אישים שונים לשוות לבית הכנסת דמות לאומית גם בהקשר הפיזי, תוך הדגשת זהותו זו בעיצובו האדריכלי והפנימי גם יחד. כך מצאו את עצמם אדריכלים שונים נדרשים לשאלה מהי אדריכלות ציונית של ממש, וכיצד יש להתאימה לבתי הכנסת (כיפה? שימוש באבני הארץ? העתקת דמותם של מבני קודש עתיקים?).
אמנים בולטים - ביניהם זאב רבן הירושלמי - הוזמנו לעטר בתי כנסת באופן שהבהיר לבאיהם ומתפלליהם מעל לכל ספק, מהי שייכותה האידיאולוגית של הקהילה. כך הלכו ועוצבו בקפידה בתי כנסת שנוסדו בירושלים, בתל אביב, בערים וביישובים נוספים. וגם אם לא כל התוכניות הוגשמו בסופו של דבר, הרי שעצם הידרשותם של בני הקהילה לסוגיות אלו, העידה על רצונם לשנות במידה נכרת את בתי הכנסת שלהם: מבתי תפילה דתיים-מסורתיים מובהקים, לבתים המהווים במראם, בתכניהם ובניהולם מעין הצהרה דתית ולאומית גם יחד.
למהלך זה נלוותה גם הפקת סידורי תפילה ארץ ישראלים חדשים (אחד מהם, "מפי עוללים", בתמיכת מחלקת החינוך של ההנהלה הציונית); ניסיונות ליצירת נעימת תפילה מוסיקלית שתשקף את איחוד הגלויות ההולך ומתרחש בארץ; ואפילו ניסיונות לייסודם של בתי כנסת ראשונים שנועדו למתפללים בני כל העדות, בעת ובעונה אחת.
עם הקמת מדינת ישראל, דומה שחלק מאותם דיונים הפכו לבלתי רלוונטיים עוד. מאידך-גיסא, עלו סוגיות חדשות על שולחן הדיונים הציבורי. ביניהן היו יצירת התפילות הלאומיות לשלום המדינה וחיילי צה"ל, וכינון נוסח התפילה לחגים הלאומיים. מטבע הדברים, נוצרו גם עשרות סידורים חדשים, שהבולט שבהם היה "רינת ישראל". אלא שחרף השנים שחלפו, לעיתים נדמה שהעולם הדתי והלאומי עודו נדרש בבתי הכנסת שלו לאותן התלבטויות עצמן, שבהן עסקו חברי "איחוד שיבת ציון" לפני למעלה מ-80 שנה.