לבית סוהר הממלכתי המזרחי אולי שורשים פרוטסטנטיים, אך היה בו גם בית כנסת יהודי, אשר יחד עם ההיסטוריה העשירה שלו, נחשף לציבור לתקופה מוגבלת באפריל 2008.
אף על פי שאוכלוסיית הכלא היהודי מעולם לא מנתה יותר מ -80 בפעם אחת, הייתה נוכחות יהודית חזקה בבית הכספים משנת 1845. רבנים מקומיים הגיעו לייעוץ לאסירים ולקיים קריאות דתיות.
בראשית שנות העשרים, לאחר שננטשה מערכת הבידוד של פנסילבניה, אלפרד פליישר, אז נשיא מועצת הנאמנים של הכלא, דגל בבניית בית כנסת שיענה טוב יותר לצרכיהם של האסירים היהודים. אסירים ומתנדבים מקומיים התכוונו לבנות את המרכז הדתי בחצרות התרגיל לשעבר של חסימת התא.
זה היה חלל מקושט, עם תקרה מעוטרת ורצפת אריחים אדומה. ספסלים ציפו את הקירות בזמן ששולחן הקורא וארון התורה מעץ מלאו את החדר. פליישר הצטרף לאסירים לכל שירות בבית הכנסת עד מותו בשנת 1928. בהמשך אותה שנה הוקדש בית הכנסת לפליישר, והוקם לוח ברונזה לזכרו.
משתתפים נוספים שזכו לזכור בבית הכנסת כללו את ג'וזף פאול, איש חזק יהודי מפורסם שהוזמן על ידי פליישר בשנת 1923 לבדר את האסירים במעשי הכוח שלו. פאול פיתח קשרים גדולים עם האסירים, חזר לשירותים וסיפק לבית הכלא אוכל מהאטליז הכשר שלו. מאוחר יותר, לאחר שנודע לו על הקושי שעברו כמה אסירים - הם היו זכאים לשחרור אך לא ניתן היה לשחררם מכיוון שלא הבטיחו תעסוקה - הוא יצר תוכנית שהתאימה בין אסירים למעסיקים. פאול ימשיך להיות תומך נאמן של קהילת הכלא עד מותו בשנת 1966.
השירותים בבית הכנסת נמשכו עד לסגירת הכלא בשנת 1971. ננטש במשך 33 השנים הבאות, הוא ייפול למצב גדול של אי נסיונות. קירות אבן המובילים לכניסה לבית הכנסת קרסו והכשילו גישה וחלקים מתקרת הטיח נפלו מהידרדרות בגלל נזקי מים. בשנת 2004, ניסתה הסטודנטית באוניברסיטת פנסילבניה, לורה מאס, לאחר שחקרה את בית המדרש לתואר שני בשימור היסטורי, לחשוף את בית הפולחן הנשכח מתחת להריסות.
במהלך החפירה מצא מסה שרידים מתקרת הגבס הדקורטיבית, דפים של ספר שירים לחג, וחלקים ממגן דוד. תגליות אלה עודדו את האתר ההיסטורי של בית המזרח המזרחי להקים ועדת שיקום בית כנסת. כיום נמשך השחזור של בית הכנסת אלפרד וו. פליישר, והוא צפוי להצטרף לסיור הציבורי של בית הסוהר באוקטובר 2009.
בית הכנסת בשנת 1995 לפני שהוא ניקה. (גרג ברוקס) "בית הכנסת האבוד" בבית הסוהר של מדינת מזרח. (האתר ההיסטורי של בית המזרח המזרחי של המזרח) "בית הכנסת האבוד" בבית הסוהר של מדינת מזרח. (האתר ההיסטורי של בית המזרח המזרחי של המזרח)