בית הכנסת בא להנציח את איש הציבור התימני-ירושלמי יוסף גראמי.

מבנה בית הכנסת שואב מהמסורת והדימוי של תרבות תימן המאופיינת בחלקה בחיי נוודים המתגוררים באוהלים הנפרסים על אדמות טרשים בהרים. מכאן צורתו של בית הכנסת המזכיר בצורתו אוהל גדול.

חלל התפילה המרכזי מקורה ביריעה פרבולואידית –היפרבולית הנשענת על שני עמודים המוצבים מצפון ומדרום לאולם בית הכנסת. היריעה מוגבהת בשני הקטבים במזרח ובמערב. בכוון מזרח, תחת החלק המוגבה של היריעה מוצב ההיכל, ואילו בצד הגבוה הנגדי, במערב, משולבת עזרת נשים בקומת גלריה  מדורגת.

התכנון הפנימי מבטא את אופיה של יהדות תימן באופן השימוש בחלל: ישיבה סביב הקירות הפריפריים, מול שולחנות אליהם מסבים המבוגרים ומצידם החיצוני יושבים הילדים. כך הילד לומד לקרוא כשהדף הכתוב הפוך לנגד עיניו.

סמוך לפינה המערבית המוגבהת תוכנן אולם בגל גג משופע המשמש את הקהילה כבית מדרש ולכינוסים.

עיצוב הפנים והריהוט אינם פרי תכנונו של אדר׳ קאסוטו.