בי"ח בסיון תר"א (יוני 1841) נוסד תלמוד תורה "עץ חיים" בידי הרב שמואל סלנט. כיתות הלימוד פוזרו בין חדרים שונים ברחבי העיר העתיקה. רק בתרי"ז (1857) רוכזו התלמידים לקבוצת מבנים סמוכים בחצר בית הכנסת החורבה, יחד עם בית הדין של ירושלים, ולתלמוד תורה ניתן השם "ישיבת עץ חיים".
הרעיון החדשני המרכזי היה הקמת מסלול לימודים המתחיל מגיל צעיר ומסתיים לאחר הנישואין, מסלול הבנוי ממסגרות תלמידים בעלי אותה יכולת הלומדים יחדיו. הדבר היווה חידוש לעומת השיטה שהייתה קיימת עד אז בירושלים האשכנזית לפיה מספר אבות שכרו "מלמד" שילמד את ילדיהם. הילדים למדו בצוותא באחד מחדרי הבית או בביתו של המלמד ללא חלוקה לרמות ותוך לימוד משותף של בעלי יכולות וגילאים שונים בצוותא.
ראש המלמדים היה הרב חיים מן (בנו של הרב יעקב משה מן), ששימש גם כנשיא 'ועד איחוד המלמדים'. בנו - הרב יהודה לייב מן - היה מזכיר תלמוד התורה ואחד המלמדים. מפורסמים היו המלמדים רבי אליהו יוסף שמואל בסן, שהעמיד תלמידים רבים במשך עשרות שנים ומיקירי ירושלים, ורבי חיים יהודה יעקבזון מחבר הספרים "שיטת החינוך" ו"למשמעות".
רבי שמואל סלנט מינה נכדו את הרב יחיאל מיכל טוקצינסקי, לראש ומנהל הישיבה.
בשנת תרס"ח (1908) יזם הרב טוקצינסקי רכישת קרקע ליד רחוב יפו להקמת סניף של הישיבה. עם הקמת בנייני הישיבה במרכז העיר, הוקם במקום גם כולל, ששימש בעיקר את בוגרי הישיבה.
לאחר חיכוכים רבים בין לומדי הישיבה להנהלתה, בה טענו הראשונים כי הם משתכרים פחות מהמורים בתלמוד תורה, קבע הרב צבי פסח פרנק כי יש לשמור על מספר זהה של נציגי בני הישיבה ושל מורי התלמוד תורה בוועד הישיבה, על מנת לשמור על שוויון בהחלטות המתקבלות לטובת כל הצדדים.
הרב איסר זלמן מלצר שעלה לארץ ישראל בשנת תרפ"ה (1925) נתמנה לעמוד בראשות הישיבה עד יום מותו, והרב אריה לוין נתמנה לכהן בתלמוד תורה של הישיבה כמשגיח.
לאחר פטירת הרב מלצר נתמנה חתנו הרב אהרן קוטלר לעמוד בראשה, ובתקופות בהן שהה בארץ ישראל מסר בה שיעורים שבועיים. ובמקביל כיהן הרב מרדכי דוד לוין בראשות מה שהיה נקרא בזמנו הישיבה האמצעית, ומסר בה שיעורים כ-45 שנה, עד פטירתו בתשכ"ז (1967). לאחר פטירתם, נתמנה הרב שלמה זלמן זלזניק לעמוד בראשה. במשך שנים מסר בה שיעורים שבועיים הרב אלעזר מנחם מן שך. לאחר פטירת הרב זלזניק התמנה בנו הרב אברהם יעקב זלזניק לעמוד בראשה[דרושה הבהרה] עד פטירתו בשנת תש"ע (2010). לאחר פטירת הרב יחיאל מיכל טוקצינסקי ניהל את המוסדות בנו, הרב ניסן אהרון טוקצינסקי, במשך כחמישים שנה, עד לפטירתו בה'תשע"ב.
בהווה
במסגרת התלמוד תורה לומדים בבניין המוסדות מעל 500 תלמידים, כמו כן פועלים סניפים נוספים של התלמוד תורה, ברמות ובשכונת גבעת שאול בביתר עילית. כולל האברכים הוותיק מתקיים גם הוא במרכז המוסדות, אליו נוספו עוד שני כוללי אברכים ללימודי הוראה ודיינות במודיעין עילית ובביתר עילית.
ביולי 2010 נערך בישיבה מעמד פרידה היסטורי מהבניין.[3] חצי שנה לאחר מכן, במרץ 2011, רכשה הנהלת הישיבה את מתחם למל העתיק ברחוב ישעיהו בירושלים, לשם אמורים המוסדות לעבור לאחר שיפוצים.