לאון נולד ביאשי ב-27 לינואר 1873 במשפחה יהודית בשם גלרטר. להוריו, זלמן ודבורה גלרטר היו עוד בן ירחמיאל ובת חיה.