Le couvent néoclassique qui abrite le Lycée Français de Jérusalem est situé dans la Rue des Prophètes (Rehov Hanevi’im). Le Lycée fut construit entre 1887 à 1930 par étapes. Les Sœurs de Saint-Joseph de l'Apparition y continuent leur enseignement, qu'elles avaient commencé dans la vieille ville en 1880. Cependant, il est interrompu lors du commencement de la Seconde Guerre mondiale.

La création de l'école se doit au fait que, faute du manque d'éducation en Français à Jérusalem, les représentantes de l'U.N.T.S.O., le Consulat de France et le Programme des Nations unies pour le développement entreprennent de fonder une Petite École Française ; la Guerre des Six Jours ayant commencé. Les statuts de l'école sont alors rédigés, et le premier Comité de Gestion est créé le 20 avril 1967.

L'école légalise son existence le 18 septembre 1968 sous le nom d'« École française de Jérusalem ».

Entre 1970 et 1973 des cours de français (pour débutants et avancés) sont mis en place.

En 1974, des cours de français sont donnés pour les Arabes désirant apprendre la langue française.

L'enseignement secondaire est inauguré dans l'établissement en 1971.

En 2001, la seconde Intifada s'intensifie et rend difficile l’accès aux élèves et enseignants qui se rendent au lycée.

En 2017, le lycée a fêté son cinquantième anniversaire avec la présence du Directeur de l’A.E.F.E, du Consul Général de France à Jérusalem, d’anciens proviseurs et anciens élèves toutes générations confondues.