日本で最古の私立小学校の一つである幼稚舎の起源は、1874(明治7)年、福澤先生が高弟の一人である和田義郎に年少の塾生の教育を託したことにある。
幼稚舎設立の背景には、福澤先生と慶應義塾の名声が世に高まるにつれ、全国から集まってきた塾生の中に年少者が増加したことがある。そのため三田山上には幼稚舎設立以前にも「童子寮」という年少者用の寄宿舎が設けられていた。また、当時は福澤先生や慶應義塾の教員たちの子女の多くが学齢に達しており、次第に「童子寮」より年少者を教育する正式な初等教育機関創設の機運が高まっていた。
福澤先生から初代幼稚舎長を任された和田義郎は、旧和歌山藩士で、かつて藩の留学生として鉄砲洲の福澤塾で学んだ。子ども好きの和田夫妻は、三田山上の自宅に年少の塾生たちを寄宿させて、教育を行った。そのため、当初は「和田塾」という通称で呼ばれていたが、1880(明治13)年頃より「慶應義塾幼稚舎」と称するようになった。
幼稚舎では、全寮制を原則とし、外国人教師を雇い低学年からの英語教育に力を入れるなど、当時の公立小学校には見られぬさまざまな教育上の特色があった。柔術に秀でていた和田は、福澤先生の意を受け、勉強ばかりでなく強健な身体の育成にも力を入れた。なお、当時の幼稚舎は原則として7歳から13歳までの学童を対象とする学校だったが、あまり厳格な学年制を採らず、現在の中学生、高校生に相当する塾生も受け入れており、きわめて柔軟な学校運営を行っていたようである。