layは「目的を持って置く」ことが原義。したがって、lay byという句動詞は、直訳すると「そばに持って置く」となります。lay byはlay by youとでも考えたらどうでしょうか。今では銀行へお金を預けたりするのが普通ですが、昔は自分のお金をベッドの中とか、枕の下とか自分だけに分かる場所や自分のそばに隠しておいたそうです。そこからlay byが「取っておく」「貯めておく」という意味で用いられるようになったとのこと。While young, lay by as much money as you can. (若い間にできるだけ多くのお金をためておきなさい)(早大