step by step 「一歩一歩着実に」簡単なもの(easier step)から順に難しいもの(harder step)へというニュアンスがあるのだそうです。畳語(単語を反復して作られたもの)なので無冠詞。little by little, day by dayなどと同じです。このbyは「ずつ」を示しbyでしょう。She is making progress in English step by step.(彼女は少しずつ英語が上達している) The town is recovering from the typhoon little by little. 台風の被害に遭われた方々は意気消沈していらっしゃるでしょうが……。