この曲はまさにポップ・スタンダードと呼ぶにふさわしく、ソングライターたちの最高の瞬間のひとつである。この曲の素晴らしいところは、作曲家たちが現在の音楽的トレードマーク(文学的で感情的な歌詞)を多く使っているにもかかわらず、「Walk on By」では、このデュオが実験することを厭わないことも示している点である。変わったバックボーカルのフック("Don't. Stop.")は、奇妙であると同時に親しみやすく、当時最も実験的なフックの1つであった。それに加えて、フリューゲルホルンとピアノサウンドが、作曲の全体的な緊張感を和らげてくれる。