Høsten 1993 utga Erik Bye sin første rene diktsamling, "Fløyterens hjerte". Den ble av en samlet kritikerstand beskrevet som varm, full av visdom og hjertelag, preget av forfatterens dype respekt for mennesket og bekymring for de ødeleggende kreftene som hersker i verden.
I Tilbake til sangene fører Erik Bye visse temaer videre, kanskje et hakk krassere i tonen når han tar for seg kynismen i den vestlige verden men også i årets samling finnes vakre, mer lyriske stemninger, og de mer slentrende, humoristiske innslagene.