1959年,馬水龍考取國立藝專音樂科理論作曲組,副修大提琴和鋼琴。除了隨盧炎學習和聲及對位法,並向剛從法國回來的許常惠學音樂史與當代歐洲音樂新潮流。採集民間歌謠的許常惠經常提醒他不能忘本的精神,主修老師蕭而化也奠定了他日後的西方作曲技巧,這些都是促成馬水龍往後音樂風格的重要關鍵。1964年以第一名成績畢業,任教於基隆市立第四初級中學。1968年,與陳懋良、游昌發、賴德和、沈錦堂、溫隆信五位作曲家共同發起「向日葵樂會」,每年舉辦作品發表會,探索各種創作的可能,其中最著名的曲目為《臺灣組曲》與《雨港素描》(此曲乃是獻給鋼琴家妻子許子珍的結婚禮物。),可惜「向日葵樂會」於1971年因政治風波而停止。1972年,馬水龍獲得西德全額獎金,進入雷根斯堡音樂學院(College
of Catholic Church Music and Musical Education in Regensburg)就讀,隨席格蒙(Dr. O. Sigmand)學習作曲,並以最優異的成績畢業,且代表學校在雷根斯堡音樂節、柏林電臺、慕尼黑電臺公開發表作品。