原名于兰渚，1900年9月15日（农历8月22日）生于天津市宁河县俵口村一个农民家庭。俵口离天津不足百里，直接受到帝国主义侵略者的祸害。于方舟幼年时，母亲就常给他讲述林则徐、关天培等抗英故事和义和拳反帝斗争的英勇事迹，使他在家教中受到了反帝爱国的启蒙。

于方舟6岁开始在本村念私塾，13岁入口小学堂乙班读书。他最爱听国文老师讲岳飞、文天祥等历史上民族英雄的故事， 有感于英雄们的崇高思想和行为。他14岁时，曾在作文中就“郭子仪单骑见回讫”这段历史事件，讲述战争指挥者如何深谋远虑， 审时度势，采用灵活的斗争策略，解除危难，克敌致胜。他的文章， 寓意深刻，文笔流畅，深得老师和同学的赞扬。老师称赞他是：“春风得意花千里，秋月阳辉桂一枝”。

1916年考入天津直隶省（今河北省）立第一中学。学习期间，积极参加爱国运动。

1919年“五四”运动期间，组织本校“学生救国团”任团长并被选为天津学生联合会评议委员。反对帝国主义对中国的侵略，反对北洋军阀政府的媚外政策。同年11月24日，“福州惨案”发生后，天津人民开展抗暴斗争，当时他任天津“学联”调查科长、同“学联”执行科长周恩来一起，敦促商界、抵制日货，在12月20日天津第一次国民大会上，将大批日货当场烧毁。

1920年1月23日，因“学联”和群众代表查处日货，反动当局公然下令查封学联和天津各界联合会。对此，他发表文章，提出“爱国不怕进狱门”的口号、鼓舞学生斗志。1月27日，与周恩来、邓颖超、郭隆真一起主持召开了天津第二次国民大会。1月29日，一千多名学生冲破军警阻拦，集合于天津东马路青年会，进行请愿斗争。到达直隶省公署后，他与周恩来等代表，挺身求见省长曹锐，曹锐避而不见，代表们义愤填膺，破门而入，当即被捕。反动军警大打出手，酿成天津“一二九”惨案。在狱中，与周恩来等同志一起，同敌人进行了坚决的斗争，在社会舆论的压力下，于7月8日被释放。

1921年暑期，化名于绍舜考入南开大学，研究马克思学说，组织了马克思主义研究会。1922年，经李大钊介绍加入中国共产党。不久，在李大钊领导下，建立社会主义青年团天津地区执行委员会，并任委员长。第一次国共合作时，于1924年1月15日，代表直隶省出席了国民党第一次全国代表大会，当选为国民党中央执行委员会候补委员，并任直隶省党部执行委员。同年，在中共中央和地方区委领导下，主持成立了中共天津地方执行委员会，任书记。

1925年“五卅”运动中、领导了工人罢工斗争。1927年国民革命失败后，以中共顺直省委组织部长身份领导了第二次玉田农民暴动，失败后在丰润县河流沙地区被敌包围，不幸被捕。在狱中坚贞不屈，于1927年12月30日于玉田壮烈牺牲。