学习理学金履祥幼年时聪慧明达，父亲兄长稍稍给他讲了书文，就能够背诵下来。长大以后，自己更加勤勉励志。对天文、地理、礼乐、兵谋、阴阳、律历之类的书，无不认真研究。及至青年时期，倾慕周敦颐、程颐、程颢的的学问，跟从同郡人王柏学习，又随王柏一起投到何基的门下。何基的学问来源于黄榦，而黄榦是亲身得到朱熹传授的人。当初，履祥见到了王柏，首先询问请教治学的方法，王柏告诉他必须先立志，并且列举前辈儒家的话：局守恭敬用以保持自己的志向，立志用以确立自己的本性，志是立于接事待物的表面，恭敬践行就深入了事物的内在，这是治学的基本方法。等到见到何基，何基对他说：“会之屡次谈到贤者之所以为贤者，在于分清了天理和人欲，应当从今日开始实行。”从这以后金履祥对学问的研习更加精深，造诣也更加深厚。进献军略当时宋朝的国运已经无法回转，金履祥于是决定放弃科举做官的意愿。但自负有经国济世的才略，使他不能对当时政治形势不问不闻。时逢襄樊被蒙古人围困，南宋的军队日益告急，宋朝统治者却坐视危亡而不敢救援，金履祥因此进言牵制敌军攻其虚弱的计策，请求派大军由海路直奔燕州、蓟州一带，那么围困襄樊的蒙古人部队，就可以不攻而自行退走解围。而且详细地叙述了海船经过的路线，所有的州郡县邑，以及大洋海岛，途中的困难与便利，路程的远和近，清楚分明，可依据实行。但宋朝最终没有采用。等到后来朱瑄、张清向元朝献言海运的便利，而所经由的海道，与金履祥当年的上书相对照，几乎没有丝毫差异，于是后人都佩服金履祥谋划的精确。隐居著书宋恭帝德祐元年（1275年），南宋朝廷用迪功郎、史馆编校的职务征召金履祥，他推辞不就任。宋朝即将亡国，江山马上要易主，各地盗贼兴起，金履祥隐居在金华的山中，战火稍停，就在山谷山岩间追云逐月，吟咏歌唱，将世上的事情看得非常淡泊，他平时独自居住，整天端庄肃穆；若是待人接物，则情趣盎然神态温和。训导启迪后辈学子，严格负责不知倦怠，尤其看重情分义气。何基、王柏去世后，他率领同窗，遵照师友之义，着丧服去吊丧。宋亡之后，金履祥讲学于严州钓台书院，金华丽泽书院，兰溪齐芳书院和重乐精舍。后又在兰溪城内小天福山开设仁山书院讲学。由于他学富五车，博通理学，造诣深邃而思惟严密，加之训迪后学，谆切不倦，因而四方学子纷至沓来。学者称他为“仁山先生”。隐居期间，他一边教书，一边著书，金履祥曾经说过司马光作《资治通鉴》，秘书丞刘恕作《通鉴外纪》，以记载以前的事，不拘泥于经书，而相信各家的记载学说，是非评判与圣人孔子不同，不足以作为信史流传。于是以《尚书》为主，向后涉及《诗》、《礼》、《春秋》，旁采旧史与诸子，以编年体记载史事，开始于唐尧以下，接在《通鉴》之前，编辑成一书，名字叫《通鉴前编》。凡是所引用的书，都加上了考证诠释，用来订正它的含义，大多是以前的儒家所没有阐发的。书成之后授与门生许谦，对他说：“二帝三王的微言和美好德行当为后世所效法，战国之申不害、商鞅之法术乱政，当为后世君王所引以为戒。这些本书不可不著。”许谦对这些书都作了校定，均传于学者。后来廉访使郑允中把这些书呈进元朝皇帝。病逝乡间元大德七年（1303年）去世。元统初年，同乡吴师道当上了国子博士，传书给家乡的学官，在乡学中祭祀祠金履祥。到了至正年间，赐谥号为文安。
