铁铉性情刚决，聪明敏捷，太学读书时，熟通经史，成绩卓著，由国子生被选授礼部给事中，后调任都督府断事。曾经审理悬而未决的案件，立刻就做出了合理的判决，其才干深得明太祖朱元璋器重，朱元璋赐给他“鼎石”的字。建文帝即位后，铁铉升任山东参政。

1399年(建文元年)，建文帝的叔叔燕王朱棣，在北平起兵发动叛乱。朱允炆派大将军李景隆讨伐，时任山东参政的铁铉负责督运粮饷。李景隆战败，河北及山东北部各城守军皆望风而溃。次年四月，朱棣在济南城外大败李景隆，随之包围了济南。此时，济南城内只有都指挥盛庸所部，兵力单薄。危急时刻，正在外地为李景隆的北伐军运送粮草的铁铉闻济南危在旦夕，火速赶赴济南，与盛庸歃血为盟，约定死守城池。1400年(建文二年)六月八日，燕王叛军兵临济南城下。朱棣曾令人用箭将一封劝降书射进城内，铁铉见信后随即效仿此法回信一封。朱棣打开一看，见是《周公辅成王论》一文。原来，铁铉意欲借此奉劝朱棣要效法辅佐侄子治理天下的周公，忠心辅佐侄子朱允炆。见劝降不成，朱棣遂下令攻城。而铁铉督众，矢志固守。致使朱棣久攻不下，只好将济南合围。

朱棣攻济南三个月不克，便阴谋掘开黄河大堤，引黄河水灌城。为了济南百姓的安危，铁铉决定以诈降之计，诱杀朱棣。铉率众诈降，派壮士暗在城门上置千斤闸，又让守城士卒大哭哀嚎“济南城快被淹了，我们就要死了”。不久，尽撤楼橹防具，派城中百姓长者代替守城军做使者，到燕王大营跪伏请降：“朝中有奸臣进谗，才使得大王您冒危险出生入死奋战。您是高皇帝亲儿子，我辈皆是高皇帝臣民，一直想向大王您投降。但我们济南人不习兵革，见大军压境，深怕被军士杀害。敬请大王退师十里，单骑入城，我们恭迎大驾!”燕王朱棣不知是计，闻言大喜。出征数日，燕兵疲极，如果济南城降，即可割断南北，占有整个中原地区。因此，朱棣忙令军士移营后退，自己高骑骏马，大张黄罗伞盖，只带数骑护卫，过护城河桥，径自西门(泺源门)入城受降。城门大开。守城明军都齐聚于城墙上往下观瞧。燕王朱棣刚进城门，众士卒高呼"千岁到"，预先置于门拱上的铁闸轰然而落旋即砸烂了朱棣的马头，知是中计的朱棣换马急返，方得幸免一死。朱棣大怒，以重兵围城，铁铉伏在城头，大骂朱棣反贼。朱棣大怒，并用数门大炮轰击城内，城将破，铁铉急将朱元璋画像悬挂城头，又亲自书写大批朱元璋神主灵牌，分置垛口，燕军不便开炮，济南城得以保全。相持之间，铉又募壮士，出奇兵，骚扰袭击燕兵，大破燕军。“燕王愤甚，计无所出”。姚广孝向朱棣进言，回北平再图后举。燕军遂于九月四日解围去，从此南伐不敢再取道济南。铁铉又与大将军盛庸合兵，乘胜追击，收复德州诸郡县，兵威大振。济南解围之后，铁铉在大明湖天心水面亭设宴，犒赏将士。朱允炆遗官赐金慰劳济南守军，又擢铁铉为山东布政使，不久，又加兵部尚书衔，赞理军事协助盛庸准备北伐燕军。得以免受战火的泉城百姓于是称铁铉为“城神”。

1402年(建文四年)，燕军进攻山东，绕过守卫严密的济南，破东阿、汶上、邹县，直至沛县、徐州，向南直进，在灵璧大败政府军后，又突破淮河防线，最终攻占京师，惠帝下落不明，朱棣自立为帝，改年号永乐。朱棣夺取帝位后，回兵北上复攻济南，并在河北一带大肆屠杀百姓。到达济南，铁铉死守不肯投降，但终因寡不敌众，城池陷落。朱棣又设伏兵计擒铁铉，铁铉终于在淮南被俘，被押送到京师，盛怒的朱棣命令将他凌迟处决。铁铉遇害后，其父母被发配到海南，他长子充军，次子做了官奴，后来被虐待而死。三十五岁的妻子杨氏和仅四岁的女儿也被籍没为奴，沦为乐户发配到当时的官营妓院做妓女。 [5] 教坊司做而当时建文诸臣的妻女们有多少落到这个下场。建文朝力主削藩和对燕王朱棣用兵的齐泰、黄子澄，因为他们的名气和铁铉一样大，所以他们妻女的下落才被史官们保留下来。朱棣当上了皇帝。他虽然痛恨铁铉，但每每激赏他的忠义，还对群臣称赞他。明神宗初年，下诏“祀建文朝尽节诸臣与乡”，修铁铉等七位建文忠臣之庙。南明弘光帝时，追赠铁铉为太保，谥忠襄 。清高宗追谥曰“忠定”。