蔣濟字子通，是楚國平阿人。年輕時他就順利地參加工作在本郡當了“公務員”。建安十三年，曹操赤壁大敗后孫權進攻合肥，面對援軍不到的情況，合肥守軍士氣低落。此時滿寵公開宣稱救兵將至，還把援軍的人數和動向編造出來，故意泄漏給孫權部。孫權得知曹操援兵將至，綜合考慮時局后選擇撤退，合肥城池得以保全，滿寵也得以入了曹操的法眼。

第二年，曹操面對孫權對江北虎視眈眈的局面，就打算將南方軍事緩沖區的百姓全部遷徙到內地。對此事，曹操征求蔣濟的看法，蔣濟以民心為由建議曹操收回成命。但曹操堅持遷徙百姓，以致于很多軍事緩沖區的百姓反而投入了東吳。不久后蔣濟來到鄴城，曹操給蔣濟升官并側面承認了自己的小失誤。

后來，蔣濟擔任揚州刺史溫恢的別駕時出了一檔子事，當地百姓有人誣告蔣濟是當地叛亂的幕后主謀。曹操聽聞此事，立刻找到于禁指出可能是謠言，不過還是將蔣濟召回身邊工作。關羽水淹七軍之時，曹操就有了遷都的想法。但此時司馬懿和蔣濟一起建議聯合孫權以解此危機，幫曹操躲過此次大難。

曹丕稱王及稱帝后，蔣濟分別有所升遷，正是此時蔣濟呈上了傳至今日且著名的《萬機論》。曹丕稱帝后，由于為了平衡宗室利益等原因，曾經給夏侯尚下了一道圣旨指出，你是我的心腹重將，我賜給你生殺大權。夏侯尚接旨后就給蔣濟顯擺，蔣濟得知趕緊找到曹丕，直接了當的說自己聽到了亡國之音。曹丕大怒問怎么回事兒，蔣濟把曹丕賜給夏侯尚圣旨中生殺大權的不妥表明后，曹丕趕緊勒令取回送到夏侯尚處的詔書。

黃初三年，曹仁討伐東吳，蔣濟參與局部戰役。當曹仁和蔣濟第一階段獲得小勝之后，曹仁打算進攻主要軍事目標下游的東吳軍隊家屬所在的地方，以圖徹底擾亂東吳軍心。蔣濟得知后趕緊聯系曹仁指出，敵軍戰船在上游，我們如果貿然攻擊下游，會自取滅亡。曹仁并沒有聽從蔣濟的建議堅持進攻，結果遭到了曹仁的否決。這波強開讓曹仁戰敗而歸，不久后就去世了。在短暫統帥曹仁軍隊穩定軍心后，蔣濟又回到了朝中任職。

鑒于東吳和曹魏的矛盾，曹丕決定親征廣陵，蔣濟使出渾身解數也沒有打消曹丕這不切實際的舉動。最終因水道不通，曹丕親征路線受阻。曹丕雖然在蔣濟不斷的勸諫和事實打擊下決定撤退但把大隊船只處理的爛攤子留給了蔣濟，蔣濟命令開鑿河道，經過一番復雜的引流，船只得以入淮。

曹叡繼位后，蔣濟終于有了爵位。在石亭之戰前夕，蔣濟堅定地反對曹休貿然進攻。出兵后蔣濟又根據形勢向天子上表請求援軍。只可惜曹休大軍已經到達前線，曹軍大敗。回朝后，蔣濟結合曹叡身邊近臣等情況，上書天子建議留意重臣，謹防權臣專權等行為。曹叡看后對蔣濟大加贊賞并將其封為護軍將軍、散騎常侍。

景初年間，曹叡開始大修宮殿，導致曹魏經濟下落，民不聊生。蔣濟針對此情況上書天子讓百姓不失農時，應優先考慮到大敵環繞等情況。曹叡下詔指出蔣濟說得對（但我們知道其實并沒有太多改善）。

曹叡駕崩后曹芳繼位，蔣濟被加封為領軍將軍，進爵昌陵亭侯，不久后又被封為三公之一的太尉。在曹芳初年，曹爽等人專權并擅改國法。蔣濟借著一次天子因為太空異象開大會時，蔣濟上書指出國家法度不可再由平庸之輩亂改，自此公然抨擊曹爽及其黨羽。

曹爽帶著曹芳前往高平陵之時，司馬懿發動政變。此時蔣濟對于限制曹爽的方針是與司馬懿一樣的，于是主動給曹爽寫信希望曹爽盡快認罪，并保證只免官，可留曹爽一條命。但曹爽認罪后，司馬懿以謀反的罪名殺掉曹爽及黨羽三族，蔣濟羞愧難當，于同年去世，謚為景侯。

蔣濟去世后，他的兒孫仍在魏晉做官。