蔡俊,字景彦,他父亲蔡普因守战五原有功,北魏朝廷封蔡普为宁朔将军。蔡俊从小是在北方六镇长大,和高欢是好友。当时高欢落魄的时候,只有蔡俊、段长、庞苍鹰认为高欢不是一般人。
蔡俊为人豪爽,而且胆气十足,高欢不得志时,就和高欢称兄道弟的。高欢那时只是一个平民,而蔡俊家可是朝廷官员,又是鲜卑族。由于北魏胡太后掌权,到处爆发起义,蔡俊在领军抵抗杜洛周时,力量悬殊太大,所以蔡俊被杜洛周俘虏。
这时高欢也在杜洛周军中,高欢密谋杀死杜洛周,蔡俊很支持高欢,可惜刺杀计划失败,于是高欢、蔡俊几人连夜逃跑投奔了另一个起义军领导葛荣。但是高欢又认为葛荣成不了大事,这时隐忍多年的尔朱荣出山了。
于是两人一合计,想干点大事出来,那就只能跟着贤明的人。葛荣此人,不足以委托荣华富贵,所以就跑去投奔了尔朱荣。尔朱荣进洛阳掌控北魏朝廷后,封蔡俊为平远将军、帐内别将。
这时葛荣的部队越来越大,而且北魏朝廷面临的是多地镇压叛乱,以至于朝廷无兵可派。葛荣也是看到这点,就率领大军想占领北魏的首都洛阳。元子攸此时名义上是皇帝,手里却没半点实权。元子攸也挺聪明,告诉尔朱荣,你要不要来抵抗葛荣,你不来,我就投靠他了。
反正在那里做傀儡皇帝都一样,尔朱荣肯定不干了,所以带领几千人找葛荣打仗。尔朱荣手下基本上都是精英,许多都是后来的名将,只是当时尔朱荣帐下的能人实在是太多了。所以很多名将谋士当时排不上号,在尔朱荣与葛荣决战时,因为高欢和蔡俊曾经在葛荣的义军中呆过。而且义军大多都是六镇军民,很多人都是他两的老熟人了。
蔡俊向尔朱荣请命,让高欢先潜入葛荣军中策反,这时蔡俊担任尔朱荣的谏议大夫。以寡敌众,最好的办法就是先从敌人的内部开始破坏,所以尔朱荣同意了蔡俊的计谋。葛荣号称百万大军,尔朱荣才几千人,如果不以谋略取胜,那葛荣大军一人一泡尿都能把尔朱荣率领的人淹死。
这边尔朱荣才平定葛荣,洛阳那边战事又起,北海王元颢杀进洛阳,把元子攸赶跑了。尔朱荣随即又带领部队前去讨伐北海王元颢,元颢叛乱被平定后,蔡俊因功受封乌洛县男爵位。
尔朱荣死后,高欢脱离了尔朱家族,蔡俊也跟随高欢同去。高欢准备在信都起兵和尔朱家决裂,当时高欢心里犹豫不决,在得到蔡俊等人的支持后。开始起兵,高欢任命蔡俊为大都督,随高欢攻陷了邺城。尔朱家几十万联军前来讨伐高欢,双方在韩陵爆发大战,尔朱家联军战败。
在解决了尔朱家的有生力量后,高欢把持了北魏朝政,立元修为帝。蔡俊在对尔朱家的战役中屡屡立下大功,高欢让他出任济州刺史。任职期间,蔡俊治政严酷残暴,济州百姓官员都害怕他。
由于连年战争,胡迁等人在兖州作乱,并且占据了兖州,以为天高皇帝远,管不着。高欢随即命蔡俊和高欢的姐夫齐州刺史尉景一同前去讨伐。在经历过大战的蔡俊面前,胡迁的叛军简直就是乌合之众,很快就被两人带领军队给平定了。
元修不想做高欢的傀儡,所以明里暗里都在和高欢争权。蔡俊镇守的济州是军事重地,元修想扳倒高欢,手中首先就要有军队。元修也知道蔡俊是高欢的人,劝降是不可能的,所以就打算安排自己的心腹汝阳王元暹,前去接管蔡俊的济州。
由于高欢一在阻拦,魏武帝元修只好让贾智去接替蔡俊的济州刺史。高欢已经阻拦了一次,这次也不在阻拦,而是暗中写信给蔡俊,济州不能易手他人。得到命令后的蔡俊知道贾智要来,所以对济州严加防范。贾智听说蔡俊调兵戒严济州后,心里很害怕,但是又不能就这样回去,只好带领随军士兵驻扎在东郡。
元修和高欢决裂后投奔了宇文泰,高欢随即拥立了元善见为帝,是为孝静帝。这也宣布北魏从此分成了东、西两魏了。这时驻扎在兖州的刺史樊子鹄,按照两魏的划分区域,兖州属于东魏的管辖范围。樊子鹄和高欢同是在尔朱荣帐下效命过的,如今高欢掌控东魏朝政。
樊子鹄不服高欢,于是割据兖州,不服从东魏朝廷的调令,南青州刺史大野拔也率所部依附樊子鹄。高欢肯定是不会让这种事情发生,于是派自己的舅舅娄昭领兵前去讨伐,蔡俊也随娄昭大军前往。大军开始久攻不下,娄昭见攻城士兵伤亡惨重,于是改变策略进行招抚。
樊子鹄不吃这一套,但是大野拔顶不住东魏的进攻,早就有了投降的心,现在娄昭招降,正好借坡下驴。于是暗中派人与东魏军暗中联络,东魏军再次攻城时,大野拔趁樊子鹄不备将其斩杀,献城投降。
投降南梁的元庆和,奉梁武帝的命令去攻打东魏的项城,东魏派行台元于思和蔡俊前去讨伐元庆和。元庆和听说东魏前来讨伐的大军有三万,吓得元庆和还没开战就撤退了。回到到南梁后,梁武帝气的暴跳如雷,说从来没有见过如此胆小的人。骂他“胆若鼷鼠”,这也就是成语“胆小如鼠”的由来。
后来蔡俊转任扬州刺史,病死于任上,朝廷追封冀州刺史、尚书令、司空公,谧号为威武。高洋受禅让建立北齐后,因蔡俊功高,让他陪祭于高祖之庙。