不管怎么说，胡林翼能有今天，还是依赖了他的这个老丈人。陶澍真正知道这个女婿的优劣之处，又擅长施教。否则，单凭他一个胡林翼，不要说是外放贵州，即便能有后来的进士中第，恐怕也只能淹没在那些虫蚁般密集，期待候补的官海宦河之中了。
贵州偏僻，黔东就更是偏僻中的偏僻，满目皆山不说，将近九成的百姓又都是苗、侗等非汉民族。胡林翼来到贵州，先后任黔东的镇远、黎平知府，偏僻归偏僻，有官做，有实权，再苦的地方他总是苦不了的，更何况他现在已经是个有心的人。
熬资力、混升迁，太平盛世里是很难得的事情。富庶的治所谁都愿意去，打破头的争，胡林翼不想去争，当然，去争也未必就能争的过。于是，他喜欢乱，所谓乱世出英雄，不乱显不出人的真实才干。想升迁，那是要会表现和会付出的。在他心里，这官场也象过去他跑惯了的秦淮河上的花船，婊子是不你长相是否英俊的，认的是你囊中的钱财。而上司同样，也喜欢选有些本事的奴才，尾巴要夹的紧紧的，活儿呢，要干的漂漂亮亮的，溜须逢迎的同时，再有些眼力劲儿。
胡林翼干的很漂亮，偏僻的山区给了他表现的机会。他恰逢乱世，用尽一切心机和黄平、台拱、清江、天柱等地的苗民，及邻近的湖南暴民鏖战了数年时间，颇有成效。他的团练、保甲制，也因此搞的红红火火，很快得到了上司的青睐，荣升贵东道。为了扬名立腕，他还依据自己数年来的所谓实战经验，再结合什么《孙子兵法》等等，凑集写手编撰了个《胡氏兵法》，手下人手一册，奉若圣典。
太平天国金田团营、永安建制，随后进了湖南。当各地官员惟恐火烧到自己的头上，惶恐难安的时候，胡林翼却大为兴奋了一阵子。如果用大喜过望来形容，只怕不会有错，这是难得机遇。不过，很快他又开始暗叹自己命运的不济了，前几年的好运气似乎转了风向了。太平军没有在湖南久呆，而是一路绝尘而去，他带着贵东团练杀进湖南，居然连个长毛的影子也没扑到。等好不容易把他们再“盼”回来了，他自己也二虎了。
老朋友曾国藩、左宗棠、罗泽南等等，死的死，被捉的被捉，所剩无几。当然，对于曾国藩搞的那套，他并不欣赏，也没放在眼里，曾国藩和自己比，那只是个说家子。可他抱着自己的兵法苦思了多日之后，也是毫无头绪，他手下不过才有几千的练勇，整个贵州怕是也凑不出十万的兵马，更何况即便是有兵马，也轮不到他来调动和支配呢。
他开始痛恨起这些长毛了，真是的，如果不是湖南兵败如山倒，再给自己一个表现的机会，巡抚的顶子那还不是信手拈来的事情。
面对声势浩大的太平军，胡林翼不再幻想出贵州了。孙子说的好，“十则围之，五则攻之，倍则分之，敌则能战之，少则能逃之，不若则能避之。”翻遍那家兵书，也断断没有拿几千练勇去和如此强大的对手争锋的，偷鸡摸狗的还凑合。
渐渐，他又开始暗自感激对手了。石达开的大军拿下了湖南全境，却并没有向他这里动刀兵，除去少数零星的你来我往，基本上还算是大家相安无事。等到太平军主力进赣南，下广东，再回头杀进广西，胡林翼的心情已经开始和别的官僚们一样了。他开始害怕，害怕自己成为下一个太平军打击的目标。
广西是太平军的老巢，值此危机时刻，**的朝廷在广西也和贵州同样，根本难以动员和组织起更多的兵马对太平军实施强有力的抵抗，只能被动地固守几个点，聊以自慰。而随着太平军的深入，那成帮结队的暴民却会雪球似的伴随着滚动起来，越滚越大。
形势越来越不妙，湖广总督兼理广西巡抚官文，广西提督福兴竟然丢弃省府桂林西逃。而按察使康国器、左江道张凯嵩广西不少的官员也纷纷涌进了他的贵东。
这下，胡林翼更毛了。他原本以为两广不会那么轻易地就丢失，太平军主力都集中在两广，自己尚且有充裕的时间在各险要地带布置防御力量。另外，从去年年底开始，被肃顺由湖广总督任上轰到贵州来当巡抚的劳崇光曾经私下给他透过话，肃顺听到了他的官声，朝廷也有重用他的意思，他也相信这一切都是真的。眼下，能和他比肩的可能没有几个了，他甚至都做好了拔腿走人的准备。现在一，可不是那么回子事儿，再不抓紧，甭说晋升，只怕到时候什么都晚了。
不能不说，胡林翼算是个人才。他的保甲制，使风雨飘摇，激流暗涌的贵东，表面起来还安静的很。他挑唆贵东各大民族间的相互矛盾，把百姓对满清的不满，都极力转移到相互间的民族怨恨上。他还乐此不疲地经营了一只专门用于刺探各类情报的机密营，深入湘南，周旋于村村寨寨。
为了抵御可能发生的太平军入黔作战，他号称是独家“发明”了山地防御线。在与湖南、广西的广大交界地域，依山峰沟壑之势，垒建防御墙，搭建碉楼、熔铸铜铁炮，利用那些极端仇视太平天国的山寨领主、头人、地主拥有的私人武装力量，开始封锁边界。
恰恰在这个时候，他收到了曾国藩、还有左宗棠的来信。
曾国藩和左宗棠在各自的信中，并没有太多的劝诱，在大篇幅地客套和叙述自己目前的境遇后，只是简要地说了下太平天国的之所以迅猛发展，乃是大势所趋，太平天国的所作所为，更是广大汉族百姓及所有下层各民族百姓的愿望。尽管没有明确提出来叫他审时度势地抉择好自己的出路，但是，其中的含义不言而自明。