“鱼梁吏”，说明其家属于“寒门”这类社会地位很低的阶层。晋灭吴后，中原人称江南人为“亡国之余”，江东士族在政治上也受到中原士族的排抑。像陶侃这样“望非世族、俗异诸华”的人，处境就更为艰难了。

　　陶侃少年时丧父，家境清贫，与母亲湛氏相依为命。湛氏是位很坚强的女性。她立志要使儿子出人头地。在这种环境下，对陶侃管教很严，并通过自己纺织资助儿子去结交朋友。后来，陶侃在县功曹周访的荐引下当上县主簿，才开始摆脱充当贱役的地位。

　　一次，鄱阳郡孝廉范逵途经陶侃家。正值大雪。陶侃因家贫，担心没有招待而怠慢了朋友，心中十分焦急。母亲看在眼里，安慰他说，你只管留客吧，我会设法招待好的。于是，她把头上的长发剪下，换成酒菜，又卷起铺床的干草切细，陶侃“斫诸屋柱”为薪柴，喂饱范逵的马。范逵事后得知，感慨地说：“非此母不生此子”！即使是跟随范逵而来的奴仆也觉得大过所望。

　　等范逵离开时，陶侃又追送百余里。范逵很感动，临别时问陶侃：“卿欲仕郡乎？”陶侃赶忙回答：“欲之，困于无津耳”。范逵遂向庐江太守张夔“称美之。夔召为督邮，领枞阳令。有能名，迁主簿”。这时恰逢州部从事来到郡里，他想借视察之名勒索赂贿，陶侃便让手下诸吏安心办公，自己出面对从事说：“若鄙郡有违，自当明宪直绳，不宜相逼。若不以礼，吾能御之。”从事听了便退了出去。陶侃也未忘报答张夔的知遇之恩。“夔妻有疾，将迎医于数百里。时正寒雪”，众僚属皆面有难色。唯陶侃说：“资于事父以事君。小君，犹母也，安有父母之疾而不尽心乎”！于是请行，众咸服其义。后长沙太守万嗣路过庐江，见到陶侃，陶侃对他特别虚心谦恭，使得太守大为惊讶，临别时对他说“君终当有大名”。令其子和他结交朋友，而后才离去。

　　有了这样的关系，陶侃即被张夔举为孝廉。靠这种身分，陶侃可以进入洛阳与上层名流结识，去实现他的大志。

　　不久，陶侃做了渔梁吏，食用官府的鱼（腌鱼）。他念起贫寒中的母亲，就用陶罐盛了一点鱼送给母亲。不料母亲不但不受，还将陶罐封上退回，并附信责备说：“汝为吏，以官物遗我，非惟不能益吾，乃以增吾忧矣！”此事给陶侃以极大的教育，为陶侃后来做官的廉洁奉公打下了基础。

　　大约在元康六年(296年)，陶侃到了洛阳。当时的洛阳，经过几十年的修复、重建，又变得十分繁华、热闹起来。但是，京城的繁华却没有给陶侃带来什么锦绣前程。实行多年的九品中正制，已使西晋在选官上