陶铸出身于一个贫苦的乡村小知识分子家庭。他小的时候，家里非常穷苦，六口人全靠父亲教书的微薄工薪度日，虽然节衣缩食但还是朝不保夕。贫苦的家境使他从小就养成了勤俭的习惯，以至他参加革命后成为国家领导人，但他仍保持着勤俭的良好作风。
陶铸在广州工作期间，正值国家经济暂时困难时期，他每天工作非常辛苦，经常工作到凌晨两、三点。可在生活上，始终保持共产党员的本色，坚持以身作则，节衣缩食，不要特殊照顾。他规定家里吃的肉、油、米，“要和老百姓一样”。有一次厨师找到点瘦肉，炒了一碟他爱吃的瘦肉辣椒端给他。他发了火，批评厨师说：“这个月我的猪肉已经吃完了，我说不多吃就不多吃。”说完坚决要把这碟菜退回去。这使厨师很为难。后来这碟辣椒炒肉只得端给工作人员吃了。事后，厨师说：“首长真厉害，以后再也不能这样干了。”那期间，他始终坚持不搞特殊化，还常对家人说：“有碟辣椒，再来碗青菜就够了。吃东西以填饱肚子为原则，这也不吃，那也不吃，还怎么接近群众呢？”他对穿着也从不讲究，他的内衣裤总是补丁叠补丁。但他始终忘不了群众的饥苦，并把家里的衣物寄给灾区群众，他常说：“我们身上穿暖了，不能忘记老百姓生活还很苦。”
陶铸处处严格要求自己，力求勤俭节约，做到一丝不苟，模范地遵守党的纪律。他经常告诫周围的人：“我们都是人民的儿子，应该全心全意为人民谋利益，不能有丝毫的特殊”。他回家乡祁阳，总是穿着粗布衣，吃大锅饭、蔬菜、豆腐乳，绝不准许为他搞丰盛的饮食。五一年那一次，县军管会曾为他办了一桌“接风”酒席，他连门都不进，多次催请也不去，却到祁阳一中和师生们一起用普通餐，叫人把办酒席的物品卖掉了。他六一年来祁阳，更是严令不准招待，不吃鸡，不吃肉，不吃鱼，只吃素菜，发现超过规定的饭菜，立即令人撤去，态度十分坚决。他无论到哪里一贯廉洁奉公，生活简朴，坚决抵制那种慷公家之慨，用来请客送礼的坏风气。1958年，陶铸带领一些干部到粤东检查生产，有的县大摆筵宴，表示“欢迎”，他见到这种场面非常气愤，匆匆吃碗饭就退席了。从此以后，他每次到各地调查、访问，总是事先“约法三章”：不准迎送，不准请客，不准送礼。说了还不够，还要随身工作人员督促检查，具体落实。这个“约法三章”，后来实际上成为一条严肃的戒律，谁也不敢在他面前搞什么特殊照顾了。
陶铸在生活上艰苦朴素，在工作上艰苦深入，有时简直到了不顾自己身体健康的地步。整风整社时，他到番禺县大石公社住了一段时间，坚持同其他干部过一样的艰苦生活，每餐吃的都是见不到多少油花的萝卜、白菜，别的同志有时还可以加一点鱼、肉，他坚持不要，拿出自备的辣椒、腐乳佐餐。长期的艰苦和劳累，使得他经常吐血，体质比较虚弱，同志们见了莫不为他的健康耽心，都说：“他宽阔的心胸中，确实只有人民，唯独没有他自己！”
陶铸在生活上严格要求自己，对他的亲属也同样如此。他母亲长期住在农村，陶铸每月给寄15元生活费。有个时期老人埋怨钱给少了，不够用。陶铸一再恳切地对母亲说，目前群众生活水平还不高，我们干部家属生活上不能脱离群众，人民给的钱，要讲究节约，直讲到母亲思想完全通了为止。他还经常教育他的至亲要安心农业生产第一线，积极参加生产劳动，勤俭节约过日子，在任何时候都要防止特殊化。那年石洞源修水库，包括陶铸的母亲、堂弟在内的一些社员需要搬迁住房，陶铸约法三章，教育亲属搬迁住房要先人后己，厉行节约。做到：一不准比别家早搬一天；二不准所盖新房比别家高一尺宽一寸；三不准建房材料比别家好一分。后来这些亲属虽然都是最后搬迁的，但其中堂弟一户实盖成的新房略为高大些，陶铸严厉地批评了堂弟，要他跟别的社员调换。陶铸这种胸怀宽广，心底无私的高贵品德，赢得了周围群众的钦佩。大家都说，陶铸爱亲人，但他更爱广大劳动人民，他决不因为自己职务高而给予亲属半点特殊的“照顾”。
陶铸家住的房子是一所年久失修的旧房，一下雨就会漏水，阴天进去非开灯不可。在国家经济困难的那几年，机关几次提议要翻修，他都不同意，直到1965年，国民经济得到恢复和发展，他才在机关两次三番地要求下同意翻修，并具体规定了翻修的用费。那时他和夫人恰巧都不在家，机关翻修时把标准提高了。他看到后，很不高兴，说是修得超过了他定下的标准，又说：“既然是给我个人修的，我就该自己出钱。”于是要警卫员小曾送去了他积存的几乎全部工资。机关觉得公家维修房子，私人出钱，这既无先例，也不符合收支规定，表示为难。他说：“那就算是我捐献给公家的吧”，硬是不让退回。这件事在当时震动很大，许多同志都深受教育。然而翻修好的房子，他连一天也没住上，就奉调北京去了。
陶铸把“先天下之忧而忧，后天下之乐而乐”作为自己的座右铭，他一生勤俭为民，做到心底无私，廉洁奉公，不愧是人们学习的好榜样。
他宽阔的心胸中，确实只有人民，唯独没有他自己！