1880年12月31日，乔治·马歇尔出生在美国宾夕法尼亚州万尼敦镇的一个商人家庭。1897年9月，17岁的马歇尔进入美国著名的弗吉尼亚军事学院。在校学习期间，由于他为人笃诚，才干突出，一年级就当了学员分队长，两年后被任命为全院学员队长、全院学员大型集会指挥。除了弗吉尼亚军校，马歇尔还上过利文沃思堡步骑兵学校、陆军参谋学校，打下了坚实的理论基础。
1901年9月，马歇尔参加军官委任考试，次年2月宣誓就任美国陆军少尉。2个月后，他被派往菲律宾，在麦克阿瑟将军的司令部供职。马歇尔第二次带兵执行任务时，就遇到了士兵们粗野无礼的捉弄。当他们趟过鳄鱼出没的一条小河时，忽然有人大喊一声：“鳄鱼！”士兵们争先恐后把马歇尔挤倒在泥水里。马歇尔借此机会严肃军纪；他把士兵们集合起来，在这条河上来回趟了两次。他的严格、镇静，使士兵们肃然起敬。
1917年6月，马歇尔随陆军第1师到法国参加第一次世界大战。不久，他被晋升为临时中校，并担任师代理参谋长。有一天，美国欧洲远征军总司令潘兴将军来1师观摩军事演习，马歇尔设计的一套运用新方法猛攻敌人战壕的演习，引起潘兴的注意。不久他又被提升为临时上校，并被调到驻肖蒙的美国远征军总参谋部工作。在那里，他取得了令人羡慕的战果。第一次世界大战结束后，马歇尔调任第8军参谋长。1919年9月马歇尔回国，他的临时上校军衔被取消。直到1936年8月，56岁的马歇尔才晋升为准将。
1938年夏，马歇尔被任命为陆军部作战计划处处长，接着又改任陆军副参谋长。这一年，慕尼黑协定签订，战争的阴影在美国上空徘徊。但作为经济强国的美国，其军事力量竟排在包括西班牙、葡萄牙在内的16个国家之后。对此，马歇尔认为必须立刻采取措施，重整军备。1939年9月1日，马歇尔出任美国陆军参谋长，同时晋升为四星上将。他站在全球的战略高度，分析了美国卷入世界战争的必然性。他的精辟见解，驳斥了美国国内孤立主义者和不干涉主义者反对美国介入战争的论调。他还直率地向总统进言，给总统分析国际局势、美国军事现状以及它所面临的威胁。总统心悦诚服，两天后便把这项计划提交国会批准，为美国的军事发展开了绿灯。至此，美国的军队建设和军备发展迅速展开。一支不到20万人马的陆军部队发展到537万，美国一跃成为世界军事强国。
作为参谋长，马歇尔十分重视优秀军官的挖掘和提拔工作，他查阅了手下高级军官的档案，向总统提交了一份需立即退役的将官名单，并建议提拔一批年轻的、具有现代战争思维的人才。
艾森豪威尔当时是个年轻的上校，是马歇尔建议予以提升的人选之一。巴顿能领导部队赴汤蹈火，马歇尔建议一有装甲部队就交给巴顿指挥。更难能可贵的是，马歇尔在用人上敢于承担责任。
魏特迈是个有才干、有学识的人才、他曾在德国军事学院读过二年半书，他参加拟定的一项有关与德国作战的计划被泄露了，于是他成了头号嫌疑犯。但马歇尔对他信任不疑，指示陆军部长不能撤换他。正是在马歇尔的努力之下，美国陆军得到了飞跃的发展。
1943年，世界反法西斯战争出现了转机，盟军决心在1944年渡过英吉利海峡，开辟第二战场。那么谁来执掌帅印呢？人们不约而同地把目光投向马歇尔。在魁北克会议上，同盟国首脑们一致同意由马歇尔担任此职。但罗斯福总统认为，一旦马歇尔出任欧洲最高司令，无人能接替他担当美国在全球性军事行动的指挥。马歇尔体谅总统之心，自觉放弃了这次千古扬名的机会，而把它转让给了艾森豪威尔。
1945年8月20日，第二次世界大战结束不到一个星期，马歇尔致信杜鲁门总统，请求辞职，退隐还乡。同年12月作为总统特使赴华调解国共关系，参与国共谈判。
1947年1月，他被任命为国务卿，掌管美国外交事务，他拥护推行“冷战”政策的杜鲁门主义。在此期间制定和推行了旨在复兴欧洲的“马歇尔计划”。
1959年10月16日，马歇尔病逝于沃尔特里德医院。终年79岁。