朱元璋积极兴办学校，推行教化，培育人才，这是朱元璋搜罗人才的一种方式。在他看来，学校教育在人才培养中发挥着巨大作用，是不可缺少的。他曾对教官们说：“治天下以人才为本，人才以教导为先。山是树木从生的地方。要想树木繁茂，必须培育它的根部；要想流水不涸，必须疏浚它的源头，要想人才有成，必须培养他们的德性；如果不加培养，就期望他们成才，这正是堵住源头却想让水流，砍伐小树却想得到大木，这怎么可能呢？”
朱元璋建立的教育系统，由国家、府学、州学、县学、社学、卫学等构成，从京城到乡村，从内地到边疆，无不建立学校。
龙风十一年（1365年），朱元璋在元朝集庆路学旧址上创建了国子学，成为明代国学之始。建国后，因初创时规模比较狭小，朱元璋几次下令增筑学舍。到洪武十五年（1382年），国子学改名为国子监。国子监设有祭酒、司业、博士、助教、学正、学录等学官。祭酒、司业全面负责国学事务，相当于正、副校长；博士负责讲授经书，督课学业，是主讲教师；助教、学正、学录，分别负责训诲六堂（国子监学生分别在率性、修道、诚心、正义、崇志、广业六堂学习）诸生，是辅助性的教学和管理人员。国子监的学生分为官生和民生两类。官生包括官员子弟、土司子弟和海外留学生，以官员子弟为主。民生是民间子弟，有贡监和举监之分，贡监是指从府、州、县学选送上来的岁贡生员。举监是指保送到国子监补习的会试下第举人。起初官生多于民生，后来，朱元璋对官生入学的控制变严，民生的比例急剧上升。
早在龙风五年（1359年），朱元璋在攻取婺州后，即设立郡学，这是朱元璋设立的第一所地方性学校。建国以后，他决定在全国各地都“设学校，以作养士类”。洪武二年（1369年），朱元璋下诏说：学校教育，在元朝时弊端丛生，名存实亡。朕常说治国之道，教化为先，教化之道，学校为本。现在京城虽已有太学，但全国各地尚未兴办学校。
应当让各郡县都建立学校，礼聘教师，教授学生。这是最要紧的事务，必须迅速办理。在这一诏令的促动下，各府、州、县的学校陆续建立起来。朱元璋还把学校列为考核地方官员的一项主要指标，凡无兴学之渍者，均视为不合格。
洪武八年（1375年），朱元璋为了进一步普及教育，还下令在全国设立社学。当时各地都设立了多所学校。社学事务起初也由官府管理，有些地方官借此扰民，朱元璋有鉴于此，曾一度停罢社学。洪武十六年（1383年），朱元璋再次下诏广设学校，特别规定“令民间自立社学，请师儒以教民间子弟，有司不得干预”。
在部队中，朱元璋也建立学校，开展教育。洪武十七年（1384年），他在辽东始设都指挥使司儒学，又在岷州始设卫儒学，后来都指挥使司和卫相继效仿设立，到洪武末年，军队系统的学校已有多所。
有人认为边境地区没必要设立学校，朱元璋说：“圣贤教育就好像是天，天有风雨霜露，天下没有一个地方不普受遍及，圣贤教育也同样要无处不施。”在云南、贵州、广西、四川等少数民族聚居地区，朱元璋也设立了一些学校，推行儒家教育。
师资素质决定着教学质量，对于师资队伍的建设，朱元璋非常重视。洪武六年（1373年），礼部奏请增扩国子生名额，朱元璋说：“应当先选择国子学官。教师得人，培养教育才会有效果。如果教师素质不高，学生再多，又有什么用处？瞎子不能辨别颜色，聋子不能辨别声音，学者如果没有名师传授，也就像不辨声色的聋子、瞎子一样。前代学者能够出来建功立业，虽然有天赋好的原因，教师的造就之功，也不可没。后世教师不懂得教导之道，学生不懂学习之道，一味地背诵典籍，缺乏实际才能。现在民间子弟，可以选拔到国学来的有很多，但如果没有品德端正的人士作他们的楷模，要想造就成才，是很难的。有一句话说：‘务学不如务求师。’现在祭酒缺人，你们要为朕广泛访求天下名士，有通今博古、才德兼备、堪为人师者，奏报上来，以供选择。”
对于地方学校的教师质量，朱元璋也非常关心，他曾让各地按察司严格考核本地学校的教师，凡有不通经术的，一律送到吏部，调任他职。后来，他又制定了学官考核法，规定：
学官在九年任职期间，所教生员，府学有九人、州学有六人、县学有三人中举，本人经过考试又精通《四书》、《五经》者，提升官职；所教生员中举人数较少，本人考试即使通晓经典，也不提升；所教生员中举人数太少或全无，本人考试又不通晓经典，则予以降黜，调任学官以外的职务。朱元璋还要求教官熟悉实际事务。洪武二十五年（1392年），朱元璋向入京朝见的教官询问当地情况，岢岗州学正吴从权、山阴县教谕张恒说自己只懂教学，不知道民事，朱元璋大怒，下令将二人发配到边地。
自唐代以来，中国的经济和文化重心开始南移，南方的文化水平逐渐超过北方，到明朝初年，在遭受长期战乱之后，北方教育十分落后。为了提高北方教育水平，朱元璋采取了不少措施。洪武八年（1375年），他命人在国子监选拔优秀学生，分派到北方任学官，他指出：“北方在战乱之后，很少有人务学，想在那里寻访学识通达的人士，是很难得的。现在太学的学生当中，有不少年长学优的人，你们要认真选取，让他们到北方各府、州、县任教，以促进教育，培养人才。”最后，共选拔了三百六十六名学生，朱元璋赐给膳食、衣服，为他们壮行。朱元璋还数次向北方学校颁赐书籍。洪武十四年（1382年），朱元璋指出：“北方自战乱以来，经籍残缺，学生们虽有良好的资质，可无书可读，怎么去了解圣人之道？”于是将《五经》、《四书》颁发给北方学校。到洪武二十四年（1391年），朱元璋再次大规模赐书。
他谕礼部官员说：“农夫没有耒耜，就无法耕作；工匠没有刀斧，就无法工作；士人没有书籍，就无法学习。朕念及北方学校缺少书籍，士子有志于读书者，往往无书可读，所以曾下令颁赐《四书》、《五经》，但诸子、历史等书籍，当时未曾赐予，现在应由国子监负责印刷颁发，国子监未备的书籍，可派人到福建购买，以供颁赐。”
明初学校的教学内容，以《四书》、《五经》为主，朱元璋认为这些书是修身、齐家、治国、平天下的大经大法，要求学生熟记于心，深刻领会。朱元璋自己喜欢读书，涉猎面较广，有时见到好书，也推荐给学生们阅读。如他在读过汉代刘向撰写的《说苑》后，觉得此书“多载前言往行，善善恶恶，昭然于方册之间”，是道德教育的好教材，遂下令让国子生阅读。
朱元璋认为，通晓律令一方面可以使人知所警戒，减少犯法的可能性，另一方面也是做官理政的必备素养，所以他把《大明律》、《大诰》指定为学校教材，要求学生们熟练掌握。学生们还要练习书法，学习写作各类公文。此外，学生们还要学习算术知识，要求精通《九章》算法。朱元璋希望学校培育的人才都能兼通文武，因而要求学生学习射箭。他说：“古代的学者，都是文足以经邦，武足以勘乱，所以能出将人相，安定社稷。现在虽然天下太平，你们以学习书本知识为主，但也不可对军事方面的事务一窍不通。”总起来看，朱元璋反对学校教学以记诵为务，要求培养出有实际从政能力的人才。
在朱元璋的大力提倡和督促下，明初的学校教育取得重大成就。《明史·选举志》中称赞说：“无论是荒远偏僻之处，还是山野海角之地，没有不设学校的地方，没有不受教育的百姓。明代学校的兴盛，是唐、宋时代所远远不及的。”此话虽有些夸张，但它充分说明了，明初的教育普及程度是很高的。