萃华堂裱画店地处上海老城——南市的中心，是家百年老店，老板叫黄全浦。周围商店林立，酒肆环绕。每日里车水马龙，十分热闹。这里也是流氓出入的场所，燕子窝、妓院和赌场更是众多。这倒很对黄金荣的脾性，他很快在这里结交了一些三山五岳的“好汉”。但好景不长，店大规矩多，杂务重，在萃华堂，除了照顾店里的生意外，早晨还要淘米、煮饭，做各种家务。而且，“根本没有工资，老板每月只给50文月规钱，剃头、洗澡之外，就所剩无几了”。所以，黄金荣“认为干这一行没有出息，要想找门路改换职业”。尽管有父亲的严厉督促，黄金荣还是半途开溜了。
当父亲问他今后打算时，黄金荣斩钉截铁地回答，坚决不走姐夫的道路。他对父亲昔日的捕快职业倒情有独钟，张家弄一带住有不少清朝的武官和捕快，黄从小耳闻目睹，十分崇拜捉贼捕盗的英雄。父亲昔日的捕头威风，黑白两道上来往的各路好汉，始终是黄金荣向往的生活样式和内容。这倒并不难，黄炳泉与上海县衙门中的人还有些熟悉。经过多次请客送礼，终于有了眉目，1887年，黄金荣先是谋得一个上海县值堂的差役。接着，黄炳泉又给县里送金献银，终于让黄金荣改任捕快，一时黄金荣欢天喜地，以为从此可以高人一等了。
然而，捕快亦非轻闲之职。那时，上海县隶属于松江府。黄金荣经常要押解犯人或押送公物到松江府去，上海到松江，来回70多公里，黄金荣常常是穿上蒲鞋，背着雨伞，提着灯笼，清晨三四点钟出发，要到晚上八九点钟才能回到南市。头几次外出，小桥流水，野菜花香，尚有些新鲜感，日子长了，风来雨去，风餐露宿，从小被母亲娇宠惯了的黄金荣如何吃得起这等辛苦。不久便辞去了捕快之职，与一批在他父亲茶馆中混日子的流氓缠在一起。
这时的黄炳泉已到花甲之岁，且染有烟瘾，体弱多病，他终于没能看见儿子出息，在愁苦中离开了人世。其妻邹氏不几年也死去，茶馆也关门了，经父亲的朋友帮忙，黄金荣才将父母葬于漕河泾黄家坟地。
父母死后，家中只剩黄金荣姐弟3人，再也没有人管黄金荣了。此时的黄金荣虽然个头不算高，但长得十分壮实，椭圆的脸，胖墩墩的，他握紧有力的双拳，感到浑身是劲，准备打一番天下。
“郑家木桥小瘪三”
“郑家木桥小瘪三”是一个历史的名词，在那个时期，为上海南部流氓地痞、无赖的统称。那个时期的黄金荣，正是混迹在南市和法租界、公共租界交界的典型流氓团伙“郑家木桥小瘪三”中，开始了他的混世魔王的人生道路。
郑家木桥在开埠前就已架设，原名陈家木桥，上海话里“陈”、“郑”同音，因此后来变成了郑家木桥。上海小刀会起义后，清军前来围剿，这一带顿成战场。英国领事为阻止战火蔓延到租界，下令拆除此桥。直到后来，美国传教士泰勒为了方便教徒进出河南的基督教教堂，出资在木桥原址上建造了一座长10米、宽4米的木桥，外国人称泰勒氏桥，上海人仍称它为郑家木桥。郑家木桥一带，商号林立，各地商贾成交之后，就近到山东路麦家圈、福建路四马路(今福州路)一带逛妓院、赌场和燕子窝。久而久之，这一带就成了三教九流、各色人等的云集之处。于是，游民乞丐因这里茶楼酒肆、娼寮赌场毗连而时常出没，扒手小偷因这里各地商人成群也常在此聚散，流氓地痞们更是在这里呼风唤雨，聚众闹事。
凡有行人行经或者商船停靠此地，他们便一哄而上，于光天化日之下公开抢劫，大之于货箱皮包，小之于妇女所戴的耳环头簪。这些歹徒往往在英租界得手后，只需逃入桥南的孔子路即告无事，而在法租界作案后，只要避入桥北的英租界亦然。洋泾浜的有利地形，使得流氓歹徒越聚越多。他们结伙成帮，各占地盘，形成了近代上海黑社会的一个雏形。
而从捕快职位上退下来的黄金荣，便成了这众多的流氓地痞中的一人。
黄金荣身材矮胖，结实有力，皮肤黝黑，一张田字脸，硕大无比，近似蛤蟆。口大容拳，但目光炯炯。他凭蛮力亦凭其社会经验而拳打脚踢，在洋泾浜两岸为非作歹，不久与丁顺华、程子卿结成了流氓团伙。
丁顺华，南汇人，原是农民，身有蛮力，且学得一手好拳术。最初，每日摇柴船到洋泾浜来讨生意，遭到当地土棍的勒索，遂纠集同乡自卫，久而久之，自己也蜕化变质，成了郑家木桥的一霸。
程子卿(1882-1961)，江苏镇江人，因皮肤黝黑而人称“黑皮子卿”，幼时读过几年书。及长因家贫而辍学，在米店当学徒，每日掮米，炼就铁打的身坯，且善于出鬼点子。后来他也看中了洋泾浜这块风水宝地，纠众做敲诈之事。
黄金荣与丁顺华、程子卿结为兄弟，依次为黄老大、丁老二、程老三；强强联合后，便成为郑家木桥一带无可争议的霸主。其收益的主要对象有二：一是来此地贩运各种农产品的农民；二是洋泾浜两岸的商家。前者要留下买路钱，后者要交纳“保护费”。除此之外，有时仍要做些“抛顶宫”(抢路人的高级呢帽子)、“剥猪猡”(抢剥路人衣服)、“剥田鸡”(抢小孩的绒线衣等)、“背娘舅”(用绳套住被害人头颈背至角落，待昏迷即抢剥去衣物)等勾当。
经常来此的商贾、旅贩和农民们，为了免遭麻烦，须主动向流氓中的最有势力者行贿送礼以寻求庇护。这些流氓中的强有力者往往成为团伙帮派中的头目，逐渐形成流氓中的小金字塔，小地盘服从大地盘，小头目服从大头目，产生出盘根错节的地方恶势力。黄金荣在丁顺华和程子卿左右手的支撑下，横行霸市，聚赌狎妓，成为洋泾浜两岸小有名气的黑社会头目。
上海的法租界
上海法租界是法国人在中国建立的第一个租界，于1849年4月建立，其最初的范围在城河浜(今人民路)以北、洋泾浜(今延安东路)以南、关帝庙褚家桥(今西藏南路附近)以东、潮州会馆(今永安路以西、四川南路以东)以西，面积是986亩。1861年，法国人要求扩大法租界的范围，在他们的威逼下，上海道台对法国总领事说：“顾念我们良好关系，我愿热诚地设法使您满意。”这一“设法”，竟将其租界的东南界址推进到小东门外城河地区，面积达到了1124亩。
当时，法租界的治安主要靠巡捕房承担。
法租界自咸丰六年(1856年)起雇佣3名欧洲人做巡捕，旋设立捕房于小东门黄浦滩路(今中山东一路)，同治五年(1866年)捕房改称公董局警务处，人称总巡捕房，俗称“大自鸣钟巡捕房”(又作老北门捕房或麦兰捕房)。后来随着法租界的扩张，又设立了中央捕房(1901年建，即卢家湾捕房，地址斜桥)、小东门捕房(1867年建，又作东区捕房)、八仙桥捕房(1887年建，又称西区捕房或霞飞路捕房，地址今淮海中路淡水路口)、福煦路捕房(今复兴中路)、徐家汇捕房(1915年建，地址宝建路，故又称宝建路捕房，宝建路今为宝庆路)和贝当路捕房(地址今衡山路)共7个巡捕房。巡捕按照其职能区分有两类，
一类是巡捕，其职级有巡士、巡长、巡官等；二是密探，也称作“包打听”，有探员、探目和探长等。当时的巡捕房的人员主要由法国人和中国人担任。中国巡捕简称“华捕”，是从1869年开始进入巡捕房的，警务处当年试用了12名华捕。1886年，华人聂相宝担任了督察员，但不过一年，他便被手下的3名华捕指使流氓暗杀了。从目前的材料和研究成果看，法租界与黑社会协作关系明朗化的确是在招进了黄金荣为首的黑社会势力后开始的。1900年1月法租界再次扩张后，才从法国的殖民地安南招来29名安南巡捕，与公共租界的印度巡捕相对应。清末时整个法租界巡捕房的职员计有总巡1人、副总巡1人、总稽查1人、侦探长1人、法捕60人、安南巡捕200人、华捕250人、法探7人、华探50人。因此，从数量上推论，警务处的密探是以中国人为主体的，这是黄金荣能够进入法租界并建立其势力的重要背景。
大自鸣钟巡捕房的华探
烟、赌、娼行业的兴旺，固然能给统治当局带来财源，但由此加剧膨胀的黑社会势力，却严重扰乱了其统治秩序。为了解决这个矛盾，租界当局相继采用“以毒攻毒”的办法，即吸收有势力的流氓充实警力，控制流氓团伙，以便把流氓的犯罪活动限制在不致危及外国殖民者的根本利益和基本统治秩序的范围内。
对于黄金荣来说，法租界向他这一类人等伸出橄榄枝，不啻于是给他们铺平了一条登天的大道。在过去，黄金荣率众从事敲诈、抢劫、诈骗等黑道事业，既担惊受怕，要躲避官府的围剿，又需防止同道兄弟的“黑吃黑”。他们虽能得到温饱，甚至有小财好发，但社会地位低下。能光明正大地出入于大庭广众之前，获得体面的社会地位，是其梦寐以求的理想。况且，有了殖民当局做靠山，他们就可以凭借自己亦官亦匪的身份，吞并其他流氓集团，以独霸一方。事实上，黄金荣日后成为赫赫有名的流氓领袖，成为上海滩上炙手可热的三大亨之首，乃至中国黑社会势力的龙头霸主，正是以担任法租界密探之位为起点的。
所以，1892年，是黄金荣一生的一个大转折。
黄金荣被分配到大自鸣钟巡捕房值勤，这大自鸣钟的地名，现在泛指金陵东路以北、延安东路以南、紫金路以东到黄浦江这一带。1865年法租界公董局在原福州会馆旧址上建造了3层大楼，中间有座高高的钟楼，装有当时上海第一台大自鸣钟。它与外滩江海关大楼的大自鸣钟和跑马厅彩票楼的自鸣钟鼎足而立，号称上海三大自鸣钟。巡捕房的正式名称叫法租界北区巡捕房，租界时代，楼前曾矗立原来法租界总巡麦兰的铜像，因而俗称麦兰巡捕房，一度曾做过法租界的总巡捕房。
黄金荣担任探员，人称华探，俗称“包打听”。他首先让把兄弟丁顺华和程子卿收买一班惯窃老贼，在法租界各处设置眼线暗哨，然后制造种种事端并加以解决，不断扩大其影响，以取得法帝国主义的信任。深懂黑社会内幕的黄金荣对这类勾当做起来是“熟门熟路”。有时，他让眼线纠合瘪三们去抢劫作案，事先他向法租界巡捕房报告，然后将作案者一网打尽，事情平息后，黄金荣再设法将眼线保释出来。有时，他在法租界的繁华地公馆马路商业区出巡，事先派一些小流氓闹事，待黄金荣到达时，小流氓们便大叫一声“黄老板来了”，随即抱头鼠窜，黄金荣也会装模作样严加训斥。时间长了，法租界警务处对黄金荣也另眼相看，认为他最有办法，而黄金荣在捕房中的地位也愈加牢固，并在华捕中崭露头角。于是，很多商店老板和富翁财主因为他能降服流氓，维持治安而塞钱送礼，到后来，甚至按月给他送钱，将他视为“保护神”。总之，黄金荣暗中制造纷乱的局面，让法租界闹得鸡犬不宁，然后再由他出面消除这种纷乱的现象，这是黄金荣在那个时期博得名声的主要手法。
黄金荣走红的另一个原因是得到石维也的赏识。石维也是巡捕房的副总巡，直接管理包探和巡捕，黄金荣对之竭尽奴颜婢膝之能事，经常行贿，加之黄金荣的治安“手段”，从而深受石维也的器重，被其视为最得力的干将。石任内的绝大部分贪污都是黄金荣一手包办的。
在聚宝楼上
晚清的租界经过半个世纪的建设，已相当繁华，闹市马路上，京广杂货店、清洋布庄、中西饭馆等鳞次栉比。茶馆尤其繁盛。出名的有大马路即南京路上的一洞天茶馆、福州路上的青莲阁等茶馆。
聚宝楼在东新桥法大马路上，这法大马路又称公馆马路，辟建于1860年，因法国领事馆设于该路而得名，又叫领事馆路，这里是法租界的政治和商业中心。聚宝楼离公董局很近。
这聚宝茶楼的底楼，两边都是店面房子，当中有架大楼梯，登楼便是茶室。楼上有5间茶室，窗户三面临街，座位也十分舒适。聚宝楼的老板也姓黄，非常善于经营，因而顾客盈门，生意兴隆，成为法租界首屈一指的大茶楼。但黄老板也有一块心病，就是经常有地痞流氓来敲竹杠。黄老板听说黄金荣的势力正日益做大，便揽人说情，请求其庇护。再说黄金荣正看着聚宝楼的欣欣向荣而眼红，对送上门来的好事自然不肯放过。于是出面干预，扬言称聚宝楼有我一半的股份，啥人敢来捣乱？流氓小角色立即摆平。事后，黄老板自然要送上那一半的股份。黄金荣笑道：你我都姓黄，500年前是一家，为保你聚宝楼永久平安，我们巡捕早晨的聚会，干脆就到你茶楼上来吧。这样，聚宝楼便成为法租界巡捕的聚会之所。
黄金荣每天9点钟起床，盥洗完毕后出门，他不穿制服，不佩手枪，也不去巡捕房办公，而是去聚宝楼喝茶。聚宝楼设32副白木茶座，每个华探都有固定的座位，好像是办公桌。黄喜欢最里面的一张桌子。他往固定的座位上一坐，便有虾头蟹脚前来汇报、问候和打听消息。这些人被上海人称作“三光码子”，他们原来身无分文，因做了华探的助手，从此手头宽裕，衣食无忧。在华人探目中，与黄金荣最投机的是沈德福和方福林。当时，试用的探目月薪只有7两银子，三等华探也只有8两银子，但因为有了各个店铺、喽罗的“贡献”，黄金荣的生活还是过得非常有滋有味的。
当然有时也要真刀真枪地冒着危险。
一天，巡捕房接到江洋大盗“黑风”的报案。原来光绪年间，太湖一带有个孔武有力的大盗，没有人知道他的真实姓名，因为他常在月黑风高之夜打家劫府，人称“黑风”。“黑风”手下也有一伙人，这伙匪徒来往于无锡、苏州、昆山等地，多次作案但均未破获。这次，“黑风”带人在常州抢劫了一个富商，所获极其丰富，失主因当地捕快软弱无力，而托人求救于上海法租界，并许下重金。巡捕房认为这是一件油水很足的买卖，而且一旦匪情蔓延到上海，更会使人心惶惶，便安排破案能力很强的黄金荣负责破案。