1976年,郑国霖出生于上海。小时候的他非常喜欢表演,也常在学校里或者别人家里表演节目。长大后,兴趣使然,他报考了上海银都艺员进修学校并被录取。1994年,香港TVB无线电视艺员训练班到内地招生,上海地区仅四人进入复选,郑国霖便为其中之一;随后,他成功进入该培训班,同时也为此放弃了报考上海戏剧学院的机会。1995年起,他以学生身份参演的二十余部电视剧作品陆续播出,如《
笑傲江湖》,《河东狮吼》,《苗翠花》等。初入培训班时,因为不会粤语,且当地电视剧多为现场收音,郑国霖失去了很多实习机会。尽管他后来掌握了粤语,但仍难免有些许口音。两年后,为谋求更好的发展,郑国霖选择回到上海。《
神雕侠侣》郭靖《红七军》李明瑞《
隋唐英雄3》李世民《五星红旗迎风飘扬》邓稼先《
像火花像蝴蝶》《
我是谁的宝贝》