此时的贺若弼已经是一个20多岁的青年了，他不仅博览群书，武艺非凡，还慷慨大度，胸怀大志，在当时的贵族子弟当中有着很高的声誉。北周齐王宇文宪听说后，非常器重他，就让他到齐王府做了记室，不久之后，又封他为当亭县的县公。又过了几年，贺若弼做了小内史，成为北周皇帝跟前的一名官员。
公元577年，北周灭掉了北齐，完成对北方地区的统一，形成了和陈朝南北对峙的局面。之后，北周国君周宣帝任韦孝宽为大将，帅军进攻陈朝，贺若弼作为副将也一同前往。在数月的战斗当中，周军屡战屡胜，占领了寿阳、广陵等十几个城镇，从此以后，长江以北的地方尽归北周。
后来，周宣帝身染重病，不久就病逝了。次年，周静帝继位。周静帝年少无知，无法治理国家，致使大权落到了丞相杨坚的手中。
公元581年，杨坚发动叛变，废掉了周静帝，自立为皇帝，改国号为隋。
杨坚称帝后，就有吞并江南之志，这时宰相向他推荐了贺若弼，说：“在隋朝的朝臣当中，若论文武才能，估计没有人能与贺若弼相比。”于是，隋文帝就命贺若弼为吴州总管，镇守广陵，伺机伐陈。
公元588年，隋文帝集中50余万大军进攻陈朝，贺若弼担任行军总管。在攻陈之前，贺若弼将军中年迈体弱的马匹都卖掉，用卖马的钱购买了大量的船只，在上面盖上稻草、芦苇等，隐藏在江边的河道里，让陈军以为隋军没有战船。贺若弼还派遣大量的兵卒，在江边摇旗呐喊、射猎捕鱼，以此来迷惑陈军。