随着天下大乱，王君廓便打算聚集兵马为盗，称霸一方，却遭到了自己叔父的反对。
为了逼叔父就范，他便诬陷自己叔母跟邻人私通，伙同叔父杀了邻人，逼得叔父只能跟他一起聚众作乱。
此后，王君廓聚集千余人，四处劫掠，为害河东。
河东郡丞丁荣奉命率军讨伐他，出兵前照例派人去招抚王君廓。
王君廓故意在使者面前装出一副愿意归降的姿态，以此来麻痹丁荣，让丁荣因此而轻视王君廓，随后便率军撤退了。
可没想到王君廓在山谷中设下了埋伏，趁着丁荣撤退之时突然发动进攻，大败丁荣。
不久之后，王君廓与韦宝、邓豹等人攻打虞乡，却被隋将宋老生击败，危在旦夕。
此时王君廓的粮草已经耗尽，便假意向宋老生投降，并隔着一条山涧不断哀求宋老生饶过自己和部众。
宋老生一时心软，放松了警惕，让王君廓找到机会趁夜逃脱。
到了大业十三年，李渊在太原起反隋，派人去招降王君廓。
韦宝和邓豹都打算归附李渊，王君廓也假装赞成，却乘他们二人不备突然出兵袭击，夺取了他们的辎重，而后率军投奔了瓦岗军。
李密虽然收留了他，却因为他之前的种种行为对他并不放心，因此并不重用他，只是将他闲置在一边。
可如今因为徐世勣的背叛，李密不敢再相信单雄信这些瓦岗旧人，便将目光投到了王君廓这种没有瓦岗背景的人身上。
在他看来，王君廓虽然人品不堪，但他能够拒绝李渊特意跑来投靠自己，说明他还是有心要为自己效力的，自己何不给他一个机会呢？
反正当初他来投奔自己的时候就带了六千兵马，自己何不再给他四千凑够一万人，派他去攻打黎阳仓呢？
若是胜了自然是好事一桩，若是他败了或是投降了，自己也只损失了四千兵马罢了。
想到此处，李密不再犹豫，当即沉声对王君廓道：
“王君廓，你自从投奔我们瓦岗军以来，还未立有什么功劳，我这次就给一个立功的机会，给你一万精兵，让你去夺回黎阳仓，如何？”
王君廓闻言不由微微一怔，显然是没想到李密会突然点自己的将。