及杨玄感在黎阳，有逆谋，阴遣家僮至京师召密，令与弟玄挺等同赴黎阳。玄感举兵而密至，玄感大喜，以为谋主。玄感谋计于密，密曰：“愚有三计，惟公所择。今天子出征，远在辽外，地去幽州，悬隔千里。南有巨海之限，北有胡戎之患，中间一道，理极艰危。今公拥兵，出其不意，长驱入蓟，直扼其喉。前有高丽，退无归路，不过旬月，赍粮必尽。举麾一召，其众自降，不战而擒，此计之上也。又关中四塞，天府之国，有卫文升，不足为意。今宜率众，经城勿攻，轻赍鼓行，务早西入。天子虽还，失其襟带，据险临之，故当必克，万全之势，此计之中也。若随近逐便，先向东都，唐祎告之，理当固守。引兵攻战，必延岁月，胜负殊未可知，此计之下也。”玄感曰：“不然。公之下计，乃上策矣。今百官家口并在东都，若不取之，安能动物？且经城不拔，何以示威？”密计遂不行。玄感既至东都，皆捷，自谓天下响应，功在朝夕。及获韦福嗣，又委以腹心，是以军旅之事，不专归密。福嗣既非同谋，因战被执，每设筹画，皆持两端。后使作檄文，福嗣固辞不肯。密揣知其情，因谓玄感曰：“福嗣元非同盟，实怀观望。明公初起大事，而奸人在侧，听其是非，必为所误矣。请斩谢众，方可安辑。”玄感曰：“何至于此！”密知言之不用，退谓所亲曰：“楚公好反而不欲胜，如何？吾属今为虏矣！”后玄感将西入，福嗣竟亡归东都。
时李子雄劝玄感速称尊号，玄感以问于密。密曰：“昔陈胜自欲称王，张耳谏而被外，魏武将求九锡，荀彧止而见疏。今者密欲正言，还恐追踪二子，阿谀顺意，又非密之本图。何者？兵起已来，虽复频捷，至于郡县，未有从者。东都守御尚强，天下救兵益至，公当身先士众，早定关中。乃欲急自尊崇，何示不广也！”玄感笑而止。及宇文述、来护兒等军且至，玄感谓密曰：“计将安出？”密曰：“元弘嗣统强兵于陇右，今可扬言其反，遣使迎公，因此入关，可得绐众。”玄感遂以密谋号令其众，因引西入。至陕县，欲围弘农宫，密谏之曰：“公今诈众入西，军事在速，况乃追兵将至，安可稽留！若前不得据关，退无所守，大众一散，何以自全？”玄感不从，遂围之，三日攻不能拔，方引而西。至于阌乡，追兵遂及。
玄感败，密间行入关，与玄感从叔询相随，匿于冯翊询妻之舍。寻为邻人所告，遂捕获，囚于京兆狱。是时炀帝在高阳，与其党俱送帝所。在途谓其徒曰：“吾等之命，同于朝露，若至高阳，必为俎醢。今道中犹可为计，安得行就鼎镬，不规逃避也？”众咸然之。其徒多有金，密令出示使者曰：“吾等死日，此金并留付公，幸用相瘗。其余即皆报德。”使者利其金，遂相然许。及出关外，防禁渐驰，密请通市酒食，每宴饮喧哗竟夕，使者不以为意。行次邯郸，夜宿村中，密等七人皆穿墙而遁，与王仲伯亡抵平原贼帅郝孝德。孝德不甚礼之，备遭饥馑，至削树皮而食。仲伯潜归天水，密诣淮阳，舍于村中，变姓名称刘智远，聚徒教授。经数月，密郁郁不得志，为五言诗曰：“金凤荡初节，玉露凋晚林。此夕穷途士，空轸郁陶心。眺听良多感，慷慨独沾襟。沾襟何所为？怅然怀古意。秦俗犹未平，汉道将何冀！樊哙市井徒，萧何刀笔吏。一朝时运合，万古传名器。寄言世上雄，虚生真可愧。”诗成而泣下数行。时人有怪之者，以告太守赵他。县捕之，密乃亡去，抵其妹夫雍丘令丘君明。后君明从子怀义以告，帝令捕密，密得遁去，君明竟坐死。
会东郡贼帅翟让聚党万余人，密归之，其中有知密是玄感亡将，潜劝让害之。密大惧，乃因王伯当以策干让。让遣说诸小贼，所至辄降下，让始敬焉，召与计事。密谓让曰：“今兵众既多，粮无所出，若旷日持久，则人马困敝，大敌一临，死亡无日。未若直趣荥阳，休兵馆谷，待士马肥充，然可与人争利。”让从之，于是破金堤关，掠荥阳诸县，城堡多下之。荥阳太守郇王庆及通守张须陀以兵讨让。让数为须陀所败，闻其来，大惧，将远避之。密曰：“须陀勇而无谋，兵又骤胜，既骄且狠，可一战而擒。公但列阵以待，保为公破之。”让不得已，勒兵将战，密分兵千余人于林木间设伏。让与战不利，军稍却，密发伏自后掩之，须陀众溃。与让合击，大破之，遂斩须陀于阵。让于是令密建牙，别统所部。密复说让曰：“昏主蒙尘，播荡吴越，蝟毛竞起，海内饥荒。明公以英桀之才，而统骁雄之旅，宜当廓清天下，诛剪群凶，岂可求食草间，常为小盗而已！今东都士庶，中外离心，留守诸官，政令不一，明公亲率大众，直掩兴洛仓，发粟以赈穷乏，远近孰不归附！百万之众，一朝可集，先发制人，此机不可失也。”让曰：“仆起陇亩之间，望不至此。必如所图，请君先发，仆领诸军，便为后殿。得仓之日，当别议之。”密与让领精兵七千人，以大业十三年春，出阳城，北逾方山，自罗口袭兴洛仓，破之。开仓恣民所取，老弱负繦，道路不绝。
越王侗武贲郎将刘长恭率步骑二万五千讨密，密一战破之，长恭仅以身免。让于是推密为主。密城洛口周回四十里以居之。房彦藻说下豫州，东都大惧。让上密号为魏公。密初辞不受，诸将等固请，乃从之。设坛场，即位，称元年，置官属，以房彦藻为左长史，邴元真右长史，杨德方左司马，郑德韬右司马。拜让司徒，封东郡公。其将帅封拜各有差。长白山贼孟让掠东都，烧丰都市而归。密攻下巩县，获县长柴孝和，拜为护军。武贲郎将裴仁基以武牢归密，因遣仁基与孟让率兵二万余人袭回洛仓，破之，烧天津桥，遂纵兵大掠。东都出兵乘之，仁基等大败，仅以身免。密复亲率兵三万逼东都，将军段达、武贲郎将高毗、刘长恭等出兵七万拒之，战于故都，官军败走，密复下回洛仓而据之。俄而德韬、德方俱死，复以郑颋为左司马，郑虔象为右司马。柴孝和说密曰：“秦地阻山带河，西楚背之而亡，汉高都之而霸。如愚意者，令仁基守回洛，翟让守洛口，明公亲简精锐，西袭长安，百姓孰不郊迎，必当有征无战。既克京邑，业固兵强，方更长驱崤、函，扫荡京、洛，传檄指捴，天下可定。但今英雄竞起，实恐他人我先，一朝失之，噬脐何及！”密曰：“君之所图，仆亦思之久矣，诚为上策。但昏主尚在，从兵犹众，我之所部，并山东人，既见未下洛阳，何肯相随西入！诸将出于群盗，留之各竞雌雄。若然者，殆将败矣。”孝和曰：“诚如公言，非所及也。大军既未可西出，请间行观隙。”密从之。孝和与数十骑至陕县，山贼归之者万余人。密时兵锋甚锐，每入苑，与官军连战。会密为流矢所中，卧于营内，后数日，东都出兵击之，密众大溃，弃回洛仓，归洛口。孝和之众闻密退，各分散而去。孝和轻骑归密。帝遣王世充率江淮劲卒五万来讨密，密逆拒之，战不利。柴孝和溺死于洛水，密甚伤之。世充营于洛西，与密相拒百余日。武阳郡丞元宝藏、黎阳贼帅李文相、洹水贼帅张升、清河贼帅赵君德、平原贼帅郝孝德并归于密，共袭破黎阳仓，据之。周法明举江、黄之地以附密，齐郡贼帅徐圆朗、任城大侠徐师仁、淮阳太守赵他等前后款附，以千百数。
翟让所部王儒信劝让为大冢宰，总统众务，以夺密权。让兄宽复谓让曰：“天子止可自作，安得与人？汝若不能作，我当为之。”密闻其言，有图让之计。会世充列阵而至，让出拒之，为世充所击退者数百步。密与单雄信等率精锐赴之，世充败走。让欲乘胜进破其营，会日暮，密固止之。明日，让与数百人至密所，欲为宴乐。密具馔以待之，其所将左右，各分令就食。诸门并设备，让不之觉也。密引让入坐，有好弓，出示让，遂令让射。让引满将发，密遣壮士蔡建自后斩之，殒于床下。遂杀其兄宽及王儒信，并其从者亦有死焉。让所部将徐世勣，为乱兵所斫中，重创，密遽止之，仅而得免。单雄信等皆叩头求哀，密并释而慰谕之。于是率左右数百人诣让本营。王伯当、邴元真、单雄信等入营，告以杀让之意，众无敢动者。乃令徐世勣、单雄信、王伯当分统其众。
未几，世充夜袭仓城，密逆拒破之，斩武贲郎将费青奴。世充复移营洛北，南对巩县，其后遂于洛水造浮桥，悉众以击密。密与千骑拒之，不利而退。世充因薄其城下，密简锐卒数百人，分为三队出击之。官军稍却，自相陷溺，死者数万人，武贲郎将杨威、王辩、霍世举、刘长恭、梁德重、董智通等诸将率皆没于阵。世充仅而获免，不敢还东都，遂走河阳。其夜雨雪尺余，众随之者，死亡殆尽。密于是修金墉故城居之，众三十余万。复来攻上春门，留守韦津出拒战，密击败之，执津于阵。其党劝密即尊号，密不许。及义师围东都，密出军争之，交绥而退。