为杨素已死，杨家的影响力也大不如前，杨广为了以示自己对旧臣宽仁，便也逐渐重用起杨玄感，将他从虚职礼部尚书迁为兵部尚书。
杨广东征高句丽，杨玄感也等来了他梦寐以求的机会。
杨玄感请求道：“臣家世代承受国家大恩，得到的宠爱超过了应得到的，如不立功于边塞，何以塞责？如边疆有风尘之警，臣愿执鞭于战阵之中，为国立功。”
杨广听后大喜，当着朝臣的面赞扬杨玄感，并说道“将门必有将，相门必有相，此言不假。”
而通过此事，杨玄感使得几个弟弟都成了军中将领，掌握了兵权。
杨广一征高句丽失败，天下震动。接着山东、河北等地的老百姓也纷纷作乱，整个大隋陷入了混乱。
此时杨玄感觉得起事的时机已经到了。
杨广自己作死，这不正是意味着皇位要落到他们杨家。
杨玄感便决定趁机作乱。其三弟杨玄挺最是稳重，便劝兄长“父亲曾有言，黄明远不动，杨家亦不可动，今黄明远统兵幽州，俯瞰天下，未可轻动。”
然杨玄感却听不进去，他认为黄明远将要统领大军征讨高句丽，到时候是胜是败难料。若是不选择这个良机，等到黄明远平定高句丽，再想动手便难了。
其余几个弟弟，也纷纷赞同杨玄感。
对于杨家兄弟来说，杨广是杀父仇人，当初杨素为杨广登基立下了汗马功劳，可是杨广坐稳皇位之后，便翻脸不认人，杨素便是给杨广活活逼死的。现在有机会起事，既是为了杨家的未来，也是为了报父仇，如何能不愿动手。
杨玄挺无奈，最后只得与兄长商议，等到杨广到了辽东之后，再偷偷动手，抢在杨广反应过来之前，抵定形势。
果然到了第二次征讨高句丽，杨玄感自请督运粮草。他本身是兵部尚书，虽然督运粮草的事有些大材小用，但也算立功的机会。
而且为了让杨广信任，杨玄感还请自己的弟弟虎贲郎将杨玄纵、虎贲郎将杨万项二人跟随杨广一同前往辽东，使得杨广更是满意。
在杨广看来，杨玄感也算知趣，可以用之。
杨玄感作为督运粮草的总负责人，坐镇黎阳城（今河南省浚县）。杨玄感便和亲信虎贲郎将王仲伯、汲郡赞治（相当于郡丞，杨广改州为郡，并长史、司马为赞治，后改为郡丞）赵怀义等谋议，减缓运送粮草的进度，使得东征大军缺粮。
杨玄感多次以道路不通畅为名使运粮队伍在黎阳逗留
…。。