就在李傕几人一筹莫展无计可施的时候，初平三年（192）六月初一，内鬼再次出现。
原来城中吕布军中也有董卓余党，这些人与城外的凉州兵原本就是一伙的，此时距王允推翻董卓还不到两个月，这使得王允没有时间清理“杂草”。强敌压境兵临城下，城中的董卓旧部，有些人在观望，可有的人直接行动了。
这天夜里，长安城的城门被叛徒偷偷打开。
打着为董太师报仇的旗号，怀着抢劫发财的梦想，凉州兵潮水般涌入长安，接下来就是杀戮与抢掠。那一夜的长安是一座名副其实的人间地狱，百姓遭乱兵野蛮杀掠，叛军见东西就抢，见人就杀，城里乱成一团，到处火光冲天，杀声、喊声、哭叫声混杂在一起，令人胆战心惊。
李傕等人率军进城时，吕布正率部在城内巡查。部下有人叛变，他事前一无所知，等吕布得到消息，为时已晚，凉州兵像洪水一样涌进，吕布率领所部人马与入城的凉州兵团在城中展开混战。
尽管吕布率部拼死抵抗，但凉州兵却越来越多，加之城内叛变的士兵，李傕、郭汜的叛军已经占据上风。局势失控，吕布见大势已去，率部下几百人四处找王允，到王家没人，家人告诉吕布，王允听说敌军进城已经进宫护驾去了。