中午12点30分，太阳毒辣辣地挂在天上，天安门前，人潮涌动，男女同学都很有秩序地穿着制服，神情激动，李大钊正在此安排举行游行的大会，同时选举代表，到除日本国外的各国公使馆陈述对于青岛之民意及其决心。李大钊、陈独秀布置了一下游行的注意事项和秩序问题。然后让学生们先回校吃饭、休息，午后一点，再到天安门广场集合。
同学们回校后，一些学生领袖准备着与政府的交涉，一些学生接着制标语、条幅，北京大学里一个同学咬破手指，血书“还我青岛”四字，同学们大受振奋，更加跃跃欲试。
5月4日，下午1点，北京城内空气变得紧张起来，北京各校三千余名学生从四面八方向天安门广场走来，他们怒火中烧，高举着“外抗强权，内除国贼”、“还我青岛”、“取消二十一条”、“拒绝巴黎和会上的签字”的大旗，高呼着口号，真是震天动地。
北京警厅一听说学生开始游行，主办是北京大学，便马上派人去北大阻止，可是校园里已人去楼空，赶到天安门广场，正好各校学生也刚到，步军统领李长泰擦了把汗，心里暗骂着学生们就能捣乱，但一看这场面，不得不马上装出亲切的样子，从车上下来，学生们对他视若未见，仍集体喊着口号：“宁为玉碎，不为瓦全！”；“打倒章宗祥、曹汝霖卖国贼！”