1928年4月，日军抵达胶济铁路济南站
1928年5月3日上午，蔡公时与山东交涉署工作人员合影。当晚，蔡公时及16名工作人员即遭日军杀害
12月13日是首个南京大屠杀遇难者同胞国家公祭日。山东省档案局和济南市档案局在官方网站上公布了发生在济南的“五三惨案”相关内容。未来十六天，山东省档案局和济南市档案局还将公布日本侵华期间发生在省内其他十六市、比较有代表性的惨案档案。
1928年4月，国民党开始第二次“北伐”。蒋介石所率北伐军节节胜利，很快就攻入了山东。日本驻济武官酒井隆为了阻止北伐军继续北进，他立即以“山东局势混乱、保护日本侨民利益”为借口，写信给日本陆军参谋总长，要求军部出兵山东。日军参谋本部根据酒井隆的报告和请求，借口保护侨民，于4月下旬，派遣日军第六师团五千余人从青岛登陆，入侵山东。日军第六师团在青岛成功登陆后，星夜兼程，终于在4月底赶到济南城外。
4月21日，日本军国主义者借保护侨民之名，派遣驻天津的3个步兵中队抵济南。25日至27日，日军又连续在青岛登陆，沿胶济铁路运兵济南市，到28日，驻济日军已达3000余人。日军在济南商埠以纬四路为中心线，划为东西两个“警备区”，构筑工事，架设路障，实施戒严。
4月30日，北伐军迫近济南郊区，奉系军阀张宗昌及其所部渡河北逃。5月1日，北伐军进入济南，方振武被任命为济南卫戍司令。当蒋介石所率北伐军开进济南城后，酒井隆即唆使早已做好准备的日军四处寻衅。日军随意捕捉北伐军的士兵。5月2日上午，第一军第二十三团营长阮济民等数人徒手行经纬五路时，被日军堵截后当场全部杀害。蒋介石命令北伐军各部“约束士兵，不准开枪还击”。而且准备“绕道北伐”，这更加助长了日军的嚣张气焰。
日军蓄意挑衅，与北伐军发生冲突。5月3日上午9时，北伐军宣传员做街头宣传时，被日军开枪射击，当场打死打伤多人。日本军队向靠其驻扎的国民党第四十军第三师第七团的两个营发动攻击，突遭袭击，使两个营完全丧失抵抗能力，损失惨重。日军强行占领邮电局、电报局等要害部门，炸毁电台，大肆屠杀中国士兵及市民，日军所到之处，凡遇中国人，不分男女老幼，不论是兵是民，一律开枪射击。日军还随意闯入民宅，强奸妇女，抓走并杀害居民。日军又开炮轰炸商埠，房屋被炸裂焚烧，一时枪炮声四起，马路上血肉横飞、尸体满街。枪炮声、呻吟声、哭喊声响成一片。
