追究刑事责任时原行政处罚不继续执行,政机关应当及时将案件移送司法机关,依法追究刑事责任。若已经执行了行政拘留,在人民法院对犯罪嫌疑人判决拘役或者有期徒刑后,应当依法折抵相应刑期。

法律依据

《中华人民共和国行政处罚法》第八条公民、法人或者其他组织因违法行为受到行政处罚,其违法行为对他人造成损害的,应当依法承担民事责任。违法行为构成犯罪,应当依法追究刑事责任的,不得以行政处罚代替刑事处罚。第二十七条违法行为涉嫌犯罪的,行政机关应当及时将案件移送司法机关,依法追究刑事责任。对依法不需要追究刑事责任或者免予刑事处罚,但应当给予行政处罚的,司法机关应当及时将案件移送有关行政机关。行政处罚实施机关与司法机关之间应当加强协调配合,建立健全案件移送制度,加强证据材料移交、接收衔接,完善案件处理信息通报机制。