不清楚你办的是新开业登记，还是税务迁移手续，在细节上会有不同，但可以大体说说：
1、关于税务登记，纳税人应在办理营业执照，或者营业执照变更后30日内，到主管税务局办理税务登记或变更手续，逾期办理会处以2000元以下罚款。
2、纳税人应当在每月10内办理纳税申报，逾期申报会处以2000元以下罚款，情节严重的处以2000元以上1万元以下罚款，并每日按税款的万分之五加收滞纳金。
3、你收到的可能只是国税的办理通知（看公章或发出单位），不过国地税的办理时间也是基本一样的。
你可以打电话到12366咨询一下，那小姐的态度可能会好些。
罚款是根据《征管法》规定的，办理税务登记时也要对照营业执照发出的日期，但不一定就是罚2000。如果你逾期的时间不长，可能也是罚几百。