根据《行政处罚法》的规定,罚款和收缴是分离的,当事人应该向银行交纳。 如果行政机关作出罚款决定,又要收缴罚款,当事人可以向纪检或监察部门投诉。
如果是行政处罚法规定的水上、交通不便及事后难以收缴的情形,行政机关是可以当场收缴罚款的。如果不是这些情形,你可以向纪检监察投诉,也可申请行政复议或者提起行政诉讼。