В 1863 году во время восстания в Польше Крупский, будучи командиром роты, всячески помогал и проявлял сочувствие к повстанцам. В том же году женился на Елизавете Васильевне Тистровой (1843—1915).
В 1869 году окончил Юридическую академию и был снова направлен в Польшу. За помощь местному населению во время бунта был уволен со службы. После увольнения был предан суду, который лишил его права занимать государственные должности. В конечном итоге Сенат оправдал Крупского.
