Иван Дмитриевич стал первым начальником полиции по сыску в Санкт-Петербурге. Деятельность вел с 1866 по 1889 годы. Его руководство повысило преступную раскрываемость, что сделало службу в полиции престижной должностью. Его уважали не только законопослушные люди, но и представители уголовного сообщества.
Свою деятельность он начал с должности квартального надзирателя. Первый профессиональный опыт позволил ему быть своим среди бездомных, священников и купцов.
Метод, который использовал Иван Дмитриевич, заключался во внедрении в преступный мир. В нерабочее время он принимал облик рабочего, меняя для этого внешний вид и отправляясь на рынок. Такая методика позволила ему завести знакомства, которые в последующем расширились до агентской сети.
Особенностью такого подхода было то, что сыщик относился гуманно к преступникам. В своих допросах он не использовал заранее продуманные стратегии. Он не пытался запутать преступника в противоречивых показаниях. Иван Дмитриевич беседовал с преступником как со знакомым, внушая ему, что он не злой, а пострадавший человек. Во многих случаях преступники изливали свою душу, что помогало раскрывать преступления.
Известность он получил благодаря делу Пуговкиных, которые были фальшивомонетчиками. А также популярность сыщику придало раскрытие дела об убийстве Людовига фон Аренсберга.
Перед смертью И. Д. Путилин написал биографическую книгу «Сорок лет среди грабителей и убийц». Она представляет собой мемуары автора, которые изложены в виде рассказов.
Таким образом, гуманное отношение Ивана Путилина к преступникам позволяло ему раскрывать преступления, а также расширить сеть агентов, которые снабжали сыщика нужной информацией.