Повесть состоит из тринадцати глав. Автором названа «Петербургской поэмой»
Титулярный советник Яков Петрович Голядкин просыпается у себя на квартире серым осенним днём. В зеркале отражается «заспанная, подслеповатая и довольно оплешивевшая фигура», и её обладатель остаётся, по-видимому, ею доволен. Вынув бумажник, господин Голядкин находит в нём 750 рублей — «знатная сумма»!
Яков Петрович едет к своему доктору, Крестьяну Ивановичу Рутеншпицу. У него господин Голядкин говорит сбивчиво, путается, называет себя человеком смиренным, незатейливым: «…люблю спокойствие, а не светский шум. Там у них …нужно уметь паркеты лощить сапогами… комплимент раздушенный нужно уметь составить-с… хитростям этим всем я не учился».
Яков Петрович продолжает: «…я даже горжусь тем, что не большой человек, а маленький. Не интригант — и этим тоже горжусь…» Племянник Андрея Филипповича, начальника Голядкина, намерен свататься к Кларе Олсуфьевне. Голядкин возмущён этим сватовством. Голядкин замечает, что распустили слухи про его «близкого знакомого», будто бы он «дал подписку жениться, а он уже жених с другой стороны», а невеста его — бесстыдная немка Каролина Ивановна. Голядкин уходит, оставив Крестьяна Ивановича в недоумении и думая, что доктор глуп.
Господин Голядкин едет к Олсуфию Ивановичу Берендееву, но его не пускают. В честь дня рождения его дочери, Клары Олсуфьевны, в квартире статского советника проводится обед и бал. В это время господин Голядкин стоит в сенях Берендеева. Решившись, Яков Петрович тайком проникает в танцевальную залу. Тут же все взгляды устремляются на него, «наш герой» забивается в угол, чувствуя «себя настоящей букашкой». Голядкина выдворяют на улицу.
Господин Голядкин бежит, «спасаясь от врагов». Стоит ужасная ноябрьская ночь — «мокрая, туманная, дождливая, снежливая». Господин Голядкин «не только желал теперь убежать от себя самого, но даже совсем уничтожиться». Он долго стоит на набережной и в беспамятстве смотрит в мутную чёрную воду. Дорогою Голядкин встречает прохожего, семенящего так же, как и он, по тротуару, немного с притрусочкой. Незнакомца Яков Петрович встречает несколько раз. Наконец он находит его у себя в квартире на Шестилавочной улице: это был «не кто иной, как он сам, … другой господин Голядкин, … двойник его во всех отношениях».
Гостя зовут так же: Яковом Петровичем. Господин Голядкин кормит гостя обедом и поит пуншем, проникаясь к нему симпатией: «Мы с тобой, Яков Петрович, будем жить, как рыба с водой, как братья родные; …будем хитрить, заодно хитрить будем …в пику им интригу вести…».
Утром Яков Петрович не обнаруживает своего гостя. Теперь Голядкин-старший сожалеет о приёме близнеца. Он отправляется на службу и в дверях сталкивается с Голядкиным-младшим, но тот не замечает вчерашнего радушного хозяина. Теперь Голядкин-младший пытается выслужиться перед начальством нечестным путём: выдаёт хорошо составленную бумагу настоящего Голядкина за свою. На глазах у других чиновников Голядкин-младший выставляет близнеца на поругание: щипает при всех за щёку и даёт щелчка по брюшку. Затем, напустив на себя занятой вид, исчезает. Но позволить себя обидеть настоящий Голядкин никак не может и решает протестовать. После службы он намеревается объясниться с Голядкиным-младшим, но тот уезжает от него в карете.
«…нрава он такого игривого, скверного, — подлец он такой, …лизун, лизоблюд, Голядкин он эдакой!» — думает о своём враге Яков Петрович. Яков Петрович пишет ему письмо с требованием объясниться. Он отдаёт письмо слуге Петрушке и наказывает ему разузнать адрес титулярного советника Голядкина. Петрушка сообщает, что Голядкин живёт на Шестилавочной улице, но это адрес настоящего Голядкина! Решив, что бездельник пьян, Яков Петрович оставляет его.
В полусне Голядкину видится, что он в приятной компании, но каждый раз появляется одно известное лицо и очерняет господина Голядкина. Он хочет бежать куда глаза глядят, но вокруг него образовалась «бездна совершенно подобных».
Голядкин просыпается в час пополудни. С ужасом он понимает, что опоздал на службу. Он подходит к своему отделению и через писаря передаёт письмо господину Голядкину-младшему.
Уже в сумерках Яков Петрович заходит в своё отделение. Сослуживцы смотрят на него с каким-то оскорбительным любопытством. Среди чиновников появляется господин Голядкин-младший и протягивает руку настоящему Якову Петровичу. Тот горячо и по-дружески пожимает её. «Вдруг с нестерпимым нахальством и грубостию» двойник вырывает руку и стряхивает её, будто замарал, затем платком вытирает свои пальцы. Оскорблённый Голядкин-старший ищет сочувствия у сослуживца, Антона Антоновича Сеточкина, но тот открыто осуждает его неблагопристойный поступок относительно двух благородных особ.
Нагнав Голядкина-младшего, Яков Петрович предлагает объясниться в кофейной: «…я вашим врагом никогда не бывал. Злые же люди несправедливо меня описали…С своей стороны я готов…» Неприятель повторяет утреннюю шутку с рукопожатием, повторно оскорбляя тёзку, и исчезает. Вдруг Голядкин-старший обнаруживает у себя письмо, утром переданное писарем. В нём Клара Олсуфьевна просить спасти её от гибели, от противного ей человека и назначает Голядкину свидание в два часа пополуночи. Прочитав послание в трактире, Яков Петрович видит полового подле себя. Решив, что не заплатил за обед, он лезет в карман и находит стклянку с лекарством, прописанным ему Крестьяном Ивановичем четыре дня назад. «Тёмная, красновато-отвратительная жидкость зловещим отсветом блеснула…» Пузырёк выпадает из рук и разбивается.
