Преподобный Иосиф (в миру Иван Литовкин) родился 2 ноября 1837 года в семье сельского головы Ефима Литовкина и его жены Марии. Четырех лет от роду Ваня потерял отца, а в одиннадцать лишился матери. Недетская, тяжелая началась у него жизнь. Пришлось работать и в трактире, и в бакалейной лавке, таскать пятипудовые мешки и прочие тяжести, сопровождать обозы с товаром. Голодал, скитался, бывал бит жестоким хозяином. Но грубая, страшная жизнь не развратила и не озлобила его.

Юноша стремился к духовной жизни, однако до поры о монастыре он и не думал. Но когда наконец появилось хорошее место у таганрогского купца Рафаилова, желавшего даже выдать за него свою дочь, неожиданно пришло письмо сестры Александры, принявшей к тому времени постриг с именем Леониды в Борисовском монастыре. Она советовала идти в Оптину пустынь, к старцам.

Преподобного старца Макария к тому времени уже не было в живых, но уже воссиял в Оптиной пустыни новый светильник – преподобный старец Амвросий († 1891). «Батюшка, благословите в Киев», – на эти слова юного Ивана Литовкина последовал неожиданный ответ великого старца: «Зачем тебе в Киев, оставайся здесь». Так 1 марта 1861 года начался иноческий путь длиной в полвека...

По оптинскому обычаю каждый новоначальный должен был потрудиться в трапезной. На этом нелегком послушании обнаружились и окрепли добрые качества души будущего старца: беспрекословное послушание, трудолюбие, молчаливость и беззлобие. Навидавшись и натерпевшись всего в миру, он понимал, какой бесценный дар Божий – покой и тишина святой обители. И вскоре посетил его Господь великим утешением. Брат Иван был определен в келейники к преподобному Амвросию.

Возможность быть рядом с дорогим батюшкой радовала юного инока. Но бесконечные толпы посетителей тяготили и расстраивали душевный покой. Не смея высказать старцу свою скорбь, он решил потихоньку уйти к святыням Киева, безмолвию Афона. Но прозорливый старец Амвросий остановил его.

Многие скорби и тяготы перенес он в монастыре: и несправедливые упреки, и лишения, и болезни. Десятилетиями у него не было даже своего угла, где бы мог он почитать, помолиться, отдохнуть. Спал он в приемной, чуть не до полуночи полной посетителями, а в час ночи надо было уже идти к утрени...

Но испытания только укрепили и очистили душу, сделали Ивана совершенным послушником и монахом. В 1872 году он был пострижен в мантию с именем Иосиф, в 1877 году – рукоположен в иеродиакона, а 1 октября 1884 года за Литургией в честь торжественного открытия Шамординской женской обители преподобный Иосиф был рукоположен в иеромонаха. К этому времени он уже был старшим келейником старца Амвросия. Тихий, серьезный, выходил он к посетителям, внимательно выслушивал, в точности передавал ответ старца, ничего не добавляя от себя. Но все чаще старец отсылал посетителей спросить совета у келейника, и всех поражало, что его слова буквально совпадали с тем, что говорил сам преподобный Амвросий.

В 1888 году преподобный Иосиф сильно простудился и заболел. Его отвезли в больницу и 14 февраля, по благословению старца Амвросия, постригли в схиму. По молитвам преподобного Амвросия смертельная болезнь отступила. В 1890 году старец Амвросий, уезжая в Шамордино, впервые не взял с собой верного помощника. «Тебе нужно здесь оставаться, ты здесь нужен», – сказал ему старец.

1891 год был последним в жизни старца Амвросия. Теперь преподобный Иосиф остался один. На него легли обязанности скитоначальника, духовника оптинской братии и шамординских сестер. Несмотря на слабое здоровье и непосильные труды, он не позволял себе никаких послаблений: был строгим постником, очень мало спал, носил старую и бедную одежду.

Он стяжал от Господа полноту духовных даров, и многие испытали на себе его дар прозорливости и исцелений. Он ни с кем не вел длинных бесед, умея в нескольких словах выразить самое главное, наставить и утешить. Сила его благодатной молитвы была выше и драгоценнее любых слов. Известен такой случай. Одна женщина, живя в Оптиной, сильно заболела. Она попросила отвести ее в «хибарку» к преподобному. Он ее принял и, дав ей в руки свои четки, пошел в спальню, сказав: «Подожди». А когда он вышел, она совершенно забыла про свою болезнь.

Многим помогал преподобный Иосиф. Некая крестьянка была больна, у нее очень опухли околошейные железы. Два раза ей делали операцию, но опухоль еще больше увеличилась, так что нельзя было повернуть шею. Крестьянка обратилась к преподобному за советом: делать операцию или нет? Он ей сказал: «Операцию не надо делать, а отслужи молебен великомученику Пантелеимону и так поправишься». Она отслужила молебен и полностью исцелилась.

Преподобный Иосиф в течение двенадцати лет был скитоначальником и духовником братии, но к 1905 году начал прихварывать и ослабевать. Он долго болел, терпеливо перенося все посылаемое от Господа и тихо отошел ко Господу 9 мая 1911 года. 12 мая совершилось погребение. Рука усопшего была мягкой и теплой, как у живого.