Öğrenimini Erzurum ve Trabzon medreselerinde yapan 1816-1817 yıllarında İstanbul'a gelerek Mustafa Reşit Paşa ile yakınlık kurar ve Divan-ı Hümayun kalemine girer. Bir süre İstanbul'da kaldıktan sonra yurduna dönen ozan, Türk-Rus savaşı ile, bu savaş sonunda yurdunun Rus işgali altına girmesinin (1828) bütün acılarını yaşar. İşgalden sonra Bayburt'tan ayrılır, işgal kaldırılınca yurduna döner.
Bir süre sonra Hacc'a, oradan da Mısır'a giden ozan 1840 yılına doğru İstanbul'a gelirse de burada pek kalmaz, çeşitli görevler alarak dolaşır: Donanma ile Akka'ya gider; Hopa, Karaağaç, Ünye, Erzurum, Erzincan v.b.yerlerde dolaşır.
Zihni, her gittiği yerde taşlanacak birini buluyordu: Kaymakam, kadı, ağa v.b... Bu yüzden de yerden yere vuruluyordu.
Elli beş yaşını geçtikten sonra Trabzon'a geldi ve burada hastalandı. Bu sırada yurt hasretiyle yanan Zihni, Bayburt'a doğru yola çıkar,Trabzon yakınlarında Holasan köyünde ölür (1859).
Divanı ile, başından geçen olayları anlatan Sergüzeştname adlı eseri bulunan Zihni, daha çok divan şairi olmak kaygısı güderdi. Ama adını yine sayılan az olan, hece ile söylemiş koşmaları ile destanları yaşatmaktadır. Divanında divan şiirinin bütün şekilleri ile yazılmış şiirler vardır. Usta bir taşlamacı (hicivci) olan ozan, bu tür eserlerinde yer yer açık saçık ve kaba küfürlere de baş vurur.
Hem aruz hem de hece vezniyle şiirler yazan Zihnî, sağlığında divan tertip ederek bunu saraya sunan ender halk şairlerindendir. Aruz vezniyle yazdığı şiirleri daha çok olmasına karşılık, hece ile yazdığı koşma ve destanlarıyla ünlenmiştir. Bu yönüyle Aşık Ömer, Gevherî, Dertli, Erzurumlu Emrah ve Develili Seyrânî, vb. âşıklarla birlikte değerlendirilmelidir.
Âşıklık ve şairliğinin yanında iyi bir nesir yazarıdır. Gazellerinde Fuzûli, Bakî, Nedîm, Şeyh Galip, Erzurumlu Sıdkî, Vecdî ve Hamdînin etkisi görülür (Sakaoğlu 1988: 60). Hece ile yazdığı şiirleri fazla değildir. Bu dalda dokuz destanı ve onlarca koşması belirlenebilmiştir. Aruz vezniyle olan şiirlerinde dili çok ağırdır. Hatta bazı beyitlerinde Türkçe bir kelime bile yoktur. Hece vezniyle yazmış olduğu koşma ve destanlarında ise dili durudur.
Zihnî Doğu klasiklerine hâkim bir şairdir. Mevlâna ve Câmî'ye nazireler yazmıştır. Baki'nin "saf saf..." redifli, Nedim'in "...olmuş sana" redifli gazellerinin, Gevherfnin "...olsun da gör' redifli muhammesinin benzerlerini Zihnî'de de görmekteyiz. Bu durum Zihnî'nin etkilendiği şahsiyetleri göstermesi bakımından önemlidir. Fûzûli, Nâbî, Şeyh Galip, Erzurumlu Sıdkî, Hamdî ve Vecdînin şiirlerini beşer mısraa tamamlayarak, onlara tahmisler yazmıştır. Zihnî hece vezniyle olan şiirlerinde gurbeti, sevgiliyi ve aşkı işlemiştir. Özellikle memleketi Bayburt'un Ruslar tarafından işgal edilmesi ve gittiği yerlerde gördüğü olumsuzluklar onun şiirlerinde dile getirilmiştir. Zihnî'nin taşlamaları (hicviyeleri), Nef'î ve Eşref kadar olamasa da başarılıdır.
Tokatlı Gedayî ve Bayburtlu Celâlî gibi âşıklar onun etkisinde kalarak şiir söylemiş / yazmışlardır. Ayrıca Ercişli Emrah ve Karaca Oğlan'ın şiirleriyle, bazı parçalarının benzerlik göstermesi onların etkisinde kaldığının bir delili olarak değerlendirilebilir. Zihnî'nin bazı parçaları Nevres ve Sadettin Kaynak tarafından bestelenerek musiki meclislerinde okunmuştur. 93 Harbini konu alan Başımıza Gelenler adlı eserde Mehmet Arif Bey, Zihnî'den de söz eder. Zihnî, 1859 yılında Bayburt yolculuğu sırasında Maçka'nın Olasa (Bahçeyaka) köyü yakınlarındaki bir handa vefat eder ve oraya defnedilir. Mezarı 1936'da Bayburt'a taşınır.
