बाबाजी ने अपने जीवनकाल मे कई भजन लिखे जो काफी लोकप्रिय हुए. इनके भजनों का एक संकलन भजनावली नाम के एक संग्रह मे संग्रहित है। उनके भजनों को स्वर्गीय महावीर झा ने मूल रूप मे संग्रहित और संरक्षित रखा और बाद मे स्वर्गीय पंडित छेदी झा द्विजर से इन्हें विषयवार रूप मे क्रमबध किया। भजनावली के अलावा बाबाजी की एक और कृति विवेक रत्नावली भी प्रकाशित है। भजनावली मे कई भक्ति भाव पेश किये हैं। इनमे, राम, कृष्ण, शिव, होली के विषय पर के भजन प्रमुख है। इसके अलावा गुरु वंदना और लोकशिक्षा की बातें भी कही गयी है। खासकर आलस त्याग पर विशेष जोर है। बाबाजी के भजनों का एक ऑडियो कैसेट का निर्माण स्वर्गीय भवेश मिश्र ने १९८० के दशक मे किया था। उसके गायकी मे इसी गाँव के गायक नंद जी ने भी योगदान दिया था। इसके भजनों मे से कई- जैसे उठी भोरे कहूँ हरि हरि हरि हरि, हे राम लखी केवट ओट खड़े काफी लोकप्रिय हुए थे। बाद के वर्षों मे बाबाजी रचित गुरु वंदना -प्रथम देव गुरु देव जगत मे को प्रसिद्द गायिका रंजन झा के द्वारा भी गाया गया। मैथिली के सुप्रसिद्ध गायक हेमकांत झा की स्मृति मे जारी गीतों की श्रंखला मे भी इनके लिखित एक भजन को शामिल किया गया है। इसमें उनके भजन- "कहन लागे मोहन मैया मैया" ("यशोदा जी पूछति के शीर्षक से नामबद्ध") को हेमकांत झा ने बहुत ही सुरीले अंदाज मे गाया है। उनके कुछ चर्चित भजन निम्न हैं-

मन रे कहाँ फिरत बौराना 
<poem>
मन रे कहाँ फिरत बौराना
अबहूँ सीख सिखावन मेरो, चोला भयो है पुराना 
मानुष जनम पदारथ पाए, भजत ना क्यों भगवाना 
अंत काल पामर पछ्तैहें, यमपुर जबहीं ठिकाना 
कियो करार भजन करिबे को, सो बात भूलना 
केश सफ़ेद भयो सब तेरो, पहुंचा यम परवाना 
नारी नेह देह से छाड़ो, नैनन जोती झपलाना
कुल परिवार बात नहीं पूछत कहत बात कटूलाना 
बहुत कमाई असोच भये है, ले ले धरात खजाना 
‘लक्ष्मीपति’ नर राम भजन बिनु, माटी मोल बिकाना </poem>
अम्बे आब उचित नहीं देरी 
<poem>
अम्बे आब उचित नहीं देरी 
मित्र बंधू सब टक-टक ताकय, नहीं सहाय अहि बेरी 
योग यज्ञ जप कय नहीं सकलों, परलहूं कालक फेरी 
केवल द्वन्द फंद मैं फैस कय, पाप बटोरल ढेरी
नाम उचारब दुस्तर भय गेल, कंठ लेल कफ घेरी 
एक उपाय सुझे ऐछ अम्बे, आहाँ नयन भैर हेरी 
शुध्ह भजन तुए हे जगदम्बे, देब बजाबथि भेड़ी
‘लक्ष्मीपति ‘ करुणामयी अम्बे, बिसरहूँ चूक घनेरी.</poem>
होली
बनगांव का इतिहास
दुर्गा पूजा
बाबाजी का जीवन एक लेखक के रूप मे