道光十八年（1838）4月。张穆谐友人游历长江以南一带，除江浙外，足迹还遍至湘、桂、闽、粤。
当时，北京通往南方的铁路尚未修建，张穆此次南行，该是乘舟沿京杭大运河循水而下。是年五月下旬，抵达江阴，驻足于江阴学使署。这从张穆的五言古诗的标题《五月下旬初抵江阴。春圃侍郎邀谐同幕诸君，游君山，晚宴存雪亭，即送许莲西大令归里》中可以看出。
除此之外，这首诗的标题还向我们透露出了两点消息。一是此时的祁寯藻正在南方做官，二是张曾经谐友人游览了洞庭湖畔的君山。
六七月间，游历湘、漓、闽、粤。有一首诗记录了他这次远游的行踪：“我时亦衔星诏出，高建英簜渡湘漓”“东闽西粤隔重嶂，引领还得遥相望”。
这次江南之游，开阔了眼界，增长了见识，对他后来的写作和研究都大有裨益。
不幸的是这一年冬天的10月25日，其妻刘氏病故。但远在江南的张穆在腊月初八日才得知她的死讯。13日作《悼妇篇》，悼念他的妻子。前有小序曰：“十二月十一日，君亡四十有九日矣。黑云如磐，灯寒雨晦，拉杂写此，写毕不能复视也。”伤痛之情，溢于言表。诗中“蚌珠随地碎”句下自注：“曾有二子，皆夭折”更令人不忍卒读。
道光二十三年（1843）的秋天，张穆再游江南，足迹遍至长江淮河流域，从行程上看，主要是会友和访贤。
在这次南游中，张穆与何秋涛订交。
何秋涛，字愿船，福建光泽人。进士出身，官授刑部主事。秋涛钻研汉学，尤精舆地之学。因俄罗斯地在北界，与我国边卡切近，而未有专著加以考证借鉴，于是编著《北徼汇编七卷》，继而详加修订。咸丰七年（1857），皇帝赐名《朔方备陈》。
张穆和何秋涛都关注我国北方舆地，志趣相投，可以说是一见如故。后来，秋涛和张穆在北京比邻而居，来往密切，如同一家。张穆死后何秋涛为他撰写墓志铭，竭力称颂他的生平业绩，并整理、校订他的遗作《蒙古游牧记》最后付梓刊行，是个有始有终的人物。
张穆在南游期间，还在扬州拜见了曾任体仁阁大学士加太傅的大学者阮元，并将自己的几本著作赠送给他。阮元翻阅《俄罗斯补辑》时，赞叹道：“可谓天下奇才，二百年无此作也！”张穆请阮太傅赐撰《延昌地形志序》，阮元欣然答应了他的要求。并书赠一联以资鼓励，联语是：“讲学是非求实事，读书愚知在虚心。”
此联语言浅近，但文笔曲折，不加疏通会产生误解。“讲学是非”一句，是说研究学问判定是非要讲求实事求是。下句中那个“知”通“智”。这句的意思是，读书的愚蠢和智慧是体现在能否虚心汲纳，融会贯通书本的内容。
这既是对张穆的肯定称赞，也是对他的鼓励和期盼。张穆把这两句话，“书于座右而自箴。”
张穆感到十分的欣慰。在他的《复阮芸台相国书》中，把这次会见比作东汉末年的大学者蔡邕接见建安七子之首的王粲。张穆在信中对阮元尊敬有加，但也没有小瞧了自己。那王粲虽然其貌不扬，为刘表所不容，但后来曹操却慧眼识才，委以重任。相传：“王粲马上作檄，援笔立就。”从中可以想见这位考场失意而以学问自许布衣之士——张石舟的雄心壮志。
