与此同时，同年冬天的张掖郡，街上依旧是人来人往的，各大商号都想趁着年关前再赚一笔，好能过个富裕年，张掖郡作为通往西域的中转站，逐渐由当初的破落演变成如今的繁华，然而张掖郡能被人熟知，甚至众口相传，不是因为它作为与西域互市的作用，而是张掖郡内的那座客栈---烟雨楼。
张掖郡那时还是甘州治下的一个县，原来的烟雨楼叫做福来客栈，是张掖郡一个胡商经营的，随着张掖的日渐破落，胡商也决定变卖此处返回西域，作价五万贯钱，但是一直无人问津，直至仁寿元年（公元601）初，有三个女子来到张掖县，四处打听哪里有客栈酒楼之类的房子出售，随即胡商找到三位女子，三番两次商谈，最后以四万五千贯将福来客栈售出，随后福来客栈变开始了一番整体改造。
同年夏初，烟雨楼正式开业，说来也巧，就在烟雨楼开业不久之后，东边往西域经营的各个商队就陆续开始经过张掖郡，随着商队的进出，商铺、馆驿乃至烟花之地也陆续开业，张掖县就这样恢复了往日的繁华。
当时甘州刺史杨恭仁对烟雨楼也大加赞赏，然而当时中西交通的丝绸之路在南北朝至隋的近百年中一直由吐谷浑控制，并充当中西贸易客商的中间人，成为隋朝在经营丝路、发展贸易策略中的一个极大威胁。
而胡人民风彪悍，稍有不满便刀剑相向，故而当时张掖郡的治安也是相当混乱，汉族人时常受到胡人欺辱甚至是杀害。
但是自从烟雨楼开业之后，这种情况得到了改善，来往的人无论胡汉，都必须遵守张掖县的一条铁律：凡是在县内停留的人，无论胡汉，严禁拔刀相向，不论尊卑，严禁仗势欺人，若有争执需由烟雨楼出面调停，否则一律严厉处置。
起初这一条规矩设立之后，很多人对此不屑一顾，都觉得一个小小的酒楼有什么能力决定所有人的行为，但是很快发生了两件事，让所有人都不得不重新审视烟雨楼的实力：
大业元年六月的一天，从突厥往京师去的一队胡商途径张掖郡，决定在此修整几日，其中一名胡商在互市上看中一把桃木剑，因此剑是东晋时期传下来的，故卖家张林作价10贯出售，胡商觉得他价格偏高，二人你来我往起了争执，胡商一怒之下将他刺伤，遂抢了桃木剑便往住处逃逸。
张林追至仁德医馆门口，因流血和体力不支摔倒在医馆门口，幸好医馆馆主莫老先生出诊回来，连忙让人将他抬回医馆救治，等到张林醒来时，发现躺在医馆内，连忙下地