就在司马光任奉礼郎的当年秋季，宋朝派出使臣，出使辽国，送岁币，并向辽国皇帝耶律宗真递交宋仁宗给辽国皇帝的国书。宋朝的使臣是礼部侍郎范仲淹，在司马光智答安南使臣的事件之后，范仲淹十分欣赏司马光的胆识和智慧，他向宋仁宗上奏，希望司马光和他一起出使辽国，出任副使一职，宋仁宗觉得出使辽国事大，带上司马光这个大才子或许可以帮助到范仲淹，就答应了范仲淹的请求。就这样司马光和范仲淹一同准备出使辽国。
八月十五，过完中秋，宋朝的赠送辽国的岁币和银十万两及绢二十万匹也准备停当，范仲淹和司马光押带领五百禁军和一千民夫带领着几十辆装满银两和绢帛的车队从东京汴梁出发了。一路上各地官员和驿馆公人都照顾的很好，没有什么大事发生。这一天，出使车队到了霸州边关。他们在这里住了一夜，霸州官员连夜按照公文将岁币核查了一遍，又发公文到辽国边关送信。第二天辽国边关守将和文官来到边境，将范仲淹一行接到辽国境内。宋朝五百禁军押解任务结束，回到京城，暂且不说。辽国安排了几百军队负责押运岁币。过了大概十来天，到了辽国南京幽州城。司马光远远的看见高大的城门楼和又高又厚的城墙，喟然对范仲淹说道：“此地古乃夏土，仅成辽国南京，事过境迁，沧海桑田，不可预料。”范仲淹说道：“宋辽争端皆由幽云十六州而起，今已经和谈成功，宋辽澶渊之盟，两国百年和平，我国不可再冲动，衅开边事，假若宋辽两国交兵，岂不是血流成河，怎可收拾。到了辽国，是维持睦邻友好为要，不需再提其他。”司马光道：“倒是侍郎大人有见识，我记下了。”到了南京城，他们稍稍休息了几天，就动身赶往辽国中京大定府（今内蒙古赤峰），一路上地势平坦，官道宽敞，走的倒也顺利。不到三天就到了大定府。在外面倒是觉得大定府不太繁华，唐式的城门楼和城墙，灰灰的青砖，显得有些古朴，不显山露水。辽国大定府的官员早早接到通告，在大定府正门南城门迎接，城楼上挂满红绸子，道路两边站着两列吹鼓手，大奏欢快的曲子，大定府尹和辽国礼部侍郎等高级官员前来迎接。范仲淹和司马光二人也早早下了马，向辽国大定府尹、礼部侍郎等辽国欢迎官员施礼。辽国官员和宋朝使臣施礼过后，不久就将他们引入大定府，将他们安置在驿馆内。运送的民夫也安排妥当。岁币由辽国官员清点后，由辽国人员运走。晚上大定府尹和礼部侍郎设宴款待宋朝范仲淹司马光一行，席间，商定何时何地参见宰相和辽国皇帝事宜。酒席结束后，范仲淹和司马光一行人回到驿馆休息，等着参见辽国宰相和皇帝，准备递交宋朝仁宗皇帝给辽国皇帝耶律宗真的国书。不久辽国通知范仲淹等人，辽国皇帝和宰相要在一个月后方能接见宋朝使臣。
为什么要等这么长的时间才能接见使臣能。原来辽国制度，皇帝有四时奈钵的习惯。辽国主体民族是契丹族，是游牧民族，不像汉人定居一处，世代舍不得离开。辽国契丹族逐水草而居，游牧牛羊。皇帝以游牧作为国家的根本，也带领部落四处在辽国的草原上游牧。自己居住在大帐内和一齐跟随的文武大臣商量国事。每个季节的皇帝大帐都在不同的地方，称为春山，秋水，坐冬，坐夏。辽国的城池和府县都是设在汉人聚集地，皇帝每年都会到大定府来处理一些事务。宋朝使臣到来时，皇帝耶律宗真正带领文武大臣在松花江一代游牧，一时还没有结束游牧，再加上路途遥远，所以皇帝和宰相一时也赶不回来。
见离觐见皇帝的时间还早，司马光就对范仲淹说道：“侍郎大人，趁着辽国皇帝还未接见，我们不如抽空去大定府里转一转，看看北国的风情。范仲淹也是生平第一次来到辽国，也充满了好奇。虽然比司马光年纪大些，沉稳些，但终归抵制不知诱惑，就很快答应了。二位使臣带着译官和随从出了驿馆门，顺着大街往东走。只见大街两边，店铺林立，街道整洁干净宽敞。房屋大都是黄墙黑瓦，色调单纯，但是十分整齐，虽然是秋天，但是和中原的冬天一样冷，街上的人依然像过冬一样，穿着毛皮大衣，戴着皮帽。宋朝使臣虽然早就穿上预备好的棉衣，但看见北国的服饰十分古朴可爱，也到一家衣帽店里每人买了一套衣帽。他们看见路边的店铺各式各样，各行各业。有契丹特有的金银铜器店、马具店、毡子店。也有文具店，书店，瓷器店和食品店。他们逛了几家文具店，发现有很多宋朝的笔墨纸砚。一问店主说是宋辽榷场从宋国进口的。本辽国的笔墨纸砚也有很多，大多是辽国汉人工匠所做，也很精致。像范仲淹和司马光这些读书人都对辽国本国产的文具赞不绝口，他们买了些辽国本地产的文具。
接着他们又逛了一下书店，发现很多宋朝的书籍，可能也是从榷场进口的。他们专门留意了辽国本地的书籍。辽国的书籍大都是佛经，也有很多诗文书籍。但大都是辽国的大字或小字写的，看不懂，只有请译官给他们翻译和介绍。司马光才二十几岁，虽然在官场历练了几年，到底年轻，看见辽国的大字字形笔画和汉字相似，但具体构成却不相同，又见契丹大字大气简单朴素，充满了游牧民族的风情，十分喜爱。又见小字乃是由各个字母组成的字词，充满童趣。便让店主给介绍了大字和小字的来历，让翻译给翻译。司马光对佛学也十分有研究，便买了好几本辽国本国出版的的用契丹大字和小字书写的佛经。范仲淹也买了几本。在书店里过的太久，天很快就黑了，他们又到街上的饭馆吃过饭，到了寺庙里去逛了逛庙会。回来时，天下着碎碎的雪花，在街边橘红的灯光照射下非常好看，路边的店铺在灯光下显得非常安宁，一霎时，司马光心中倍感温馨，心中想到：“都说汉地繁华，没想到这北国冰天雪地之处，别有一番滋味和风情。
过了几天，他们又到皇帝在城中的宫殿去看了看，怎么发现宫殿的正门在东方。就问当地人，当地人说，契丹族拜日，故面向东方，在宫殿里，皇帝面向东方而坐，南面和北面站列着文武大臣。司马光和范仲淹听了这些都哈哈大笑，觉得契丹虽然威猛，但不失可爱。
他们每天都在大定府里转悠，看尽了辽国的风土和辽国的人情，时间过得真快，转眼一个月快过去了。辽国官员通告他们过两三天后皇帝和宰相将要接见他们，司马光和范仲淹都十分高兴。
