在中国历史上的元朝统治时期，统治阶级大多数残暴昏庸、贪婪无耻，他们大都以摧残文明、烧杀掳掠为荣，以强取豪夺、戕害弱小为傲。在上层统治者中，耶律楚材作为少数民族的清官代表，出淤泥而不染，为当时昏暗的政治涂上了一抹清亮的色彩。耶律楚材的“廉”主要体现在其廉政制度建设和自身的清正廉洁上。他为元初各项制度的草创殚精竭虑，屡有建树；对保全中原先进的经济、文化，贡献尤多；其一生为官清正廉洁，勇于任事，在朝廷内外享誉很高。
耶律楚材是契丹贵族后裔，辽朝开国皇帝耶律阿保机的九世孙。到他祖父一辈时，成为金朝贵族。父亲耶律履博学多艺，官至尚书右亟（副宰相）。耶律楚材出生时，父亲耶律履已经年近花甲，三岁的时候，父亲病逝。耶律履平日乐善好施，死后清白遗四壁，年幼的耶律楚材不可能从父亲那里得到一份丰厚的遗产。但父亲的“重义而疏财，后世遗清白”的清正家风，却给耶律楚材以不可估量的影响。耶律楚材日后成才为官，身上所表现出的胸怀大略、清正廉明，即是得于父亲之“遗传”。
尽管没有了父亲的耳提面命，生活又是十分清苦拮据，耶律楚材仍在母亲杨氏的悉心教导下，“继夜诵诗书，废时毋博弈”。每天晚上都读书到深夜，从来不曾为了贪玩下棋而浪费时间。耶律家族虽出身契丹皇族，但接受汉文化比较早，至耶律履一代，对传统的汉文化已有极深的造诣。史称耶律履“通六经百家之书”，金世宗时，历任经史院编修官、翰林院修撰等文职，以文章行义著称于当时。耶律楚材秉承家学传统，自幼博览群书，学习汉文汉籍。及年长，才华横溢，“天文、地理、律历、术数及释老医卜之说”无所不通。
耶律楚材成长的年代，正是元朝统一中国之前列国纷争的动乱阶段。金章宗泰和六年（公元1206年），耶律楚材十七岁，进宫应试。而那一年也恰是铁木真统一蒙古之时，成为全蒙古的“汗”（皇帝），尊称为成吉思汗，即后来的元太祖。耶律楚材应试，金章宗亲自拟题，问了几件疑难案件的处理。一同参加考试的有十七人之多，而唯有耶律楚材的回答精辟独到，最让金章宗满意。耶律楚材脱颖而出，随后入仕，年少有为，声名远播。成吉思汗十年（公元1215年），蒙古军攻占燕京，金廷大势已去，回天无力，耶律楚材心灰意冷之下，便自号“湛然居士”，师从高僧学习佛理，暂时“将功名之心束之高阁”，“以简易之道治一心”。其实，明珠暗藏、遁世脱俗并非耶律楚材所愿。耶律楚材素有经邦治国、辅翊英主的雄心大志，若得明君，“以仁义之道治四海”才是他平生抱负。成吉思汗得知耶律楚材才华横溢、满腹经纶，而且又是被金国所灭、与金国有仇的原辽国宗室后裔，便遣人求之，询问治国大计。耶律楚材也对成吉思汗的雄才大略仰慕于心。成吉思汗得耶律楚材可谓如虎添翼；耶律楚材效力成吉思汗，也是如鱼得水。此后十载，他随大汗东伐西征，屡立奇功。成吉思汗是个“马上皇帝”，耶律楚材深知其弱点，便时常耐心地向他晓以治国、安民之道。成吉思汗赏识耶律楚材的才华，也总能向他虚心问道。成吉思汗常指着他对儿子窝阔台说：“此人乃天赐我家！”
元太祖二十二年（公元1227年）七月，成吉思汗病逝。新主未立，四子拖雷监国。当时燕京（今北京市）城内多盗贼。每天傍晚不等天黑，就有盗贼直闯富家，杀人越货之后扬长而去。耶律楚材闻报后，连忙与中使一同前往究治。经过仔细查访，耶律楚材了解到这些盗贼原来是留后（蒙元的一种官职，通常是节度使、观察使缺位时的代理官员）的亲属子弟。耶律楚材执法向来严明，随后，便无论亲疏贵贱，统统将他们逮捕下狱。盗贼的家属们见动了真格，这才慌了手脚，纷纷跑到中使那里去行贿请托。中使满口答应，不料，耶律楚材却是不依，向中使晓以利害、祸福，中使心中惭愧，这才听从他的意见，决定依法秉公办理。于是，几天后，十几个罪大恶极、猖狂一世的盗匪被绑赴刑场，斩首示众，杀一儆百。此后数年，燕京之地不见一个为患作乱的盗贼。盗贼绝迹，燕民始安，百姓对耶律楚材赞不绝口。
蒙古统治者常年忙于对外用兵，无暇制定必要的规章制度，派往各地的长官往往都是生杀随性任情，劫财掠货，抢人妻女，无所不为。燕京留后长官咸得卜，就是其中之一。咸得卜贪暴妄为，在他的辖内，百姓动辄得咎，敢怒不敢言。咸得卜杀人盈市，耶律楚材听说后不觉涕泪俱下，深以百姓为忧。随后，他便上奏大汗，请求严禁各州郡长官如无朝廷诏令，不得擅自处死囚犯。有违反者，其罪当死，决不轻贷。如此一来，各地贪暴之风，稍见收敛。