西方對于制度的研究最早始于古希臘，公元前5世紀，古希臘學(xué)者們就提出并考察了諸如社會(huì )起源、法律本質(zhì)、道德基礎、行動(dòng)的個(gè)體與社會(huì )秩序等一系列與制度相關(guān)的問(wèn)題。亞里士多德在其社會(huì )觀(guān)中闡述了非理性因素與社會(huì )制度的聯(lián)系，他認為，各種社會(huì )制度導源于人的基本本能，本能產(chǎn)生、決定各種集團和社團，最終形成各種社會(huì )關(guān)系。
馬克思主義則把制度置于人類(lèi)社會(huì )產(chǎn)生、發(fā)展和變遷的大環(huán)境中去考察，使得對制度的研究建立在歷史唯物主義的基礎之上。馬克思在《德意志意識形態(tài)》中寫(xiě)道：“現存的制度只不過(guò)是個(gè)人之間迄今所存在的交往的產(chǎn)物”，這個(gè)簡(jiǎn)單的定義抓住了制度的核心特征——交往的產(chǎn)物，深刻地揭示了制度作為社會(huì )性關(guān)系范疇的本質(zhì)。馬克思進(jìn)一步指出：“人們在生產(chǎn)中不僅僅影響自然界，而且也互相影響。他們只有以一定的方式共同活動(dòng)和互相交換其活動(dòng)，才能進(jìn)行生產(chǎn)。為進(jìn)行生產(chǎn)，人們相互之間便發(fā)生一定的聯(lián)系和關(guān)系；只有在這些社會(huì )聯(lián)系和社會(huì )關(guān)系的范圍內，才會(huì )有他們對自然界的影響，才會(huì )生產(chǎn)。”這些“社會(huì )聯(lián)系和社會(huì )關(guān)系”所蘊涵的規范性?xún)热?，其表現形態(tài)就是制度。馬克思主義所關(guān)注的制度，主要是從社會(huì )形態(tài)的角度出發(fā)，經(jīng)常使用的是“社會(huì )制度”、“經(jīng)濟制度”、“政治制度”這樣的概念。
由于對制度基本要素的關(guān)注點(diǎn)不同，古今中外的學(xué)者對于“制度”概念的界定也不盡相同，其中，在經(jīng)濟學(xué)說(shuō)史上對制度進(jìn)行專(zhuān)門(mén)研究并將其貫穿于經(jīng)濟思想始終的，即“制度主義學(xué)派”，按其分析層次、環(huán)境及時(shí)間順序的不同，“制度主義學(xué)派”又可分為“舊制度主義”和“新制度主義”兩大陣營(yíng)。
舊制度主義學(xué)派的奠基人凡伯倫，在1899年最早將制度定義為“實(shí)質(zhì)上就是個(gè)人或社會(huì )對有關(guān)某些關(guān)系或某些作用的一般思想習慣，而生活方式所構成的是在某一時(shí)期或社會(huì )發(fā)展的某一階段通行的制度的綜合，因此,從心理學(xué)的方面來(lái)說(shuō)，可以概括地把它說(shuō)成是一種流行的精神態(tài)度或一種流行的生活理論”。舊制度主義學(xué)派的代表人物康芒斯則把制度解釋為“集體行動(dòng)控制個(gè)體行動(dòng)”。他認為：“經(jīng)濟學(xué)研究的基本單位是交易，而交易有三種類(lèi)型：買(mǎi)賣(mài)的交易、管理的交易和限額的交易，而制度是這三種類(lèi)型的交易合在一起而成的經(jīng)濟研究上的一個(gè)較大的單位，根據英美的慣例，這叫做‘運行機構’。這種運行機構，有業(yè)務(wù)規劃使得它們運轉不停；這種組織，從家庭、公司、工會(huì )、同業(yè)協(xié)會(huì )、直到國家本身，我們稱(chēng)為‘制度’”。
新制度主義學(xué)派的道格拉斯•諾思則認為：“制度由一系列規則形式和規章形式的行為約束組成。而且，制度最終是由一系列道德的、倫理的和行為的規范組成的，這些規范限定了人的行動(dòng)界限，并且制約著(zhù)具體制定和實(shí)施的各種規則、規章的方式”（1984）；“制度是社會(huì )游戲的博弈規則，更規范的說(shuō)是為決定人們的相互關(guān)系而人為設定的一些制約……用經(jīng)濟學(xué)的術(shù)語(yǔ)來(lái)說(shuō)，制度定義和限制了個(gè)人的決策集合”（1990）；同時(shí)，諾思也認為：“制度是人為設計出來(lái)構建政治的、經(jīng)濟的和社會(huì )的互動(dòng)關(guān)系的約束，由非正式的約束（獎懲、禁忌、習俗、傳統及行為準則）和正式的規則（憲法、法律、產(chǎn)權）組成”（1991）。舒爾茨則將制度定義為：“一種行為規則，這些規則涉及社會(huì )、政治及經(jīng)濟行為”。拉坦則認為：“一種制度通常被定義為一套行為規則，他們被用于支配特定的行為模式的相互關(guān)系”。
1936年，凱恩斯的《就業(yè)利息和貨幣通論》出版，其經(jīng)濟思想開(kāi)始在歐美流行。二戰后，凱恩斯的追隨者補充和發(fā)展起來(lái)的凱恩斯主義，在西方國家20世紀40至60年代一直占有主導地位。但是到了70年代初，美國和西歐國家先后出現了生產(chǎn)過(guò)剩的經(jīng)濟危機，凱恩斯經(jīng)濟學(xué)無(wú)法解釋這些國家存在的種種嚴重的社會(huì )問(wèn)題。在這樣的背景下，新制度經(jīng)濟學(xué)為適應社會(huì )的需要而產(chǎn)生，它繼承了早期制度學(xué)派的傳統，并在制度研究方面有新的發(fā)展。新制度學(xué)派與早期制度學(xué)派的區別只是時(shí)代的差別。早期制度學(xué)派處在壟斷資本主義發(fā)展階段，新制度學(xué)派則處在壟斷資本主義進(jìn)一步發(fā)展的時(shí)期，后者更加強調社會(huì )的權力結構，以及國家調節經(jīng)濟的社會(huì )管理思想。
