釋迦在靈山會上,對著百萬人天,默然不說一句話,只自輕輕地手拈一枝花,普遍地向大眾環示一轉,大家都不了解他的寓意,只有大弟子摩訶(意譯為大)迦葉,會心的展顏一笑,於是釋迦便當眾宣布:“吾有正法眼藏,涅盤妙心,實相無相,微妙法門,不立文字,教外別傳,付囑摩訶迎葉?!边@便是禪宗的開始,後來由迦葉尊者為印度禪宗的第一代祖師,阿難為第二代祖師,歷代相傳,到了第二十八代菩提達摩大師,正當中國南北朝時代印度佛教衰微,大師謂東土震旦(中國),有大乘氣象,所以便渡海東來.
菩提達摩于六朝齊、梁間從印度渡海東來,梁普通(520-526)前后到洛陽弘揚禪法。因其禪法不為當時佛教界所重,乃入少林寺安心壁觀,以“二入四行”禪法教導弟子慧可、道育等。慧可從達摩6年,達摩授以《楞伽經》4卷。后隱居于舒州皖公山(今安徽潛山東北),傳法于僧璨。僧璨受法后又隱于舒州司空山(今安徽太湖北),蕭然***,不出文記,秘不傳法。唯有道信侍璨9年,得其衣法。后至吉州(治所在今江西吉安)傳法,嘗勸道俗依《文殊說般若經》一行三昧,可見其除依《楞伽經》外,還以《般若經》為依據。后住湖北黃梅雙峰山(一名破頭山)30多年,主張“坐禪守一”,并傳法于弘忍。其另一弟子法融在金陵(今江蘇南京)牛頭山傳牛頭禪。
弘忍得法后即至雙峰山東馮茂山(一作馮墓山)另建道場,名東山寺,時稱其禪學為“東山法門”。其“蕭然***,不出文記,口說玄理,默授與人”的作風,開中國佛教特有的禪風,對后來禪宗發展影響甚大。著名弟子有神秀、慧能、惠安、智詵等。相傳弘忍為選嗣法弟子,命大家各作一偈,時神秀作偈:“身是菩提樹,心如明鏡臺;時時勤拂拭,勿使惹塵埃。”弘忍認為“未見本性”。慧能也作一偈:“菩提本無樹,明鏡亦非臺;本來無一物,何處惹塵埃。”弘忍認可,并秘密傳以衣法,為第六代祖。慧能得法以后南歸,隱居15年,繼至曹溪寶林寺。后應請在韶州大梵寺說摩訶般若波羅蜜法,并傳授無相戒。嗣法弟子有行思、懷讓、神會、玄覺、慧忠、法海等40余人。法海集其言行為《六祖壇經》,是為南宗。神秀于弘忍寂后至荊州當陽山玉泉寺弘禪,20余年中門人云集,是為北宗。神會先后在南陽、洛陽大弘禪法,南宗遂成禪宗正統,慧能宗風獨尊于天下。神秀北宗則門庭寂寞,傳不數代即衰亡。
該宗所依經典,先是《楞伽經》,后為《金剛經》,《六祖壇經》是其代表作。