南京是中国古代江南地区最早传播佛教文化的地区，迄今已有1800多年佛教文化发展史，自东吴开始曾数度成为全国佛教中心。但江南出现第一座寺庙，还是在孙权建立东吴政权定鼎建业（南京）之后，那就是长干里一带的建初寺。建初寺建于三国吴赤乌十年（247年），孙权为西天竺沙门康僧会造建初寺的故事，在敦煌壁画里都有描绘。

康僧会，祖上为康居国（西域古国，约在今巴尔喀什湖与咸海之间）人，但世居天竺。因其父经商而迁居交趾（今越南）。康僧会十余岁时，父母双亡，以至性奉孝，服完孝后旋即出家。康僧会精通梵文，而且还深受中华传统文化的熏陶，聪颖好学，颇有辩才和文采。

南京佛教协会的专家介绍，东吴赤乌十年（247年），西天竺沙门康僧会到了建业，营建茅庵，设立佛像，进行传道。孙权得到官员禀报后，马上召见康僧会，问他：“你传之道，有何灵验？”康僧会回答说：“佛祖仙去，转眼已过千年。他的遗骨舍利，依然神光照耀。从前，印度阿育王建寺塔八万四千座，就是为了彰显佛祖的遗教风化。”孙权不信，说：“如果你能请得舍利，我就为你建造寺塔。”康僧会和僧徒们洁斋静室，把铜瓶放在几案上，烧香礼请，共花了三个七天，终于请得舍利。舍利五色光芒照耀到瓶外。孙权把舍利倒在铜盘上，铜盘立刻被穿透。舍利被放在铁砧上，用锤去击打，结果锤砧俱陷而舍利无损。孙权大为叹服，于是为康僧会造建初寺，并建阿育王塔，供奉康僧会请得的舍利。这座阿育王塔据传系阿育王八万四千塔中之一。

寺庙定名为“建初寺”，意思就是东吴第一座佛寺。最终，这段历史被记载在初唐第323窟敦煌壁画中。

唐朝历史学家许嵩写出了南京城第一个私家专著《建康实录》。该书也记载了这段故事：“是岁， 胡人康僧会入境， 置经行所，朝夕念佛， 有司以闻。帝曰：‘昔汉明帝感梦金人，使往西方求之，得摩滕、竺法兰来中国立经行教，今无乃是其遗乎？’因引见僧会，其言佛教灭度已久，唯有舍利可以求请。遂于大内立坛，结静三七日得之。帝崇佛教，遂于坛所立建初寺。”