据记载：东汉永平七年（公元64年），印度高僧摄摩腾和竺法兰应东汉明帝刘庄的邀请来到当时国都洛阳，传播佛教文化。翌年，汉明帝敕令在国都西兴建僧院，取名白马寺。让两位高僧在此翻译佛经，传播佛学，从此，佛学开始在中国大规模传播。
1993年9月18日，印度前总理拉奥在中国访问期间，曾专程从北京来到洛阳，参观龙门石窟、白马寺、玄奘故里等，表示出对洛阳的敬慕之情。
二十世纪90年代，泰国友好人士常媛女士曾出资在白马寺建设一座泰式佛殿，开创外籍人士在白马寺建设佛殿之先河，该佛殿也成为中泰人民友谊的象征。
2003年6月初，印度驻华大使来洛阳安排印度前总理瓦杰帕伊访洛时，受到常媛女士在白马寺建设泰式佛殿的启发，产生了在白马寺建设一座具有印度风格佛殿的想法。当月25日，印度前总理瓦杰帕伊在北京结束一系列繁忙的外事活动后，又参观了洛阳的龙门石窟和白马寺，为印度政府在白马寺建设佛殿打下了基础。
此后，洛阳市宗教局、洛阳市外办等与印度驻华大使曾多次接触，形成初步意见。2004年，省、市外办和省、市宗教局分别就印度在白马寺建佛殿问题，向外交部、国家宗教局请示，很快得到批示，表示同意。2004年11月，河南省省长李成玉访问印度，并就建造印度风格佛殿一事同印方也进行了沟通。2005年4月初，市外办、市宗教局又与新印度驻华文化参赞多次修改完善了《关于印度在中国洛阳白马寺西侧建设印度风格佛殿的协议》，并将该协议作为温家宝总理访问印度期间中印双方需签内容之一。
应印度共和国总理辛格的邀请，国务院总理温家宝于2005年4月9日至12日对印度进行正式访问。访问期间，温家宝总理同印度总理辛格签订《印度共和国与中华人民共和国联合声明》，根据《联合声明》，两国政府签订了《印度在中国洛阳白马寺院西侧建造印度风格佛殿的备忘录》。《备忘录》指出：白马寺负责在其西侧提供土地用于建设印度风格佛殿，并负责佛殿的建设；印方负责提供建筑方案，并提供建设资金5000万卢比(约合117万美元)，同时提供佛像及佛殿内所需的其他佛事祭用品。佛殿建成后，由白马寺统一管理，向印度朋友和国内外佛教界人士及游客开放。
