根据纽约历史学会资料显示，纽约被称为大苹果应追溯至1921年《纽约晨递报》的一位作者约翰·J·费兹·葛瑞德。
约翰在报上主要是撰写赛马专栏的，他在赛马场跟来自于纽奥良的黑人马夫聊天时，得知他们对于有机会来到纽约兴奋不已，在他们眼中，纽约是个遍地黄金且充满机会的地方时，就以“大苹果（Big Apple）”做为形容，意思是既好看又好吃，人人都想咬上一口。（原文为：The Big Apple. The dream of every lad that ever threw a leg over a thoroughbred and the goal of all horsemen. There's only one Big Apple. That's New York.）
自此之后，大苹果市的说法广为流传，尤其流行于纽约哈林区的黑人爵士乐表演者之间。1934年，135街与Adam Clayton Powell之间，就出现了一间叫“The Big Apple”的爵士乐俱乐部，极受欢迎。
到了1970年代，大苹果之名已逐渐被世人淡忘，当时的旅游局局长查尔斯·吉列特正设法要吸引游客到纽约观光，一时间灵机一动，想到没有其他东西能比苹果更能代表健康，于是决定以苹果作标志，生产出不同款式的苹果装饰物，包含领针、钮扣、保险杆贴纸、雪柜磁贴、购物袋、烟灰缸、领带、领带针等等产品。经过几年推广，查尔斯的努力没有白费，在1975年3月27日，纽约时报报道了大苹果标志所带来的影响，而且让查尔斯在1994年获得了旅游业成就奖。
1997年，一块写着“Big Apple Corner”的路牌，安装在百老汇街和西54街的交界处（接近约翰·葛瑞德居住及逝世之处）以作为纪念。
2004年，纽约市旅游局主办了“大苹果节”，大力推广与宣传大苹果文化，有300多个以玻璃纤维为原料制成的大苹果，透过艺术家们的创作，再经大公司或企业认购，摆放在该企业附近，展现纽约市多元文化的特征。
