白沙古井始凿于何时，已无法考证出来。明以前的长沙地方史志俱已散佚，所剩明崇祯十二年（公元1639年）刊印的《长沙府志》记载："白沙井，县（指善化县）东南二里，井仅尺许，清香甘美，通城官员汲之不绝，长沙第一泉"。可见此时白沙井已大大地有名了。民谣称："无锡锡山山无锡，平湖湖水水平湖，常德德山山有德，长沙沙水水无沙"。
清乾隆年间，进士旷敏本、优贡张九思曾作有《白沙井记》、《白沙泉记》，盛称其泉"清香甘美，夏凉而冬温"，"流而不盈，挹而不匮"，甚至将之与天下名泉济南趵突泉、贵阳漏突泉和无锡惠山泉媲美，自明清以来，长沙人民世世代代饮用此水，前来取水者络驿不绝，即使西城区、北城区一带的居民也挑桶而来，"竟日幕而不一息。"更有不少穷苦人家汲水于此，担卖全城，赖以为生。清末以后，挑卖沙水者多居于井旁，白沙井一带生齿日繁，遂形成白沙街。白沙古井可说是长沙生命之泉。
亦因如此，自清末以来，官绅恶霸多想方设法妄图垄断白沙井水。清光绪年间，善化知县曾在井后立碑，"出示晓喻"，将白沙井划为官井、民井，并订立用水章程。民国初年，又有军阀在井旁立一"告示"碑，刻有"照得白沙井水，四井界限分明，卖水吃水各井，官井专供官军"等语。
旧时，当地还有"挑水会"，凡挑卖沙水者须先交银元数元入会，取得条据，方可取水。解放以后，白沙井回到人民手中，人们才真正自由地畅饮白沙水。1950年，市人民政府为保护古井，特拨款维修古井，建立石栏，铺砌地面，使白沙古井成为长沙解放后最早得到修复的名胜古迹。
开国领袖毛泽东在诗词中说："才饮长沙水，又食武昌鱼。"沙水、长沙水指的都是白沙井之水。白沙泉水，水质纯清，泡茶色味殊绝，酿酒芳香醇厚，煎药、熬汤皆极佳，而且无论冬夏，泉眼不溢，泉井里经常保持同样多的水量，永不溢出，也永不枯竭，水位用不变。至今许多居民仍不辞远劳，来这里取水以作饮用。名酒白沙液，曾用此水酿制。关于利用白沙井所在山脉(古称锡山)的泉水酿酒，历朝很多人皆予以赞赏。晋代文学家谢惠连有"饮湘美之醇酵"之赋，唐代诗人杜甫也有"夜醉长沙酒，晓行湘水春"之佳句。清代黄本骥在《湖南方物志》中说："长沙之酒，自古有名。"白沙井最早只一眼泉，明末，水分为二，其后又增二眼，现为四眼。白沙井旁原有亭榭楼台，曾多次修葺，后毁于兵燹。解放后，白沙井经多次修整，井台铺花岗石，四周围以石栏，坡侧植以树木，南北井中央横嵌"白沙古井"石碑。
