最早注释“汾上”一词的学者为南宋地理学家胡三省①，他在注释《资治通鉴》时，关于唐代宗派郭子仪前去汾州戡乱仆固怀恩句：“公为朕镇抚河东，汾上之师必不为变”，其中的“汾上”一词明确诠解为“谓汾阳”。胡所说的“汾阳”宋、金、元时期特指汾州（今汾阳），宋代碑刻出现“汾阳军州”，《金史》称 “汾阳军”。
现小学课外阅读书本收录有唐人苏颋《汾上惊秋》一诗，诗文中的“汾上”一词颇受人们关注，而现代诸种汉语词典没有此词，于是有人依据“万里渡河汾”，解释汾上为汾河与黄河交接处之汾阴县境（即今万荣县），这是不正确的。
“汾上”本意为汾滨之意，类同于汶上、泗上、江上、河上等词汇，指山西汾河之滨，古代曾经是汾河北岸的同义语。如唐初《晋书》记载：“张平②以并州叛，苻坚率众讨之，率骑五千据汾上”，此汾上地在汾州汾水之滨；唐岑参诗里“可怜汾上柳”之“汾上”则在临汾汾河之滨；唐诗“并州汾上阁”一句之“汾上”则指太原的汾水之滨；唐玄宗时期《祀后土赏赐行事官等制》有这样的用法：“北巡并都，南辕汾上。”之汾上，则指“汾阴睢上”以对“并州北都”。今新绛有“汾上村”则是“风上村”改名而来，此用法与汾上本来没有关系。
在中国观念里北为上，所以“汾上”多用于汾水之阳。唐中期以来，“汾上”逐渐演变成为汾州的别名，有了行政区的含义，即胡三省之“谓汾阳”。
如《旧唐书·仆固怀恩传》记载安史之乱时，屯兵汾州的仆固怀恩奏折自称“臣息军汾上”；唐代宗派郭子仪前去汾州叫：“公为朕镇抚河东，汾上之师必不为变”；唐汾州人薛能写有《怀汾上旧居》、《留题汾上旧居》的诗篇；还有韦应物《送汾城王主簿》诗中的“汾上又经过”等等皆特指汾州。宋代《容斋随笔》中有“郭汾阳在汾上”之句，直书汾阳为汾上。《宋书·潘美传》里：“党进攻太原，战于汾上”，汾州是太原西南门户，守太原先守汾州。唐宋文人之所以用“汾上”代指汾州是因为古人作文很讲究修辞，曰“汾州”不直言其名，往往用汾隰、汾湄、汾浦等代称或简约曰汾，书写文雅的则用“汾上”一词。
所以《汾上惊秋》之“汾上”结合意境来看也在汾州，清代汾阳县志也收录该诗。其一诗曰“北风吹白云，万里渡河汾”，诗人苏颋久在长安，唐代东渡河东取道永济不走汾阴，汾阴地近京兆不言万里；其二诗人题目叫“汾上惊秋”之句，这秋比长安要寒冷得多，汾阴与长安纬度接近秋景接近，不该“惊”；其三“北风吹白云”句与李白诗《太原早秋》之意境类同：“云色渡河秋…思归若汾水”。苏颋在汾州居留时间比较长，对汾州十分了解，有他的《饯潞州陆长史再守汾州》一诗为证。苏颋还有“汾州长史崔隐甫抗迹清循，在公明察”，等文字。
唐诗《睢阳送韦参军还汾上》曰“文华两孙楚，兄弟二曾参。竹抱卢门暗，山衔晋国深， 预知汾水上，一雁有遗音”。诗中将韦参军比作孙楚第二，孙楚为晋代平遥人，可知韦参军在汾州平遥附近为官，诗中“汾上”还是汾州。北宋太平兴国四年（979）《汾州兴教大师墓志》记载：“功成名遂，乃却归汾上”。 北宋李复《送卫奕之西河任》曰：“蔼蔼长空春已归，东风犹在绿杨枝。故人错莫送处处，流水苍茫无住时。汾上先生能理曲，河滨退老喜论诗。闻君此去追高躅，应忘青衫簿领卑”。李复笔下西河、汾上为同一地，皆卜子夏退老之所。
金元以来随着汾河流量减少，汾河水运终止，“汾上”一名渐次式微。但是用“汾上”代指汾州依旧是文人雅好，如金代《汾阳香积寺如来佛像碑铭》曰：“重建为汾上之新闻”。元代《西河故居士马公墓志铭》写道：“猗欤马氏，系出扶风。徙居汾上，阴德其隆”。
明清以来，旅居汾阳的文人雅士作诗使用“汾上”也屡见，包括大名鼎鼎的戴震和孔天胤。明代闻喜人裴邦奇来汾州写有《仲川宗君持孔丈书自汾上相迎》：“愿从左骑归汾上，倾倒还同北海尊”。还有《重游汾上孔园登高二首》。《与孔文谷先生话别》一诗中有：“十年汾上挹清辉，此日天边见少微。”还有赞美孔天胤诗句：“况复人龙汾上卧”，河东裴邦奇诗歌中提到汾州几乎全部用汾上。孔天胤《东关建城记》写道：“（汾州守）于公埋轮汾上”，孔天胤有诗歌《汾上赠孝廉何竹窗先生》。
万历年间，朱孟震巡抚山西，驻扎冀南道汾州，“比来汾上”完成了杂记《汾上续谈》，在《朱驾部遇武安》一文中写道：“事至榆林，还过汾上”明确点明汾上即汾州。又说《汾上续谈》刊刻的理由是“思绵上龙蛇之篇列之迁史，泌丘贞隐之勒播在人间，感白云而兴歌者素波激其余响，援巧笑而称诗者寓迹振于西河。古人往矣，撰述如新”，点到了汾州四大名人介子推、郭有道、汉文帝和卜子夏。“栖迟泌丘”语出郭林宗碑。卜子夏为学时，因常有独到见解而得到孔子的赞许，如其问《诗经》中“巧笑倩兮，美目盼兮，素以为绚兮”一句，孔子答说“绘事后素”，子夏立即得出“礼后乎”（即礼乐产生在仁义之后）的结论，孔子赞曰:“起予者，商也!始可以言《诗》已矣。”
明末朱之俊《汇清园记》“汾上山多而泉少”，又《赠傅青主》诗曰：“乘兴偶来汾上侧”。清康熙年间汾州知府姚震撰写《古迹青龙沟创建迎仙庵记》：“因念此地，特汾上一块土尔，昔为弃地，今为胜地”。清咸丰《汾阳县志》卷四名宦中记载：“刘衍畴，字恒，公洛阳举人，万历十九年由峄县知县擢牧汾州。汾上地寒，垣苦旱，州人不解种木棉法。”清代后期汾阳人宋其沅有句：“我从汾上来，君自姑射至”。
据此看，“汾上”当有广义狭义之分。广义而言指汾水之滨，此用法在唐中期以后鲜用。狭义而言，唐宋以来“汾上”特指汾州、汾阳，赵嘏诗《汾上宴别》，韦应物《送汾城王主簿》等唐诗皆称汾州为汾上，汾阳出土的宋代《宋故赵公墓志铭》则用“寓迹汾水之上”表示迁居汾州。今人吕世宏之《汾上访古》一书，书中内容虽以汾州为主，然而广涉汾水流域全境，故广义，狭义之内涵兼而用之。
注释：
①胡三省：(1230年-1302年)，字身之，今浙江宁海人，中国宋元之际史学家。历时三十年完成《资治通鉴》。
②张平：十六国时期后赵末年并州刺史，后为诸侯，周旋于强国之间，后降苻坚。