韋皋出身“京兆韋氏”，唐代宗大歷初年，從建陵挽郎任上調補為華州參軍，累官被授為使府監察御史。宰相張鎰出任鳳翔隴右節度使，上奏薦舉韋皋為營田判官，得任殿中侍御史，臨時署理隴州行營留后事務。

建中四年（783年），涇原軍進犯京師，德宗逃往奉天，鳳翔兵馬使李楚琳殺死張鎰，率鳳翔府城叛變，歸附于叛臣朱泚，隴州刺史郝通投奔李楚琳。此前，朱泚從范陽入朝任職，命甲士隨從自己入京；后來朱泚任鳳陽節度使，罷職以后，留下范陽的五百名士卒戍守隴州，而由原朱泚部下舊將牛云光督率他們。這時朱泚既已率叛軍包圍奉天，牛云光便假托有病，請求韋皋擔任統帥，而暗中策劃叛亂，準備擒獲韋皋前去投靠朱泚。韋皋的部將翟曄探聽到了這件事，報告韋皋預做準備，牛云光知道事情泄漏，便率領他的兵卒投奔朱泚。行至汧陽，遇見朱泚的家奴蘇玉正要到韋皋那里去，蘇玉對牛云光說：“太尉（朱泚）已登上了皇帝寶座，派我持詔書前去任命韋皋為御史中丞，你可率兵返回隴州。韋皋如果接受任命，就是我們的人；如果不接受，他不過是個書生，可以算計他，事情沒有不成的。”牛云光便掉轉旗號迅速奔赴隴州。韋皋迎上去慰勞他們，先接納蘇玉，受了偽詔，才問牛云光道：“當初不告而別，現在又回來，這是為什么呢？”牛云光說：“原先不了解公之心意，所以偷偷離去；知道您有新的任命，現在才又回來。希望和您一道盡力奠定功勛，同生共死。”韋皋說：“好呀！”又對牛云光道：“肩負重大使命的人若不懷欺詐，就請交出武器甲仗，使城中的人免去畏懼、懷疑，方可入城。”牛云光把韋皋當作書生，而且認為他這番話可信，便將弓箭、兵器、甲仗盡數交出，韋皋接收之后，便讓他的軍隊進城。次日，韋皋在郡府屋舍中設宴犒勞蘇玉、牛云光的士卒，在兩邊廊下埋伏了甲士，酒過一巡，伏兵齊起，將叛軍全都殺死，砍下牛云光、蘇玉的腦袋以示眾。朱泚又派家奴劉海廣前去任命韋皋為鳳翔節度使，韋皋斬了劉海廣和他的三個隨從，留下一個讓他回去向朱泚報信。德宗下詔任命韋皋為御史大夫、隴州刺史，設置奉義軍節度使以表彰他。韋皋派遣他的堂兄韋平和韋弇相繼進入奉天城，城中的人聞知韋皋有準備，士氣倍增。

韋皋在庭中筑起高臺，涂抹牲血，與將士們盟誓道：“上天不憐恤百姓，國家多難，叛臣伺機盜占宮廷，而李楚琳也煽動兇徒，攻陷城邑，所施殘酷暴虐，延及本使，既然不能侍奉皇上，又怎能體恤百姓。我因此心情憤激，沒有安寧的閑暇，誓和大家一起竭誠擁戴王室。凡是和我一起盟誓的人，同心協力，順天行事，掃除頑兇，先祖在天之靈，必會在幽冥中贊賞。言辭誠信則志同道合，正義相感則心齊力協，粉骨碎身，決不回頭。若有改變心志的，神靈將擊殺他，禍及子孫，決無族類遺存。皇天后土，當驗證此言。”又派人到吐蕃求援。十一月，加授檢校禮部尚書。

興元元年（784年），德宗返回京師，征召韋皋為金吾衛將軍。不久升為金吾衛大將軍。

貞元元年（785年），韋皋官拜檢校戶部尚書，兼成都尹、御史大夫、劍南西川節度使，以替代張延賞。

由于南詔與吐蕃和好，吐蕃人入侵，必以南詔作為先鋒。貞元四年（788年），韋皋派遣判官崔佐時進入南詔，勸說令他們歸順王化，以脫離對吐蕃的依附。崔佐時到達蠻國羊咀咩城，其國王異牟尋欣然接待，崔佐時代表朝廷請他們同吐蕃絕交，派遣使臣向朝廷進貢。當年，韋皋讓東蠻首領驃傍、苴夢沖、苴烏等相繼入朝。南蠻自巂州陷落后，成為吐蕃的臣屬，繼絕朝貢前后共二十余年，到這時又重新通好。

貞元五年（789年），韋皋派遣大將王有道挑選精兵進入吐蕃境內，和東蠻一起，在從前巂州的臺登北谷將吐蕃的青海、臘城兩節度打得大敗，斬殺二千人，生擒籠官四十五人，那投身崖下深谷而死的不計其數。吐蕃將領乞臧遮遮是吐蕃的一員勇將，長期成為邊患，自從擒住乞臧遮遮之后，吐蕃的城邑柵寨沒有不投降的，幾年之內，終于收復了巂州，韋皋因戰功而被加授吏部尚書。

貞元九年（793年），朝廷修筑鹽州城，因為擔心遭吐蕃偷襲，便下詔命韋皋出兵牽制吐蕃。韋皋便命令大將董面力、張芬從西山出兵到達南道，攻破峨和城、通鶴軍。吐蕃的南道元帥論莽熱率兵前來援救，又被擊敗，被殺死殺傷了幾千人，焚毀了定廉城。一共鏟除堡柵五十余處，韋皋因功而晉封為檢校右仆射。韋皋又招降、安撫西山羌蠻的女、訶陵、白狗、逋阻、弱水、南水等八國的酋長，入朝進貢。

貞元十一年（795年）九月，韋皋被加授統押近界諸蠻、西山八國兼云南安撫使。

貞元十二年（796年）二月，就地加授同中書門下平章事。

貞元十三年（797年），收復巂州城。

貞元十六年（800年），韋皋派將領出兵，多次在黎州、巂州擊敗吐蕃的軍隊。吐蕃大怒，便進行大規模搜索、檢查，修筑堡壘，建造舟船，圖謀入侵，韋皋將其全都挫敗。這時吐蕃酋帥兼監統曩貢、臘城等九地節度使嬰，籠官馬定德，以及他的八十七名大將率領整個部落前來投降。馬定德有謀略，熟知兵法和山川地形，吐蕃每次用兵，馬定德常常乘坐驛車前往計議軍事，吐蕃軍中諸將都向他稟報既定方案；至此，他才因騷擾邊境違犯律令，懼怕罪罰而歸順朝廷。

貞元十七年（801年），吐蕃在昆明城所管領的磨些蠻又有一千多戶投降。吐蕃的君長因其部眾潰散，便侵犯北方的靈州、朔州，攻陷麟州。德宗派遣使臣到成都府，命令韋皋出兵深入吐蕃境內。韋皋便命令鎮靜軍使陳洎等率領一萬名士卒從三奇路出兵，令威戎軍使崔堯臣率一千名士卒從龍溪石門的路南出兵，維州、保州二州兵馬使仇冕及保州、霸州二州刺史董振等率二千士卒直趨吐蕃的維州城中，北路兵馬使邢王此等率四千人直趨吐蕃的棲雞、老翁城，都將高倜、王英俊率四千人進軍原松州，隴東兵馬使元膺的士卒八千人由南道的雅州、邛州、黎州、巂州一齊出擊。韋皋又命令鎮南軍使韋良金率領一千三百人后續跟進，雅州經略使路惟明等率兵三千人直趨吐蕃的租、松等城，黎州經略使王有道率軍二千人渡過大渡河，深入吐蕃境內，巂州經略使陳孝陽、兵馬使何大海、韋義等，以及磨些蠻、東蠻二部落的酋長苴那時等的兵卒四千人進攻昆明城、諾濟城。從八月出兵入吐蕃，到十月擊破吐蕃軍隊十六萬，攻下城邑七座、軍鎮五處，有民戶三千，生擒敵兵六千人，斬首萬余，于是進攻維州。援軍兩度來到，轉戰千里，吐蕃軍連連戰敗。這時吐蕃進犯靈州、朔州的部眾被調南下，吐蕃君主派遣論莽熱以內大相之職兼任東境五道節度兵馬都群牧大使，率領各部族混編的隊伍十萬人來解救維州之圍。蜀州軍一萬名士卒占據險要設置伏兵以等待吐蕃軍，先派出一千人前去挑戰。論莽熱見我軍人少，便率領全軍追擊。我軍伏兵齊出，攻其不備，吶喊聲猶如驚雷，吐蕃軍不戰自潰，我軍生擒論莽熱，俘獲其十萬名士兵，殺死一半。這年十月，韋皋派人將論莽熱獻交朝廷，德宗數落他的罪狀，然而釋放了他，賜給他在崇仁里的府第一座。韋皋因戰功而加授檢校司徒，兼中書令，封南康郡王。

唐順宗即位后，加授韋皋檢校太尉。順宗長期患病，不能臨朝聽政，宦官李忠言、侍棋待詔王叔文、侍書待詔王伾等三人預干國家大政，大小事務均由他們隨心所欲地處理。韋皋便派度支副使劉辟私下拜謁王叔文說：“太尉派我向足下表示誠意，如果能夠使太尉總管劍南三川，必有重謝；如果不留意此事，也會有回報的。”王叔文大怒，打算殺了劉辟以警告效法者，韋執誼堅決勸止了他，劉辟便偷偷離去。韋皋知道王叔文不隨和人情，又知道他與韋執誼有嫌隙，自認為大臣可以議論國家大政方針，便上表請求皇太子監國。又上書于皇太子。太子以優寵的敕令答謝了韋皋。而裴均、嚴綬的箋表也接著送達，從此政柄歸于太子，王伾、王叔文一黨全被驅逐。

同年，韋皋暴病而死，時年六十一歲，追贈太師，輟朝五日，謚號忠武。