張翅：百煉成金，金融大模型探索與實踐
專題：第六屆中國金融科技論壇
2024年服貿會專題活動之一——“第六屆中國金融科技論壇”于9月12日-13日在北京舉行。阿里云智能集團副總裁、新金融行業總經理張翅出席并演講。
張翅表示，金融行業擁抱大模型是一個不可避免的趨勢。得益于先前的數字化積累，金融機構在接納大模型時比以往更有優勢。回顧過去，阿里云已經與多家金融機構在云原生架構方面展開了合作。現在看來，AI時代的命題就像我們當年面對云計算轉型一樣。我們愿意在這個過程中長期與金融機構合作，明確問題所在，并直接面對，將技術能力和先進性與實際需求相匹配。??
以下為演講實錄：
尊敬的尚福林主席、邢煒會長，以及各位來自各大銀行的領導、專家們，非常榮幸能夠來到第六屆中國金融科技論壇，并有機會在這里分享我的觀點。曾經，我們對于“金融科技”這個詞有所保留，但隨著國家數字金融“五篇大文章”的提出，特別是在大模型技術快速崛起的背景下，金融科技再次成為了行業的焦點。
云計算與金融行業的深度融合，見證了從最初的“云+Fintech”理念到如今銀行核心系統向云原生架構轉型的過程。這不僅是技術層面的變化，更是數字金融邁向智能化新時代的重要標志。今天我們看到數字金融智能化的要求和發展會到一個新的階段，所以我今天分享的主題借用了我們阿里云一款產品的名字“百煉成金”。百煉是阿里云的一款模型工具，通義點金是通用大模型金融板塊的一個部分，這個名稱寓意著中國金融行業從借鑒國外經驗到自主研發，再到今天大模型技術的應用，經歷了一段百煉成金的過程。
阿里云的成立與發展緊密關聯著信息技術的進步，金融行業也是如此。從古老的算盤計算，到信息化時代的曙光，再到數字化轉型的浪潮，直至今日智能化時代的到來，這是一個循序漸進、不斷演化的歷程。每一次技術革新及其與業務系統的融合，都遵循著特定的周期規律，正如Gartner技術成熟度曲線所展示的那樣，技術的發展通常伴隨著起伏波動。
然而，隨著大模型技術的興起，我們迎來了金融行業的新篇章與全新挑戰。在短短的一兩年間，從GPU芯片的普及到算力基礎設施的構建，再到大模型訓練的廣泛應用，技術革新迅速。盡管去年曾上演過“百模大戰”甚至“千模大戰”的熱鬧景象，但現在能夠獨立完成大模型訓練的企業卻屈指可數，這主要是因為在硬件、軟件乃至工程化方面存在著諸多難以逾越的障礙。
盡管大模型正處于蓬勃發展的階段，但其在業務應用領域的突破性產品仍相對稀缺。相比之下，在互聯網時代，諸如社交軟件、游戲、支付工具等應用曾引領潮流，它們以其獨特的功能吸引了大量用戶。然而，大模型至今尚未催生出類似的現象級應用。即便如此，我們依然堅信，大模型技術將成為推動未來經濟發展的全新動力源。
對于金融行業而言，此刻我們需重新審視數字化進程。當數字化轉型步入中期階段時，我們應當思考下一步的方向。過往的經歷包括系統遷移至云端、數據集中存儲、以及云原生架構改造等。然而，我們是否真正創造了預期的業務價值？在評價數字化進展時，我們通常談論的是數字化的滲透率和深度。以數據為例，雖然銀行已完成了數據治理，但數據所發揮的作用并未達到我們的期望值。展望未來，我們有理由相信，大模型或許是解鎖數據真正價值的關鍵所在。大模型的未來發展在很大程度上取決于系統的靈活性和數據的質量，這兩者之間相輔相成。
此前有觀點認為，所有的應用程序都值得用大模型重寫一次。例如，在自動駕駛、終端設備以及設計師輔助軟件等領域，采用端側模型或車載模型后，智能化水平得到了顯著提升。此外，阿里云通過大模型重構了自身的組織文化，利用大模型助手實現了銷售、技術、人力資源及財務等業務線的一體化管理。借助大模型的智能問答功能，我們發掘了以往未能充分利用的數據價值，進而洞察組織和個人在經營活動中的效率與質量。這讓那些不擅長信息技術的HR主管和業務主管也能通過自然語言表達他們所需的數據信息，而不再局限于傳統的報表形式。???
阿里云早在多年前就開始布局大模型的研究與開發。正是由于在前期投入了大量的時間和精力，我們才能夠在最近一年多的時間里，在眾多追趕GPT技術潮流的競爭者中脫穎而出。我們不僅將通義模型開源，還積極與眾多金融機構合作，取得了顯著成果。未來，我們將持續不斷地推出新的模型能力和應用，以期進一步推動行業發展。
我們并不盲目追求大模型的規模，而是更注重模型的實際應用價值。因此，我們不僅推出了大型模型，還推出了小型模型版本，以適應不同場景下的具體需求。我們認為，未來的模型架構應該是大模型與小模型相結合，整個模型系列將會朝著更加多元化和靈活的方向發展。阿里云將持續投入資源，不斷進化，致力于讓更多的企業能夠平等地使用大模型，并將其與自身業務場景緊密結合。
在模型定位方面，我們將其分為兩大類：一類是技術模型。技術模型又細分為兩種：一是傳統意義上的基礎大語言模型；二是多模態模型。在金融行業中，多模態模型尤為重要，例如在處理客服語音、理賠、保險、理財及信貸等業務時，需要強大的多模態語言理解能力來生成和交互內容。多模態語言模型無疑將是未來發展的重點之一，也是中美兩國在該領域競爭的關鍵點。
曾經，我們設想為每一個行業定制一個大模型，但實際上這是不切實際的。行業大模型在準確性和嚴謹性上有極高的要求，而其自身的迭代過程也充滿了矛盾。因此，我們現在更傾向于開發基于行業數據語料和特定主題訓練的小模型，并通過Agent框架進行集成。這樣，可以將金融領域的專業知識整合到Agent中，同時將專業文檔數據和素材納入小模型，通過Agent的方式實現結合，從而推動整個通義大模型家族的全面升級與開放。
模型的能力在不斷發展和變化，通義千問2.5在中文環境下，不僅在文本理解、文本生成、知識問答與生活建議、閑聊與對話等方面超越了GPT-4，而且在安全風險防控上也表現出色。對于大模型而言，我們尤為重視四個核心能力：理解能力、邏輯推理、指令遵循以及代碼能力。
正如前面提到的，目前中國許多企業面臨著算力不足的問題，難以進行大規模的預訓練。為了降低企業和開發者選擇及應用大模型的門檻，阿里云將持續推進開源策略。我們希望通過在大模型方向上的長期戰略投入，推動中國大模型領域的全面發展和技術進步。
模型推理是AI規模化應用的關鍵支撐。算力的成本效益直接影響應用的規模，而對于延時敏感的應用，則需要依賴于就近的推理服務。此外，面對用量波動的情況，還需要具備彈性伸縮和高可用的服務。因此，云計算憑借其卓越的算力調度能力和大規模分布式特性，成為了打造高效模型訓練與推理的理想平臺。???
阿里云“百煉”是一個超低延時的模型推理與服務平臺。在服務了多種類型的客戶后，該產品獲得了長足的發展。過去是統一的API，現在底層是異構算力底座，通過自動擴縮容等諸多方法，幫助客戶在業務的波峰波谷中更高效的管理集群資源，達到降本增效，自動模型壓縮，實現更少資源，更低時延，推理加速，實現動態打包，流水執行。如今，“百煉”推理框架已經在多個行業得到了廣泛的應用。當然，我們也意識到金融行業有著獨特的私有化架構需求，因此我們致力于確保技術應用符合金融行業的合規標準。??? ??
如今，阿里云已成為眾多大模型企業的AI基礎設施。我們希望與更多大模型應用平臺及公司合作，不僅限于原有的業務系統和數據處理能力，更希望在未來與傳統APP、汽車行業、制造業、物流業等各行各業建立聯系，共同探索AI技術的新方向。
在金融行業，我們已經進行了大量的實踐。金融行業的數字化挑戰是全方位的。正如尚福林主席所提到的，如何提升服務的廣度和深度，提高服務質量，金融大模型同樣扮演著重要角色。無論是服務于普通消費者還是小微企業，通過大模型可以提供更為精準和個性化的服務體驗。例如，小微企業提交財務或信貸報告時，大模型能夠更準確地理解其需求。對于中國企業出海，跨境貿易涉及的海關、報關和財務管理等內容，都可以通過大模型來改善服務體驗。此外，金融大模型正在重塑交易鏈路，從客戶服務到核保、核賠等環節，都將通過自動化處理來提升效率。我們提出的“數智化勞動力”概念，是指通過技術替代低效、重復性的工作，而非簡單地裁減人力，從而大幅提升工作效率。
同時，我們也看到了基于大模型的新產品的不斷涌現。許多銀行已經開始嘗試用大模型重構其移動應用。例如，螞蟻集團在外灘峰會上發布的“支小寶”，就是一個典型例子。這款應用將生活助理和財富助理等功能從支付寶的傳統界面中剝離出來，轉變為全新的大模型交互式手機銀行APP。在這個應用中，無論是查詢個人資產還是進行交易操作，用戶都可以通過自然語言交互獲得個性化服務，不再受限于傳統的點擊導航模式。
金融大模型還將重構金融團隊的運作方式。利用大模型的學習和泛化能力，可以模擬頂級金融專家的思維方式，從而減少對資深專家的依賴。通過這種方式，企業的經營文化和管理模式也可以得以沉淀和傳承。
最終，這些變革將減少公司的事務性工作負擔，提升創造力和效率，這正是AI技術在重塑數字化價值方面所展現出的強大潛力。
大模型在金融行業的應用場景主要包括營銷、風控、客服、運營、辦公以及代碼開發等，這些領域往往對人工操作的效率和質量有著較高的要求。我們真正的目標是：重新思考企業級、金融級的AI原生能力體系。過去更多的是實驗性質，有許多AI大模型專家在進行創新試點，探討大模型的訓練和應用方法。而現在，我們認識到應該按照真正原生的企業級能力體系來進行構建，無論是從模型的研發、推理與運行，還是模型應用的開發、測試及最終部署，都需要從這個角度出發，明確所需的AI能力，并重新設計體系架構。其中，模型安全是一個至關重要的因素。這不僅涉及到大模型本身的防護，還包括使用大模型后整體管理體系的安全。由于大模型可能會面臨被滲透、數據泄露等問題，因此需要進行全面的安全考量。鑒于此，阿里云在推廣金融行業的大模型應用時，并非僅僅著眼于基礎設施的建設、算力的提供或模型的基本發展，而是更多地關注如何構建一個完整的金融級AI原生體系。雖然我們目前仍處于起步階段，但從一開始我們就應該審慎規劃，明確可能面臨的挑戰與問題，然后逐步擴展應用規模。
阿里云通義點金作為一站式金融AI應用平臺，跟那些APP上簡單的問答不同，它把金融的專業性和應用性嵌套進去，具有金融專屬、金融強化、開放生態的特點。
阿里云的通義點金作為一個一站式的金融AI應用平臺，與那些簡單的APP問答功能不同，它融入了金融的專業性和實用性，具有金融專屬、金融強化以及開放生態的特點。
成本、效果與安全構成了大模型應用的“不可能三角”。一方面，我們需要節約成本，避免一次性巨額投資于算力、人才和模型；另一方面，我們也需要確保投資能夠帶來實際效果，證明其業務價值。安全則是另一個重要方面，模型的應用和運行的安全性問題，都是必須綜合考慮的因素。在我看來，云智融合是破解大模型應用的不可能三角的重要路徑。
今天，金融行業擁抱大模型是一個不可避免的趨勢。得益于先前的數字化積累，金融機構在接納大模型時比以往更有優勢。回顧過去，阿里云已經與多家金融機構在云原生架構方面展開了合作。現在看來，AI時代的命題就像我們當年面對云計算轉型一樣。我們愿意在這個過程中長期與金融機構合作，明確問題所在，并直接面對，將技術能力和先進性與實際需求相匹配。??
我的分享就到這里，謝謝大家。
新浪聲明：所有會議實錄均為現場速記整理，未經演講者審閱，新浪網登載此文出于傳遞更多信息之目的，并不意味著贊同其觀點或證實其描述。
相關文章
最新評論