about云開發

 找回密碼
 立即注冊

QQ登錄

只需一步,快速開始

掃一掃,訪問微社區

打印 上一主題 下一主題

[介紹解說] 螞蟻金服有哪些金融特色的機器學習技術?

[復制鏈接]
跳轉到指定樓層
樓主
本帖最后由 passionxxt 于 2019-11-7 15:02 編輯


問題導讀

1.什么是面向海量圖數據的深度學習系統?
2.螞蟻金服的自動機器學習系統是如何運行的?
3.多智能體強化學習系統是怎樣在螞蟻的應用和落地的?





導讀

在9月27日于杭州云棲小鎮召開的云棲大會“金融智能”專場上,人工智能大咖宋樂教授分享了金融特色機器學習在螞蟻金服的發展與應用。宋樂教授是螞蟻金服人工智能部研究員,同時也是美國喬治亞理工大學終身副教授和機器學習中心副主任。他還是國際機器學習協會董事以及多個國際頂級會議的領域主席。
機器學習在螞蟻金服各個場景,已經像水和油一樣滲透,驅動著各種各樣業務的發展。會議現場,宋樂教授詳細介紹了金融特色的機器學習,重點闡述了三方面的技術:面向海量圖數據的深度學習系統、自動機器學習系統、多智體對抗強化學習系統。
以下為演講的文字實錄:

面向海量圖數據的深度學習系統

金融場景和互聯網其它場景不一樣的地方是,其數據是一個巨大的金融網絡。在這個網絡中資金在不同的個體之間流動。資金流動過程中涉及到各種各樣類型的節點,有用戶、商家、公司等角色節點,也有賬號等虛擬節點,還有WIFI設施、終端等設備節點,以及地點等物理節點。同時,這些節點之間的關系和信息交互的類型也可以不同,從而形成巨大的圖。如何對這個圖進行機器學習建模,發現其中的有效信息,是非常復雜的過程。


懂機器學習的同學知道,機器學習要對圖數據建模,首先需要把數據進行向量表征,例如類似邏輯回歸、決策樹等模型都需要先對數據進行向量表征。但圖數據的輸入并不是向量表征,它是異構且不規則的,每個節點的鄰居個數不一樣,連接的關系也不一樣,這需要一個平臺實現圖數據到向量表征的轉換過程,然后再基于向量表征實現各種各樣的機器學習模型。下圖展示了一種通用的圖向量表征框架。


圖數據進行表征學習之后,就可以做各種各樣的應用,例如推薦和決策應用,也可以做一些生成模型。現在有一個在學界比較火的深度學習模型叫做卷積神經網絡,其學習過程就是對每個節點和邊用神經網絡參數化傳播的方式來實現深度神經網絡的建模。

螞蟻金服的圖數據非常復雜龐大,可以涉及到上百億的節點,上千億的邊。怎樣把大體量的數據用起來,進行機器學習建模,需要很好的系統架構和平臺建設支撐。其中包括,怎樣存儲這些圖數據,從而能夠支持快速查詢,快速推理;以及在邏輯層怎樣組織這些數據,是社交關系網絡、資金轉移網絡還是媒介網絡。有了這些數據的邏輯組織和圖數據的存儲以后,還要做通用的算子,包括對圖進行采樣、隨機游走和消息傳播。然后,基于這些算子的構件,我們就可以實現各種各樣的圖深度學習模型,其中既包括基于非監督學習的表征學習模型,也有基于監督學習的表征學習模型。進行表征學習以后,就可以通過機器學習對各種節點、邊的類型進行預測,或者時序行為的預測,以及多重目標的預測。基于這些預測模型,我們可以通過離線學習打分或在線學習打分的方式來支持各種上層金融業務。


針對螞蟻業務海量的數據,除了前面講的平臺的架構設計的思考,還有一些技術上的難點需要解決。我們可能面臨百億級節點、千億級邊,需要考慮怎么樣在圖上快速的查詢節點,并把節點周圍的子圖抽取出來,這里會用到我們的圖存儲系統GraphFlat和PHStore。有了這個以后,需要設計機器學習的算法,譬如隨機采樣的算法,然后把圖數據變成一個稀疏的或者是稠密的矩陣運算,在GPU和CPU上進行分布式計算。


除此之外,為了支持各種各樣的金融場景應用,還需要支持對不同結構的網絡建模。通常金融場景涉及到的網絡可能是沒有屬性的同構網絡;也可能是在風控場景經常涉及的異構網絡,例如用戶和商家之間的資金轉移關系;也有可能是帶有屬性的網絡。我們需要用不同的算法模型來處理不同結構類型的網絡關系,同時無論哪種類型網絡,都可以用一套平臺進行建模。目前,我們已經建設了面向多類型圖數據的算法庫。包括:
  • 面向無屬性網絡的xGrep,可以針對十億級節點,千億級邊,數千億樣本進行訓練,并研發了分布式隨機游走框架和分布式word2vec訓練框架;
  • 面向屬性網絡的GeniePath,這是自適應深度/廣度的圖神經網絡,性能業內領先;
  • 面向異質網絡的HeGNN& IGNN,其層次注意力機制提供金融級可解釋性,可以自動學習異質信息豐富的語義;
  • 面向知識圖譜的KGNN,可對知識圖譜進行表達學習,包括圖神經網絡+圖譜模型。







在金融場景很多時候需要具備可解釋性,因而需要我們對訓練出來的深度模型進行解釋,找出具體是網絡上的哪一條邊或者哪一個節點影響了整個風控系統的決策。為此,我們定義了各種各樣的模型,包括GeniePath可以在深度學習網絡中自動搜尋節點的鄰居,看哪個鄰居對當前的信息節點的風控有影響;或者是基于HeGNN、IGNN考慮不同網絡層次的影響,甚至是比較粗糙的高層次的網絡影響,以及網絡的不同維度的影響。
綜上所述,一個可用性高的深度圖學習平臺需要對架構做邏輯的劃分,同時中間的每個劃分模塊都會有很多技術點,包括系統工程的技術、高性能計算的技術,以及模型算法方面的技術。


上圖是兩個具體的落地實例。首先,我們把圖深度學習應用到營銷場景,通過用戶和商家的歷史購買行為來預測用戶對紅包金額的敏感程度,從而對商家紅包實現個性化定價,幫助商家更好地分配紅包金額,提升營銷資金利用效率,這個方法把營銷的成本降低了8%。我們還把深度圖學習和知識圖譜結合起來應用在企業信貸,提高了授信額度,新增授信額度數百億。此外,深度圖學習平臺還在支付、貸款、保險,財富管理等其他場景中均有各種各樣的應用。
在互聯網金融中,圖神經網絡是非常有用的新技術,也是螞蟻金服大力發展的技術方向之一。

自動機器學習系統

除此之外,螞蟻金服內部有各種各樣的機器學習算法應用場景,每天都有成千上萬的模型在訓練中,但是算法人員投入在模型訓練上的時間和精力是有限的,由于產品紛繁復雜,算法人員既要選擇深度學習的網絡結構又要選擇算法的其他超參,這個過程可能還要加入業務知識;隨著數據體量的增加,還需要在比較短的時間調好模型,對模型訓練的時間要求也越來越高,而傳統的單純依靠人工調參很難滿足我們對于模型更新迭代的效率要求。
為了解決這個問題,我們建立了自動化建模工具AutoML計算平臺,能夠支持讓平臺和算法人員一起協作,從而加速機器學習模型的建模和尋優過程。為此,我們在底層基礎設施之上實現了很多的算法來實現特征自動化、超參搜索、網絡結構搜索以及元學習,從而降低新模型開發的成本。


介紹一個具體的落地案例,叫做autonet,這是針對公司推薦場景大量使用的深度神經網絡算法,基本思想是我們通過將一些以前成功的小的深度神經網絡子模塊自動化拼裝起來,組合構成一個新的網絡結構并尋找更高效的模型:一方面將DNN的網絡結構自動化的構建起來,另外一方面也對最終的建模效果進行提升。產出的模型在相同資源下,和對比的人工設計的模型基本耗時相當,同時在用戶拉新的場景取得了很好的效果,動銷率提升了14%。


此外,AotuML還有各種各樣的落地場景,后面都應用了自動機器學習平臺的網絡結構搜索、超參搜索、元學習,以及一些端到端的解決方案能力。各種業務場景的機器學習模型,都可以通過這個平臺進行優化,提升效率。甚至跨BU的一些業務場景也基于遷移學習來加速機器學習建模的過程。

多智體對抗強化學習系統

上面兩點介紹的是我們的橫向技術如何從底層支持各種場景的機器學習模型。接下來介紹的是多智能體強化學習系統在螞蟻的應用和落地。在實際金融場景中,我們涉及到的節點不是靜態的,例如人和商家的節點在交互過程有博弈、合作、對抗,因此我們要把對抗學習跟多智能體的強化學習結合起來應用在這些場景。例如反欺詐場景和金融支付的場景,都可以用多智體強化學習的方式來建模。
但是,很多傳統的強化學習的方法都是先假設一個模擬器,然后與之不斷進行交互來優化強化學習的策略,例如下圍棋。但在金融場景,多智能體強化學習涉及到的模擬器并不是一個靜態的,可能是一個人或者是一個機構,所以不存在一個明確好用的模擬器,我們也不知道多智體在行為中,其獎勵函數或者是損失函數是什么。因此,使用傳統強化學習硬套金融場景是行不通的,首先要根據現有的金融數據或者是用戶行為數據學習到一個simulator及其獎勵函數,這樣才能在此基礎上進行強化學習。



為此,我們建立了一個多智能體的強化學習平臺,中間用imitation learning的方法來學習用戶的行為特征,以及他的獎勵函數,在此基礎上做各種各樣的機器學習。
這是一個具體的多智體的強化學習在推薦系統上的應用。很多情況下,用戶登錄到一個系統里面,系統會對這個用戶進行長期的檢查、分析和推薦。好的推薦系統的建模方式不是把用戶每次來的行為作為獨立的預測問題,而是把它看成強化學習的問題,這樣的話,我們可以針對用戶長期的獎勵、喜好進行優化,而不是短期的推薦,從而讓用戶長期對推薦的內容感興趣,產生價值。




這是我們在人工智能頂會ICML(2019)上的論文,我們把強化學習這套理論引入到對抗學習里面,用這個方法來學習用戶的點擊行為,以及點擊行為對應的獎勵函數,有了用戶的行為模型和獎勵模型之后,就可以進行大規模的強化學習。


強化學習在螞蟻金服還有各種各樣的應用,我們還在不斷探索和開辟,也歡迎學術界和業界進行更多的交流,共同創新和推動發展。



最新經典文章,歡迎關注公眾號

---------------------
作者:螞蟻金服科技 宋樂
鏈接:https://mp.weixin.qq.com/s/HwGGOaIGysuPY404pRQ4-g



本帖被以下淘專輯推薦:

您需要登錄后才可以回帖 登錄 | 立即注冊

本版積分規則

關閉

推薦上一條 /4 下一條

QQ|小黑屋|about云開發-學問論壇|社區 ( 京ICP備12023829號 )

GMT+8, 2019-11-21 13:28 , Processed in 1.171875 second(s), 30 queries , Gzip On.

Powered by Discuz! X3.4 Licensed

© 2018 Comsenz Inc.Designed by u179

快速回復 返回頂部 返回列表
排球比赛场地