周天虹披露招商銀行Token消耗：5月底日均消耗量達(dá)330億，業(yè)務(wù)部門應(yīng)用為主-焦點(diǎn)
(資料圖)
6月25日金融一線消息，招商銀行今日召開2025年度股東會(huì)。談及大模型編程成本與效益，招商銀行首席信息官周天虹指出，近期廣受關(guān)注的Uber案例分析反映出來的問題是超預(yù)算的Token消耗，主要是消耗在大模型編寫代碼方面，即大模型編程方面的巨大消耗，而不是Uber的業(yè)務(wù)部門把大模型用于Uber的業(yè)務(wù)進(jìn)行管理。
周天虹表示，大模型的出現(xiàn)改變了軟件研發(fā)的模式，當(dāng)前大模型用于編程確實(shí)發(fā)揮了很大的作用，但這個(gè)方向還有大量工作要做，還存在一些比較基礎(chǔ)性的問題。除了成本問題以外，大模型編寫代碼還有兩個(gè)技術(shù)方面的問題：一個(gè)是大型軟件的架構(gòu)非常重要，軟件架構(gòu)目前還是偏弱；另一個(gè)是模型編程即使功能正確率已經(jīng)做得很高了，但依然會(huì)產(chǎn)生不同程度的技術(shù)問題，包括面條式代碼無法閱讀、性能問題、安全問題等，這些問題大模型編程現(xiàn)在還沒有完全解決。
對(duì)于當(dāng)前大模型編程的問題，美國的頭部公司也在更加客觀地看待。周天虹指出，包括Uber以外，微軟、Amazon等美國頭部公司，在內(nèi)部都有Token利用最大化的政策導(dǎo)向，專門有一個(gè)詞叫做“Tokenmaxxing”，但現(xiàn)在他們都在紛紛反思這個(gè)政策，開始做一些調(diào)整。
從招商銀行自身來看，周天虹表示，招行在內(nèi)部軟件開發(fā)方面已經(jīng)在應(yīng)用大模型編程技術(shù)，但總體上是“積極跟進(jìn)、審慎應(yīng)用”的策略。在算力投入方面，招行當(dāng)前用于大模型編程的算力投入，在總算力里面占比只有5%。在今年業(yè)績(jī)發(fā)布會(huì)上披露的Token消耗量主要是業(yè)務(wù)部門的消耗，截止5月底日均消耗量已經(jīng)達(dá)到330億。
標(biāo)簽：
焦點(diǎn)日?qǐng)?bào):MONGOLMINING(00975.HK)6月24日回購79.80萬股，耗資529.18萬港元
