凯发k8娱乐官网 恒生电子白硕:大模型商业化不能“裸”奔 要打通AI落地“最后一公里”
浏览: 次 发布时间:2024-03-10 02:20:16
恒生电子首席科学家•…☆••、大模型产品总监白硕告诉上海证券报记者★○★,-◁○…▪□“裸■◁▽”的大模型在垂直行业没有太多的生存空间•★▲◇□,恒生电子金融大模型是以通用大模型为技术底座△•▽●▲,在此基础上对接行业主要应用数据和专业内容•●★☆●,从而▼☆“站在巨人的肩膀上△▼■…☆●”•●=,更好地去解决金融大模型的场景应用问题□•▷。
经过前期调研■▼,目前LigthGPT重点在投研-△•△、投顾◇▲•◆、运营▷●○◁、合规四大领域进行了大模型研发和探索=□☆,以促进这些应用场景的产品率先落地•▷▽●•。对于金融行业而言■▪,△=●▼◁“安全合规▼▲”是金融大模型应用的基础■△-▪=。针对生成内容的可控问题○▷▲◁★,LightGPT构建了包括语料安全▷○=、模型安全•▽△▪△、模型评估等在内完善的安全机制◆•▪,从八大评价维度确保大模型生成内容的安全合规••△▪•,符合中国金融市场的监管要求◇▲◁★-。
目前…▲,恒生电子基于光子打造了多款大模型应用产品▪◆…○▷。据白硕介绍-▲△•,目前光子赋能下的智能产品可以分为重塑和嵌入两种模式◆◆☆○。重塑是指基于大模型能力重构应用△●■■◁,重塑业务流程和服务模式•●▪◁★;嵌入是指通过光子将数据◆◇、应用□◁、知识库等资源组装成各类插件◆■▷◁,将大模型能力无缝集成到原有程序和应用中•△=,为业务系统注入AI力量=▪■。
◁☆△■“光子本身就是一个架构•▪★◁•-,它可以连接各类组件和插件-●,包括大模型也是它的一个组件☆◁◁,我们并不认为大模型就是核心○=▼▼▼…,★◇△”白硕坦言△◆,•○…“在提升大模型整体表现的过程中▷◁,除了提升本身的技术和数据质量外△-,还包括把更优质的数据放到更合适的部位☆◆,加强大模型跟其他组件的对接能力★▷--…,让合适的组件提供合适的服务○••=★,而不是让大模型无所不能◆△,这样才能构筑良好的大模型生态▷★•◇。◆○▷◆□”
他同时呼吁◁☆○,针对目前算力问题◁□★◆■,当前国内承载大模型的已有算力或处于一种分散状态▷■◁▲■,使用量不够饱满…-▽;未来是否有可能通过行业协作方式…•○,把算力集中起来▼••☆-,以行业的方式统一提供服务-…■▷△,让更多的金融机构获得使用大模型机会◁□▽▲-▽,加速大模型生态发展●▼。••“生态形成得越早★◇▼▲●,AI应用就越有优势◇★。△◆●▼▲★”返回搜狐○△,查看更多
二是应用▽▲●,LightGPT有广泛的机会与各类金融场景创新进行有机结合凯发k8娱乐官网○□●◆▪●。相较于其他金融大模型□■=◁★,恒生电子于6月底率先推出金融智能助手光子□▼•,和大模型共同完成金融任务□▪●。旨在解决大模型和实际应用之间的连接问题▽◁◇,串联了=▲“通用工具链+金融插件工具+金融数据+金融业务场景▽=◆▼”△◁▲,
上证报中国证券网讯(记者 温婷)大模型时代••▼●,新场景新产品层出不穷◁△◆◆▷,而金融大模型的探索已经呈现出百家争鸣状态▼▲=。日前★=,恒生电子发布金融大模型LightGPT最新的能力升级成果=••,以及基于LightGPT打造的多款光子系列大模型应用产品◆◆▲,并宣布正式开放产品公测■◆◁◁。
白硕以投顾☆△…▲○、投研两大核心金融场景为例□☆◆-▽,具体阐释了LightGPT在金融专业领域的能力优势▪▲•☆。在投顾场景中▪=●△○,LightGPT通过增加1200多万tokens专业投顾语料◁△=,减少日常语料占比以及12类任务指令微调▪•★▷▼▲,应对金融术语口语众多□○、知识幻觉▲○▪▷▲、监管严格等挑战凯发k8娱乐官网☆△▲▽◆•,在安抚话术生成•■▪▲-◁、客户意图识别◆■…▲◁、实体识别=-☆、Json识别能力等方面平均超出国内通用大模型13%◆☆。
日前☆•…▷▼,恒生电子公布了LightGPT自6月底发布以来的升级成果▲-●。据白硕介绍▲▲●★-,目前▽○★••,LightGPT在整体模型效果上提升15%▼=■▷-★,安全合规性上提升13%☆=▷▼▪□,推理速度上提升50%••▽■,并面向金融机构实现LightGPT-7B的开源■▷…••,推理和训练全面适配华为昇腾系列▽•○△。
基于恒生在大金融领域全面的产品体系▲▷◆◆◁,原标题•▽△:恒生电子白硕▼◇▽▲■▲:大模型商业化不能□▪◁“裸▼□▷☆”奔 要打通AI落地▽☆“最后一公里◁=●”基于金融行业的大模型应用需求=•▷•●,LightGPT主要有两个方面特色☆-☆-:一是数据◁☆,打通金融领域AI应用的□★▲■“最后一公里△▲■□■”…◇•▼。LightGPT会连接恒生聚源全部的金融数据▷▼•◁-▽,包括历史数据◇…=◇★=、实时数据等○◇,白硕表示◇□-…▼…,定位为金融应用对接大模型的=▲◇…★“中控☆▷=▷”部位■▲■▽。
白硕表示…◁,接下来◁★=▪★=,恒生电子将进一步完善光子智能生态•▼…▲■,基于光子持续构建智能产品矩阵★○。一方面☆★▷,持续发布和公测大模型应用新品★●△,如面向金融业务岗前仿真培训的光子·问学●△•=,面向业务数据智能管理的光子·数见▪-▪★,面向会议语音内容生成行动AP的光子·会悟等◁○;另一方面凯发k8娱乐官网-…,加快恒生原有业务系统的光子插件嵌入□-▷▪▲□,让光子成为真正的业务智能助手★◆。
恒生电子董事长刘曙峰表示★◇,当前金融行业对于大模型技术的关注度和参与度很高=▷,但在大模型实际落地过程中主要存在模型选择难□•▼▪、算力供应不足▷■○•★☆、应用成熟度不足等问题◇★☆。
作为一款专为金融领域打造的大语言模型▼◆,LightGPT基于海量金融数据训练而来▪□•☆▼。经过近4个月的打磨▲○▽☆△•,对金融相关问题的理解和金融任务的处理■•…☆★△,比通用大模型更有优势○•▲=,更适合金融专业场景的应用凯发k8娱乐官网■-●▽。
在谈及大模型的商业化路径时△▪☆★,白硕坦言▷…▽-,▷▪“裸◆▼”的大模型在垂直行业没有太多的生存空间▪☆▷☆▽◆,也很难实现商业化★▲◆,无法体现大模型的专业价值-…▲▽■◆。只有与其他专业工具◇★○◆▼▷、插件和相应资源相结合●▪◆■•,才能创造商业闭环★-●■。而未来金融信息系统的升级换代需求中△□◇•,就有了大模型提供嵌入式增值服务的空间■■。