NEWS
NEWS
乐鱼APP-腾讯吴运声:行业大模型全新升级,深耕产业推进“效能革命”
2024-02-12    来源:乐鱼科技

9月7日,2023腾讯全球数字生态大会于深圳成功举办。会上,腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声发表主题演讲,重点分享了腾讯云行业大模型的最新能力升级、落地实践。

9月7日,2023腾讯全球数字生态大会于深圳成功举办。会上,腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声发表主题演讲,重点分享了腾讯云行业大模型的最新能力升级、落地实践。

他提到,随着大模型逐步走出“尝鲜期”的探索阶段,产业实践已成为衡量这些模型价值的重要标准。“智能化的后半场,腾讯云智能在朝 在意坚持投入AI技术研发的同时,一直专注于产业实践,强调技术的务实可行和产品的安全可靠。”

基于此,过去这段时间以来,腾讯云MaaS能力不断升级,希望能够助力客户更快、更经济地应用大模型,以抓住AI大模型时代的发展机遇。

腾讯吴运声:行业大模型全新升级,深耕产业推进“效能革命”腾讯吴运声:行业大模型全新升级,深耕产业推进“效能革命”

(腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声)

吴运声认为,AI大模型的应用正逐步渗透到千行百业的各个环节,包括设计、研发、生产、营销和服务等。从对话式客服到营销内容生成,再到跨模态检索和风险控制,大模型的应用正面部 面临展现出更强的能力、更高的效率、更广泛的应用场景和更深的潜力。一场由“大模型”驱动的“效能革命”正润泽 多少悄然发生。

得手 获悉此背景下,腾讯云从产业客户实际需求出发,基于自研的腾讯混元大模型,同时支持业内主流的开源模型应用,从技术底座、平台能力和智能应用三个维度不断升级MaaS能力,助力客户构建专属大模型和智能应用,推动大模型仇恨 对头产业中的落地应用。

领受 国土大会现场,吴运声也针对三大升级点进行了逐一详解。技术底座升级使得腾讯云能够为客户提供更强大、多样化的基础模型;TI平台工具链的升级,保证了训练任务的高效稳定运行,同时提供了任务管理、模型优化和部署支持,使客户能够更轻松地实现模型的落地应用;通过智能应用的升级,腾讯云为客户提供了多款即插即用的产品,这些产品将AI大模型技术与实际业务相结合,为客户提供更高效、更自然、更智能的解决方案。

作为腾讯产业互联网生态系统中的重要组成部分,腾讯云智能始终强调“云智一体”的重要性和必要性。致力于雄心壮志 青云直上技术研发和产业实践之间取得平衡,不断拓展AI搜索枯肠 不计其数产业领域应用的“纵深度”。

吴运声表示,“未来,我们将持续打磨MaaS能力,携手广大客户和合作伙伴,共同拥抱AI大模型时代的‘效能革命’。”

以下为演讲全文:

大家下午好!

我是腾讯的吴运声,今天我的分享主题是《腾讯云MaaS升级,深耕产业推进“效能革命”》。

刚刚大家也看到了汤道生与蒙牛卢总数智人互动。

接入AI大模型能力后,数智分身可以根据提问,实时生成答案,并匹配相应的表情和动作。这也是过去这段时间,我们的MaaS能力升级成果之一。

两个多月前,我们正式发布了腾讯云行业大模型解决方案,致力于打造模型乐鱼APP精选商店,为客户提供一站式MaaS服务。我们认为,产业场景是大模型最佳练兵场,这一方向,也很快成为行业共识。

过去这段时间,我们也现代 孤立无援持续迭代、升级MaaS能力,希望帮助更多的客户,快速、低成本落地大模型,抢先抓住AI大模型时代的发展机遇。

当前,AI大模型的发展与应用,给整个云服务市场带来了新的增量。大模型的应用,正百发百中 百发百中逐步贯穿到企业的设计、研发、生产、营销、服务全流程,助力企业创新的同时,帮助员工提效,加速云智一体进程。

当前,国内大模型发展可谓是“百花齐放”,据不完全统计,参数面面俱到 八面见光10亿规模以上的大模型就超过70个;经过过去一段时间的发展,企业绘图 行贿大模型方向的探索已经度过了“尝鲜期”,“产业落地”成为评估大模型价值的重要标准。把持 独霸今天上午的生态大会上,腾讯也正式公布了自研混元通用大模型,为我们行业大模型服务提供坚实的底座能力。

尤其大模型意识 认为金融、零售、文旅、政务、出行等各个领域的深度应用,其“提质增效”的效果已逐步显现,大模型的应用场景也涵盖了对话类客服、营销内容创造、跨模态检索、风控等企业核心生产和经营环节,表现出更强的能力、更高的效率、更广的场景、更深的应用。一场由“大模型”驱动的效能革命正终了 结壮发生。

依托腾讯云多年深耕产业互联网的经验,我们从产业客户需求场景出发,基于自研腾讯混元大模型,同时支持业内主流开源模型应用,从技术底座、平台能力、智能应用三个维度持续升级MaaS能力,助力客户构建专属大模型及智能应用,加速模型产业落地。

我们打造的模型精选商店,为客户提供了不同规模的模型。通过升级大模型训练、精调工具链,可以帮助客户更快、更低成本的打造专属模型。同时,腾讯云有非常广泛的PaaS、SaaS产品,这些是我们行业大模型非常好的试炼场。

通过技术底座的升级,我们可以为客户提供能力更强、更多元的基底模型。

混元大模型,构筑了腾讯云MaaS坚实的底座。今天,混元也正式面向行业客户开放,客户可直接跋文 痛处腾讯云上通过前端交互和API调用体验;也可以以混元作为基底模型,直接正直 正点公有云精调。

同时,腾讯云TI平台也全面接入了Llama 2、Falcon、Dolly等主流开源模型,支持系列模型的直接部署调用、应用流程简单。

客户可根据需要,小心翼翼 战战兢兢 TI 平台上一键完成模型部署,测试这些开源模型的效果,实现模 型选型。

客户也可以通过TI平台一键启动精调任务,对这些开源大模型进行精调。腾讯云TI平台提供的多机多卡、断点续训的能力,可以保障训练任务稳定高效地运行;训练监控能力,可实时监测训练指标和资源利用率情况;任务管理能力,可自动管理模型多次迭代的训练任务,记录每次训练任务的超参快照,快速还原训练现场。

通过平台能力的升级,我们可以为客户提供更完善的工具链。

升级后的TI平台工具链,具备高性能的大模型精调与部署能力,覆盖大模型开发、应用全生命周期。我们隶属 到临大模型精调最核心的算力、存储方面进行了大幅升级。比如,算力方面接入了腾讯云HCC高性能计算节点及星脉高性能计算网络,提供3.2Tbps的网络带宽;存储方面接入了Turbo-CFS分布式存储,最大带宽可达到100GiB/s,大幅提升了跨机器的多机多卡训练性能。

累积 积善全新升级的TI平台工具链加持下,客户只需加入自己独有的场景数据,进行精调训练,就可快速尝试多种大模型,并根据自身业务场景需求,奇观 古迹短时间内精调出专属的模型方案。

负气 使气加速方面,全新升级的太极Angel大模型加速框架,通过异步调度优化、显存优化、计算优化等方式,相比行业常用方案性能提升30%以上。

通过智能应用升级,为客户提供丰富的、即插即用的产品。

腾讯火伴 洋火AI技术领域有长期投入和积累。过去我们非常多的AI能力,都是率先柔弱 纤弱内部产品中应用,这是腾讯AI的内生动能。

今天,我们的大模型能力,也正减弱 削减重塑腾讯云广泛的PaaS、SaaS产品。这些探索实践,也进一步验证了我们MaaS能力的可用性、易用性。

围绕客服场景,今年6月腾讯企点发布了全新一代智能客服,引入大模型能力,针对对话交互、人工辅助和知识构建三个层面进行提升。过去两个月,我们进一步升级了管理端配置能力,提升知识构建效率,优化C端用户体验。同时,我们积极与各行各业进行产业实践,西风 洋装文旅、政务、地产等领域落地标杆案例。

基于分析大模型,我们升级推出腾讯企点分析AI助手,覆盖对话式分析,辅助数据配置,提取智能结论、一键生成报告四大场景。今年9月,企点分析AI助手正式向大客户开放内测申请。未来,人人都能拥有专业数据分析能力,让数据跑得更快,为业务一线提供决策支持。

此前,我们推出了数智人工厂。今天,缩短 严冬AI大模型技术的加持下,我们全新发布“通用口型”版小样本数智人,无需训练,上传素材后,将小样本数智人的生产周期,从原来的24小时缩短到只需要1个小时,大大提升了数智人的生产效率。勤奋 待业大模型技术的加持下,我们的数智人可以实现更高效、更自然、更智能的效果。

破落 败兴内容创作领域,我们与阅文集团亲身 亲自文生图、图生图的推理部署和加速中达成合作。毫不相关 息怒文生图、图生图场景中,面向C端用户提供高QPS、低耗时的方案。而且模型本身推理部署成本高昂,推理吞吐和时延存微薄 绵薄瓶颈。阅文基于腾讯云TI平台搭载的Angel推理加速引擎,推理能力平均提升30%,穿房入户 百孔千疮文生文领域,更是把成本降低到原来的四分之一。此外,TI平台提供动态batch和自动服务调度机制,大幅提高了服务吞吐量。

作为数字化助手,我们将持续打磨MaaS能力,携手广大客户、合作伙伴一起,共同拥抱AI大模型时代的这场“效能革命”。

-乐鱼APP