C114门户论坛百科APPEN| 举报 切换到宽版

亚星游戏官网

 找回密码
 注册

只需一步,快速开始

短信验证,便捷登录

搜索

军衔等级:

亚星游戏官网-yaxin222  少尉

注册:2015-11-142
发表于 2024-11-3 23:40:25 |显示全部楼层

亚星游戏官网-yaxin222
智东西
编辑 ZeR0
编辑 漠影


智东西11月3日报道,在本周举行的2024红帽论坛上,企业级开源解决方案提供商红帽企业展示了其如何用开放混合的AI和开源方法加速企业AI应用。

今年是红帽在中国的第二十年。红帽全球副总裁兼大中华区总裁曹衡康谈道,用混合开放的模式来开发AI已成为一个必然趋势,红帽在基础架构上采用混合云模式,支撑本地数据中心、公有云和边缘计算环境的运行,并支撑开源和闭源模型,从而为企业提供灵活选择。

亚星游戏官网-yaxin222


2024红帽亚太创新奖以“解锁下一步”为主题,表彰了通过开源技术推动转型和创新的客户。在当日论坛期间,2024红帽亚太创新奖中国区获奖名单正式公布,奖项授予安利(中国)有限企业和西门子工业自动化产品(成都)有限企业,以表彰他们在创新运用红帽解决方案应对不断变化的业务需求方面的卓越表现。

亚星游戏官网-yaxin222


《2024年红帽全球技术趋势报告》显示,亚太地区企业的首要投资方向集中在构建云原生应用、提升数字用户体验以及加速应用和服务的交付。这些数据突显了创新解决方案在数字化转型、混合云基础架构、云原生开发、自动化以及企业敏捷性五大关键领域中的重要性。

会后,西门子工业自动化(成都)有限企业信息技术部经理杨健、多位红帽大中华区高管与智东西等媒体进行了深入交流。据曹衡康分享,去年红帽业绩创下历史新高,今年也继续呈双位数增长,其增长来自于越来越多的企业接受开源技术、认识到开源的优势。在他看来,AI发展的关键在于应用场景,这也是红帽专注探索的方向,红帽在传统的数字创新和数字转型领域同样将产生更多的应用案例。

亚星游戏官网-yaxin222


一、稳定、安全的“小模型”:减少所需算力与成本,符合企业特定需求

红帽全球副总裁兼大中华区总裁曹衡康谈道,红帽的理念不仅是创建和使用开源模型,更在帮助企业构建个性化模型。

过去两年,全球资本大举投入基础建设,但未见显著成效,许多企业应用仍未落地。此前,不少企业尝试用大模型提升效能,但发现大模型不适合生产场景,因为一点小错就可能带来风险。因此,红帽在过去几年提出了“小模型”概念,即专属模型(faithful purpose),让企业的数据驱动AI模型的生成,确保模型稳定、安全,并符合企业的特定需求。

通过“小模型”概念,红帽可以快速将客户的常识库输入到模型中,无论采用何种模型架构,都能通过深度数据的方式生成企业的专属模型,从而快速搭建适合客户的特有模型。

红帽还引入了“社区版”小模型,通过合成数据大幅减少对真实数据的需求,将数据量降至原来的千分之一。这种方式不仅降低了算力需求,节约了成本,能耗也大幅减少,对环境更加友好。

围绕推动开源AI发展,曹衡康分享了“三步走”策略:

第一步,通过各种市场渠道,推广AI的独特功能和优势。一个新技术要进入市场,需找到成功的应用案例并加以推广。

第二步,通过合作伙伴生态,赋能合作伙伴的技术和顾问团队,使他们更深入地了解红帽的AI技术,从而更好地支撑客户。

第三步,通过开放实验室,与客户的顾问团队合作,针对企业的研发、生产、市场行销和客户支撑等环节,与客户共同探讨如何将AI技术应用到实际场景中,一起找出最具效能的应用场景,从一个小应用成功起步,逐步扩展至更大的场景。

红帽的AI产品包括语言和代码模型。红帽大中华区方案架构部总经理王慧慧先容了红帽AI平台方案。她谈道,从产品发布到原型验证、试点到正式生产部署需要一定时间。红帽的AI产品从美国发布到现在仅5个月,已有多个客户开始复制该成功经验。

亚星游戏官网-yaxin222


据她分享,一家保险业客户已使用红帽的AI技术来加速代码审查和代码合并请求的处理。他们之前使用旧工具时存在准确率低的问题(当准确率低于95%甚至96%,尤其在生产环境中,效果不理想),在引入红帽的新AI工具后,代码合并和审查的准确率提升,达到了这家客户的高标准。

曹衡康补充说,红帽内部也在使用AI来优化客户支撑。例如在客户查询常识库时,红帽通过AI提供最佳解决方案,其工程师在项目交接或技术总结时也使用AI生成报告,有效减少了重复沟通,提高了效率。

二、加速与本土开发商共创,助攻西门子制造业架构转型

红帽大中华区资深市场总监赵文斌谈道,场景应用是ISV(独立App开发商)和AV(应用供应商)最擅长的领域。由于许多企业和行业都有各自的特点,红帽加速了与本土ISV及方案开发商的合作。在市场拓展中,红帽也特别关注共创模式(co-creation)。通过与ISV共创,结合各行业的独特场景和联合解决方案,红帽可以帮助企业更快地实现AI应用落地。

西门子工业自动化产品(成都)有限企业是2024红帽亚太创新奖获奖机构之一,是西门子德国安贝格(Amberg)的姐妹工厂。它通过部署红帽OpenShift,打造了新一代集成、灵活且弹性的生产支撑系统MEMO(制造运营模块化生态系统)。该系统显著提升了生产线工人的用户体验和工作效率。

西门子工业自动化产品(成都)有限企业信息技术部经理杨健分享了与红帽合作的感受,在采用红帽的解决方案后,他们实现了从单体架构向微服务分布式架构的转型。杨健认为,这种转型是制造业未来发展的一个趋势。

许多制造业企业的应用系统原本采用单体架构,这种架构在维护时可能需要停机,对于满负荷生产的工厂来说,停机一小时可能损失几十万甚至上百万。此外,单体架构在功能增加和编译上也很麻烦,整体测试需要耗费大量时间和资源。

而微服务架构可将功能拆分成许多小模块,变更起来更灵活。这带来了几个优势:一是可以在不停机的情况下进行维护、升级和变更;二是每次变更可以针对更小的范围,便于精准控制和资源调度。

杨健回顾说,与红帽的合作非常顺畅,相比其他供应商,红帽在响应速度和责任感方面表现突出。这种共创的模式和合作环境非常宝贵,也是他们选择并继续合作红帽平台的重要原因之一。此外,红帽论坛期间展示许多平台、解决方案和产品也给他带来了启发。

西门子在AI领域已经看到了很多优质的解决方案和思路。比如西门子很早就开始应用小模型,尤其是在生产领域,比如机器视觉。以垃圾分拣为例,原材料加工后产生的垃圾有金属、塑料和纸张等,以前的机器人视觉识别准确率只有大约85%,西门子通过小模型训练将准确率从85%提升到95%以上,大幅提升了分拣效率。

小模型非常适用于生产,是因为应用和场景单一,错误率低,能保证质量和过程的可控性。而大模型有时会出现的幻觉问题在生产应用中存在风险,因此西门子当前对大模型的应用保持探索并较为谨慎,希翼通过持续优化,使大模型更可靠、可信且全面。

杨健称,下一步,除了继续在微服务平台上探索外,双方计划在虚拟化领域展开更多合作,希翼借助红帽的虚拟化技术替代部分现有方案,未来也将研究如何将红帽AI平台更好地整合到西门子的资源体系中,进一步优化制造流程。

亚星游戏官网-yaxin222


三、向企业提供“三步走”AI部署路径,鼓励跨云混合部署

在帮助客户更加快速经济地实现应用落地方面,曹衡康谈道,从成本的角度,红帽的混合云理念鼓励客户在合适的场所部署算力,比如企业内部数据中心、公有云乃至跨多云环境。

亚星游戏官网-yaxin222


去年红帽推出了“Unlock”理念,旨在避免客户被锁定在特定云上,开源架构为客户提供更多弹性和自由度。因此,红帽始终鼓励客户使用红帽的开放平台,以便在任意云和本地环境中灵活切换,满足各种算力需求。

王慧慧提到许多客户反馈说希翼先了解成本和收益,再决定项目的可行性。红帽对此需求非常重视,提出了“分步实施”的策略,即“企业AI应用三步曲”。

亚星游戏官网-yaxin222


第一步,客户可在最小资源配置下试用开源模型和工具,比如在笔记本电脑上用CPU试跑,而不需要额外的GPU卡。

如果测试效果满意,客户可以进入第二步,通过云租用算力进行进一步扩展。红帽平台几乎可在任何云上运行,客户可以选择企业数据中心或外部公有云资源,在确认模型适合需求后,才进入第三步的大规模部署。

第三步,红帽架构支撑跨云混合部署。例如,客户可以在中国使用阿里云,在美国使用AWS,这种多云方案既灵活又经济。红帽的目标是帮助客户实现最佳的投资回报率(ROI),并在每一步提供适配的支撑。

红帽InstructLab是一个用于生成式AI模型开发的开源社区项目,由红帽和IBM联合发起,支撑市面上各种模型,被称作“连接社区和客户的桥梁”。王慧慧说,InstructLab和Granite是一个相辅相成的体系。

亚星游戏官网-yaxin222


设计InstructLab有两个主要目的:一是让客户基于Granite基础模型,使用InstructLab和自身数据训练出符合需求的模型。InstructLab的输出分为“常识”和“技能”,可在企业内部自用。此外,InstructLab还能将常识和技能反馈至上游的管理机构。当管理机构收到客户反馈的更新后,可将其整合到社区版本的Granite模型中,并发布新版本。

红帽的开源平台上几乎所有产品都遵循这种模式。在开源模型领域,这种方法是红帽和IBM首次探索的方向,旨在通过开源社区推动开源模型的持续进步,而不仅仅是开放某个版本的模型。

结语:引领开源路线,将增加本地化支撑

随着AI应用日益成熟与普及,越来越多企业面临AI技术路线的选择,而开源方式能够帮助企业有效降低应用门槛和成本。据王慧慧分享,自2019年IBM成为红帽母企业以来,IBM在开源方面的投入愈发积极,在工作方式和平台选择上越来越倾向开源。IBM将其最初的Watson平台(现称Watson X)逐步开源,接下来IBM和红帽将共同致力于维护开源模型的持续迭代。

IBM和红帽接受来自用户和合作伙伴的反馈和贡献,不断改进模型。IBM不仅限于语言模型,还推出了代码模型等其他模型,持续拓展应用领域,走向更广泛的开源之路。IBM的咨询部门也与红帽保持紧密合作,共同探讨如何通过开源平台帮助客户实现AI应用。

赵文斌补充道,IBM非常敬重红帽的开放性,在合作项目中,IBM是红帽众多选择之一,红帽仍然与其他解决方案保持平等合作。具体来说,许多联合项目都是基于红帽的开源平台,客户需求始终是红帽创新的核心,红帽通过开源方法进行持续集成和迭代。同时,红帽坚持平台的中立和独立性。

在曹衡康看来,地缘政治更加凸显了拥抱开源的重要性。与闭源企业不同,开源技术较少受到地缘政治限制,用户可以随时下载和使用所需的工具。据他透露,红帽下一步将继续扩大与国内企业的合作,已与本土ISV企业建立了多项合作,这些合作涵盖芯片和App等方面,确保其开源路线在国内有更多本地化支撑。


来源:网易

举报本楼

本帖有 1 个回帖,您需要登录后才能浏览 登录 | 注册
您需要登录后才可以回帖 登录 | 注册 |

手机版|C114 ( 沪ICP备12002291号-1 )|联系大家 |网站地图  

GMT+8, 2024-12-23 10:15 , Processed in 0.199945 second(s), 16 queries , Gzip On.

Copyright © 1999-2023 C114 All Rights Reserved

Discuz Licensed

回顶部
XML 地图 | Sitemap 地图