电子商务网站开发课程设计论文,网页设计怎样做一个网页,永久8x的最新域名,龙岗企业网站设计公司“走红”近两年后#xff0c;大模型正在加速走进千行万业。
由于大模型的主要模态是文字和图片#xff0c;恰好是数字化办公最基础的内容要素#xff0c;办公于是成了离AI最近的场景。
公文写作、表格生成、提炼大纲、文本翻译、代码润色、数据统计、智能问答……越来越多…“走红”近两年后大模型正在加速走进千行万业。
由于大模型的主要模态是文字和图片恰好是数字化办公最基础的内容要素办公于是成了离AI最近的场景。
公文写作、表格生成、提炼大纲、文本翻译、代码润色、数据统计、智能问答……越来越多的应用正在办公场景落地曾经需要几个小时才能处理的工作现在被压缩到了分钟级乃至秒级。
特别是进入2024年后大模型tokens窗口扩张使得百万字的无损上下文输入成为现实衍生出了阅读论文、搜索网页在海量资料中进行信息整理和分析的新应用场景。AI智能不断涌现要么加入AI要么被AI淘汰成了“打工人”茶余饭后的谈资。
不过要把AI接入办公场景也存在一定问题面对效率和安全企业该何选择的问题
不少企业多年经营留存下了大量的数字资产涉及内部知识、技术文档、经验分享、财务数据、业务订单等等可以说是一家企业“核心竞争力”的源泉。AI存在一定安全风险一旦泄密对于企业来说无疑是“自毁长城”。
既要保障数字资产的安全也想用AI激发出新动能。比较主流的做法是本地化部署即将大模型部署到本地服务器上在数据不外漏的前提下用大模型盘活数字资产向智能技术要效益向私有部署要安全。
理想很丰满现实却很骨感。大模型走进企业需要一系列软硬件支持。摆在企业面前的就是安全、性能和成本的“不可能三角”在算力成本高企的背景下数据安全常常对应着海量的成本投入不想在硬件上投入太大性能不可避免大打折扣。
面对办公AI的“拦路虎”钉钉和昇腾给出了新的解法日前举办的HC2024昇腾产业峰会上联合发布了“钉钉专属AI一体机解决方案通过软硬件的深度协同加速企业智能助理落地。
01 本地化部署的“三重门” 之所以会出现“不可能三角”根源在于AI在办公场景落地时普遍出现的三类痛点
一是数据安全疑虑。
随着越来越多的业务走向数字化企业数据在终端、应用云端、数据中心间流转链路非常复杂导致数据要素的流通风险激增。再加上大模型的“黑箱”问题数据一旦投喂给大模型就无法“撤回”。
早在2023年4月三星就曝出了数据泄露事件。半导体部门的工程师使用ChatGPT修复源代码问题导致内部会议记录等数据以提问的方式上传到了ChatGPT的训练数据库。美国数据安全公司Cyberhaven曾统计160万员工使用AI的情况发现3.1%的“打工人”曾直接将公司内部数据喂给ChatGPT分析。
所以很多企业对数字资产智能化的策略是内网部署、进行物理层隔离从模型、数据、应用等全方位保障企业数据内容安全。
二是成本和不确定性。
本地化部署的代价也很明显涉及算力、运维、模型微调等一系列流程并且存在极大的不确定性。
以算力基础设施为例需要解决CPU、GPU、内存、网络等一连串挑战单单是基本的硬件投入就需要数十万以上的预算。如果要实现长文本阅读等高算力场景意味着百万级、千万级的算力成本。
大模型的微调和部署同样是成本开支的大头。2023年大模型刚走红时模型定制开发的价码一度达到上千万即使是行业回归了理性也需要上百万的费用。另一个不应该被忽略的是市面上的主流大模型往往保持着按月更新的节奏不断有新的能力被挖掘每一次版本更新后都需要重新适配。
三是缺乏落地经验。
拥抱AI是战略层面上的落地应用则是战术层的。在战略上做出正确选择很重要但战术上的挑战一点都不少。因为大模型的落地应用是一个不断试错的过程存在时间周期长、落地成本高的特征。
目前的技术距离通用人工智能还有不小的距离大模型的能力可以应用到哪些业务场景中需要一个个去尝试再根据业务场景的实际表现进行调整测试。何况还存在“懂不懂行”的争论开发者不懂一线员工的需求一线员工不懂AI无形中产生了种种内耗制约着AI的落地进程。
办公AI的落地不单单是一个技术问题也是一个工程问题智能化的能力和行业应用经验一个都不能少。
以上种种问题既是行业内普遍存在的现象也是钉钉和昇腾合作的出发点。双方联合给出的解题思路正是“钉钉专属AI一体机”在昇腾Atlas 800I A2推理服务器的使能下能提供从算力、模型、数据库到Agent应用开发和场景部署的一站式一体化落地解决方案让AI的落地企业不再是复杂的系统工程而是开箱即用的服务。
02 “112”的协同效应 面对希望快速落地大模型应用、数据安全敏感度高、担心成本大的企业诉求钉钉和昇腾能否给出最优解
在回答这个问题前不妨先了解下钉钉的AI探索。
截至2023年已经有2500万组织、7亿用户使用钉钉。隐藏在数字背后的恰恰是钉钉在办公领域的全场景布局涵盖协作、沟通、知识等高频场景不仅意味着钉钉对企业办公场景需求和痛点的深刻洞察也让钉钉拿到了AI时代的“入场券”探索大模型在办公领域的应用前景。
可以找到的动作有很多。譬如2024年初的新品发布会上钉钉把焦点留给了AI Agent用户只需要简单配置即可实现智能问答、图像生成、内容创作、数据统计等能力。
过去的大半年时间里以钉钉为底座的AI产品和方案不断涌现从底层的大模型到RAG、混合云部署在内的学习调优再到简单高效的Agent创建和深入知识、人事、市场、销售、产研等不同场景的Agent应用其中就包括针对企业数字资产的专属AI解决方案和智能应用。
比如面向数据资产的ChatBI可以用自然语言随时随地查询经营数据实现了“所想即所见”的高效率 比如面向知识资产的ChatMemo先让大模型学习专业文档、融合图谱与向量即可提供专家级回答 再比如面向应用资产的ChatForm配合宜搭的无代码搭建能力拖拉拽就能打通数据创造智能应用…… 不难得出这样的结论钉钉的方案和能力可以满足企业数字资产向智能要效益的绝大部分需求。有了这种被千万组织、数亿用户验证过的办公AI本地化部署方案企业AI转型就不再需要从0到1“重复造轮子”。
而深耕AI框架、算子、计算架构、网络等根技术的昇腾接棒了高性能算力、高能效硬件、智能运维等基础设施。
在硬件方面钉钉专属AI一体机搭载的昇腾Atlas 800I A2推理服务器支持百亿级LLM大模型推理并可以面向中心规模部署实现保障业务SLA要求下的最大有效输出。
在软件方面 MindIE推理引擎提供针对大模型的推理、训练可以提供通信加速、解码优化、量化压缩、调度优化等能力全方位保障钉钉专属AI一体机的模型推理性能。
其中在14B-70B大模型的推理场景下钉钉专属AI一体机的W8A8量化压缩比W8A16提升了40%通过HCCS多级通信优化绝大部分模型的吞吐平均性能达到了友商的1.5倍。
同样的还有白屏化部署功能在大模型的部署过程汇总用户无需关注背后的技术复杂性和操作细节而是在图形化的界面上一步步点击、配置、安装大幅降低了模型部署的门槛让企业更方便地接入。
钉钉的大模型和场景优势遇到昇腾的底层软硬件能力碰撞出了112的“协同效应”从硬件到软件的深度协同优化帮助企业快速、高效、稳定地落地大模型应用加速生产、销售、研发、管理等环节迈向数智化 “一键”挖掘企业数字资产的价值。
03 联手打破“不可能三角” 最后必须回答的问题是钉钉专属AI一体机都有哪些落地场景能够给企业带来什么样的价值
我们找到了一些真实的落地案例。
第一个是知识助理。
钉钉专属AI一体机对企业的产品资料、技术文档等进行学习后扮演起了“销售助理”的角色帮助销售人员快速整理产品资料以对话的方式对比不同型号产品的差别、解答产品的应用场景进一步提高销售人员的工作效率。
衍生出的场景还有很多。比如面向售前的智能导购根据消费者的描述和需求筛选推荐最适合的产品再比如销售陪练以陪练的方式对新入职的销售人员进行水平测验迅速成为“老司机”。
第二个是管理助理。
过去有出差需求时需要先提交出差申请通过后人事预订机票和酒店整个过程至少需要三四个小时。现在可以将相关权限下放给AI助理只需要语音描述出差的时间、地点即可自动完成机票和酒店的预订。
以及困扰无数职场人的会议室预订需要和每一个参会人员沟通时间然后在OA平台上逐个查看哪个会议室是空着的。有了AI助理后只需要确认参会人员名单就能根据大家的日程安排自动预定会议室和会议时间。
第三个是生产助理。
在生产制造环节一个普遍问题是操作人员的不规范常常需要人工指导监督其实可以在AI的指导下帮助生产人员明确生产流程的具体操作严格遵循质量控制标准保障生产过程的合规和高效。
相似的还有智能检修场景在AI的辅助下按照正确的步骤进行故障排查结合历史维修记录快速判断故障点甚至是获得故障预测和解决方案通过经验和知识的快速复用提高设备的检修效率。
可以看到钉钉专属AI一体机的落地场景并未局限在公文写作、表格生成等简单场景深入到了销售、管理、研发、生产、维修等企业生产运作的每一个环节而且在每一个环节都释放出了新的价值。
也就是说曾经阻碍AI本地化部署的“不可能三角”以“降维打击”的方式被消除了并且迸发出了源源不断的新质生产力。
把视角再放大一些的话诸如此类的合作远不止办公。
仅仅是在不久前举办的华为全联接大会2024上华为就与科大讯飞、交通银行、钉钉、360在内的21家伙伴和客户基于昇腾AI基础软硬件平台联合发布大模型推理行业解决方案覆盖了互联网、金融、政府、政务、制造、媒资、交通等行业。
另一个不应该被忽略的信息点在于在“开放、利他”的理念下昇腾AI已累计培养3万多名原生开发贡献者2000多家应用伙伴孵化了4000多个行业解决方案……言外之意钉钉专属AI一体机等产品的想象空间远未触顶将不断被赋予更多的能力和价值。
04 写在最后 年初的时候就有不少人预言2024年将是大模型推理元年。
回头来看预言不仅得到了充分验证还出现了此前未曾料到的“奇迹”。在钉钉专属AI一体机等产品的帮助下AI打破了数据安全、成本、落地门槛高等重重阻力让AI Agent在越来越多行业生了根、发了芽。
