李彦宏给出“卷”大模型应用的三个姿势
时间: 2024-04-21 13:07:43 |   作者: 企鹅电竞直播在线直播观看免费|世界
企鹅电竞直播在线直播观看免费|世界
技术参数

  2023年是百度在AI大模型狂奔的一年,根据2023年财报各项数据,百度也是国内最先享受到新一代AI技术带来商业红利的公司之一。今年,此公司的新重点是大模型开发生态的建设。2024年4月16日,百度创始人、董事长兼首席执行官李彦宏在Create 2024百度AI开发者大会上提到了一个新说法:“只要会说话,你就能成为一名开发者”。

  开发者也好,程序员也罢,这样一个职业多多少少存在普通人很难一蹴而就的专业门槛。大模型的一个核心功能是生成代码,过去一年多时间里,关于“大模型是否会取代程序员”的讨论始终没停歇。目前的进展来看,对于大部分不懂代码的人来说,用大模型开发应用依然有门槛。这是行业的新痛点,也是百度的新机会。李彦宏认为,这样的门槛应该被进一步削低。

  至于如何削低门槛,百度的方式是在这次大会上发布三个AI开发工具,智能体开发工具(AgentBuilder),AI原生应用开发工具(AppBuilder)和模型定制工具(ModelBuilder),希望能进一步削低应用开发门槛,最终实现“人人都是开发者”目标。

  AgentBuilder是三个工具套件中门槛最低的套件。它能轻松实现“一句话开发”,无论是专业的企业开发者,或是不懂代码的个人,都可以用一句话建立自己的智能体。例如,家长输入“创建一个小学数学老师”,就可以生成一个用于辅导小孩功课的智能体。智能体相当于大模型中的应用插件,可以同时生成多个,并协同工作。

  AppBuilder同样不需要开发者有专业代码能力,使用自然语言就可以开发应用。开发的人能通过给应用起名、填写应用功能、插入工具组件,三个步骤就可以生成一款应用。

  ModelBuilder则更适合于专业开发者,大多数都用在根据不一样的需求定制不一样的尺寸的模型,并根据细分场景对模型进行精调。百度在其中预置了多种大模型,包括百度自研的文心3.5和文心4.0和多个轻量级大模型,以及国内外第三方的主流大模型,共计77个。今天,调用大模型的成本依然高昂,在不同流程中使用大小不一样的尺寸模型搭配,能够在一定程度上帮助开发者控制成本。

  百度于2023年3月推出文心一言大模型,百度的最新多个方面数据显示,文心一言用户数量目前已超越2亿,API(应用程序接口)日均调用量超过2亿次,服务客户约8.5万。这在某种程度上预示着中国每100个人里,有14个人在使用文心一言。用户量的稳定上升,支撑了API调用和客户数据的提升。

  年多时间过去,中国大模型产业目前已经从“卷参数”进入到实际应用阶段,多位接受我们访谈的专业技术人员的一个共同观点是,大模型产业目前处于“行业内很热,行业外感知不明显”阶段,打破这堵墙的力量很简单——要么有用,要么有很多有趣应用。

  李彦宏多次在公开场合强调,大模型本身不直接创造价值,真正的机会在于应用。

  事实上,互联网程序应用开发门槛在过去十几年间一直在降低,新技术层出不穷,让“应用开发”这件事越来越大众化。但目前的技术发展依然没有实现“零代码”开发,大模型是一个新的技术契机,机器可以把人类语言转化成代码,自然语言和机器语言之间的壁垒被打破。

  即便如此,对于大部分人来说,要在大模型环境里去开发一个程序,还是存在挑战。除了不知从何下手,还有成本问题,成本一旦投入,最后效果若无法稳定达到预期,会劝退一人。

  基于这样的背景,百度的判断是,要做到人人都能成为大模型应用开发者,需要做到两点:“把门槛降到最低”是其中之一,仅是简单还不够,还需要有质量,同时做到个性化。在传统的应用开发工作过程中,开发者主要的精力是在收集和研究用户反馈,再基于用户诉求不断做应用优化和调试。未来,这些能力都能够最终靠大模型自动完成。

  举个例子,农民想要用大模型来帮助自身种地,他可以创建一个小助手来制定计划、使用农药,假如发现农作物出了问题,还可以拍照发给小助手来解决。同时,他能定制小助手的声音和形象。这个种地小助手也可以被更多人使用,这样的一个过程中,底座大模型会通过每一次的交互自主调优,让小助手变得越来越专业。

  这看起来更像是一个“订制数字人”的过程,但实际内核是完成了一次“应用开发”。

  专业开发者面对大模型的实际问题并非像外界担心的“人随时被机器替代”。更多专业开发者意识到大模型的潜力,实际难题是不确定要怎么去把大模型技术和业务场景结合起来;或是缺乏高质量数据、算力资源等,很难畅快下手;还有一些专业开发者已经使用大模型,痛点是调用成本过高,觉得不划算。

  大模型需要“祛魅”。一个误解是,大模型是暴力美学的产物,算力越强越好,模型越大越好。但实际业务场景中专业技术人员会发现,多数时候并不是特别需要特别强的大模型来处理问题,考虑到实际需要的效果和成本的平衡,在一些环节用轻量版模型,成本能大幅度减少,例如文心Tiny版的价格是文心4.0版本的百分之一。

  百度深知其中利害,在这次演讲中,李彦宏提到,基于大模型开发AI原生应用的具体思路和工具的开发,是百度根据过去一年的实践“踩了无数的坑,交了高昂学费”换来的。套件的具体应用场景遵循上述逻辑。

  一是MoE。李彦宏称,未来大型AI原生应用基本都将基于MoE架构。需要强调的是,MoE不是通常意义上的学术概念,更准确地说,是大小模型的混用,不依赖一个模型来解决所有问题。何时调用小模型、何时调用大模型、何时不调用模型,需要针对应用的不同场景做匹配。

  其二是小模型。相对于大家看起来“不明觉厉”的大模型,小模型推理成本低,响应速度快,在一些特定场景中,经过SFT精调(在一个已经训练好的模型基础上,通过进一步训练模型的一部分参数,以适应新的任务或数据集)后的小模型,使用效果可以媲美大模型。百度此前发布Speed,Lite、Tiny三个轻量模型就是基于这个逻辑。

  关于小模型,李彦宏认为其有独特价值——通过大模型,压缩蒸馏出来一个基础模型,然后再用数据去训练,这比从头开始训小模型,效果要好很多,比基于开源模型训出来的模型效果更好,速度更快,成本更低。

  第三是智能体。智能体,顾名思义,具有智能的实体,英文名是Agent。以云为基础,以AI为核心,构建一个立体感知、全域协同、精准判断、持续进化、开放的智能系统。智能体能力提升会不断催生出大量新应用。智能体机制,包括理解、规划、反思和进化,它让机器像人一样思考和行动,可以自主完成复杂任务,在环境中持续学习、实现自我迭代和进化。

  智能体还有一个特点,在一些复杂系统中,可以让不同智能体互动,相互协作,更高质量地达成目标,这就好比一个无人机群,能够实现一架无人机难以完成的工作。李彦宏称,百度已经开发出上述智能体能力,并且向开发者全面开放。

  前文提到的智能体开发工具AgentBuilder、AI原生应用开发工具AppBuilder、各种尺寸的模型定制工具ModelBuilder三种不同的工具,是在MoE、小模型、智能体这三个方向上开发提炼出来的。

  AgentBuilder在三大开发工具中门槛最低,被定义为“零门槛智能体开发工具”。

  索菲亚是一个专注全屋定制的家居品牌。家居行业十分注重消费者的线验,索菲亚和百度的合作中有一个诉求——希望能打造出一个线上金牌销售,还原线下接待体验。

  这个小任务基于零门槛的AgentBuilder开发工具完成。索菲亚选择了数字人作为展示方式,然后给数字人选取了合适的背景和声音,并且结合平台的智能解析能力,自动总结了一套销售话术。最终打造出一位温柔亲切、话术专业的金牌销售,她能24小时使用户得到满足的各种需求,提供高水准的服务体验。

  当百度搜索用户有装修诉求时,索菲亚智能体会利用文心大模型的能力,优先给出问题的答案。除此之外,她还会主动与客户确认具体需求,如装修类型、预算等,并推荐附近的线下门店。

  索菲亚给出的一个多个方面数据显示,商家智能体上线以来,“有效线%。也就是说,它获得一个有效客户是70元,过去需要100元。

  这种方式简巧有效。李彦宏称,目前已有超过1万个百度的客户拥有了商家智能体,涵盖了教育培训、房产家居、机械设备、商务服务等超过30个行业。

  今年初,百度在开发者群体里组织了一期AI原生应用开发挑战赛,赛题是利用另一套开发工具AppBuilder打造一款“游乐场排队规划助手”,帮助游客更好地了解游乐场排队情况,设计个性化的游玩路线,在有限时间内获得最好的游玩体验。

  AppBuilder是一款门槛较低的AI原生应用开发工具,原因是百度在AppBuilder内提前封装和预置了开发AI原生应用所需的各种组件和框架,大幅度降低开发门槛。李彦宏称,最快只需三步,开发者就可以用自然语言开发出一个AI原生应用,还可以便捷地发布、集成到各种各样的业务环境中。

  那期比赛的冠军选手用的就是AppBuilder。没写一行代码就开发出了应用,拿到了百度的10万元奖金。

  赛题假定了环球影城各个项目的排队时间和刺激指数,在有限的时间内获得刺激指数最高的体验,是赛题要解决的问题。李彦宏评价,如果会写代码,这个赛题很简单,但一行代码都不写,就考验工具的聪明度了。

  李彦宏强调,和年初相比,AppBuilder现在又进化了,在创建的过程中,全部能够最终靠“AI优化配置”功能,自动帮助开发者优化角色指令、组件配置等环节,进一步提升开发效率。

  百度此次发布的第三套开发套件ModelBuilder,更适合专业开发者使用它能够准确的通过开发者的需求定制任意尺寸的模型,并根据细分场景对模型进一步精调SFT。开发者用好这柄剑的核心是掌握模型精调方法。

  一家教育培训机构利用ModelBuilder来批改作文。作文批改有明确的评分标准,但不同年级对作文的要求和打分标准不同。让机器来批量批改作文,前提是模型精调。

  第一步:创建数据集。模型精调的效果很大程度依赖我们的数据质量。在这个案例中,原始数据只有180条,质量也不够高。我们就要使用到三个功能:数据清洗、数据标注和数据增强。数据清洗,能够迅速去除数据的空缺、乱码等问题。数据标注方面,我们对作文增加了更多维度,比如内容深度、写作手法等评价。数据增强功能,可以生成同类但不重复的数据,进行数据扩充。扩充后,ModelBuilder生成了920条高质量数据。

  第二步:精调模型。选择一个进行精调的基础模型,根据平台推荐值来配置参数,这次数据接近1000条,按照推荐的迭代轮次,配置为10轮,然后进入模型训练阶段。

  李彦宏在现场演示了一篇题为《期待长大》的中学生作文批改情况。现场展示了两个模型及一位老师点评,三者对比的情况。精调后的大模型拥有了更接近专业的老师点评思维,更好地做了格式遵循。不同的是,借助大模型,几秒钟就能够迅速完成一篇作文的批改,极大的提升反馈速度和效率。

  一个新消息是,百度已经把ModelBuilder应用于百度小度中,当用户提问时,对于简单的问题,比如天气、新闻等,小度会调用小模型,对于更复杂的问题,比如日程安排,就会调用性能更好的大模型。李彦宏提到,相比全部使用大模型,大小模型组合能够让响应速度提升2倍,成本下降99%。

  另外,针对具体的业务场景,ModelBuilder提供模型精调样板间,开发的人能跟着样板间一步步来完成,就能得到一个专业模型。在这样的一个过程中,可以直接用平台上的数据集,来完成模型创建。

  应用开发门槛降低后,会有一个新问题出现,那就是原创模型保护以及数据安全。百度的解决方案是,开发者在开发模型时,可以再一次进行选择不把数据提供给任何一方,包括大模型平台在内,也就是说,数据是完全在私域中的;百度也会加大人力投入,加强应用的审核与治理工作。

  对于开发者来说,应用开发只是第一步,更难的是应用的分发、运营和商业化。两位不同平台的开发者告诉我们,开发应用不难,难的是开发一个能赚钱的应用。

  赚钱的第一步是触达用户。以AgentBuilder为例,用户开发的智能体可以直接上传到百度搜索中的Agent广场,另外,百度生态的别的产品,如小度、地图、贴吧等,都能接入智能体。

  李彦宏认为,有分发,就会有数据反馈,这样智能体就能自主迭代,越用越聪明。

  留学教育学习管理机关启德教育,通过简单的设置做出一个具备基本能力的智能体,可以解答用户的一些留学相关的基本问题。再通过调优,比如添加更多专业数据,把不在营业范围内的国家过滤掉,加入预约到店服务等,智能体就从简单的问答功能发展成具备转化率功能的业务工具。

  数据显示,启德教育智能体上线万次,这组数据的背后,启德教育看重的是有效线索转化量直线增长、转化成本明显降低。

  今年3月,李彦宏接受各个媒体采访时提到,2023年他一直在思考大模型究竟能产生多少实际价值,“何时我们能做出上亿用户都在使用的应用,才是大模型真正的价值体现。”

  去年3月,百度发布文心一言时,李彦宏就表示,大模型的机会既不是基础服务,也不是行业服务,而是应用。2023年10月的百度世界大会上,百度发布了文心4.0,但李彦宏并未强调新版模型的能力,而是展示了百度用大模型重构的应用,比如、百度地图等,他当时提到,“希望能激发大家做出更惊艳的AI原生应用。”

  2023年12月,李彦宏再次表示,大模型的进展对于大多数人来说不是机会,应该去“卷应用”。

  只有更多人参与到应用开发中,才更有可能诞生超级应用。百度也一直在持续控制大模型的推理、训练成本。李彦宏介绍,过去一年,文心大模型算法训练效率提升了5.1倍,推理性能提升了105倍,推理成本降到原来的1%。百度希望让更多人可以高效、低价地用大模型来做AI应用。

  李彦宏认为,AI原生应用不是简单的重复移动互联网时代的App,或是PC时代的软件,而是要能解决过去解决不了、或是解决不好的问题。

  机器诞生初期,人机交互时,一定要使用机器语言,口令、代码等,门槛很高。进入PC和移动互联网时代,交互变成了点击菜单、图形用户界面(GUI),简单易操作了很多,但随着机器的功能越来越强大,各类菜单栏慢慢的变多,系统也慢慢变得复杂。大模型时代,人机交互有了革命性变化,只一定要通过自然语言就能处理问题。比如公司想查一下2024年4月各个产品线的毛利率情况,有哪些超过了疫情前的水平,过去在大多数情况下要几个小时来调取数据横向对比,现在只需要一秒钟,机器就能生成表格。

  目前已经有不少开发者通过大模型开发新的应用,他们大多是本身就有技术能力的开发者,已经有一定的“肌肉记忆”,更多时候还是延续着移动网络时代的应用开发路径。当技术不再是开发门槛,就会有更多想象力和创造力可以落地到应用中。返回搜狐,查看更加多

企鹅电竞直播平台在线观看智能指纹锁大家族
企鹅电竞直播平台在线观看致力于成为智能家居系统解决方案的领导者。企鹅电竞直播平台在线观看集研发、生产与销售于一体,为全球用户提供高品质的智能门锁、智能家居等产品和系统解决方案。
粤ICP备05051730号-1 Copyright 2019 © MOLILOCK.(Guangzhou)Co. Ltd