做AI私有化大模型卖水人,白海科技推 [复制链接]

作者

*金琼

编辑

邓咏仪

AI大模型火热半年后，如今国内厂商已经逐步走到落地阶段，一轮“AI产业链”革新也随之开始。

AI大模型已经由于参数大、算力要求高，对基础设施的需求也水涨船高。如今，AI开发、训练、部署、运维等环节都在发生巨大变化，与AI相关的IT产业链——从底层的芯片、数据库、中间件，再到AI开发工具，近期都有不少创业项目浮出水面。

近期，AI工具服务商「白海科技」就推出一站式大模型微调工具平台IDPLM。IDPLM能够以低门槛、高效和可控的方式，来帮助用户构建垂直行业专属大模型。

白海科技是一家云原生AI基础软件平台服务商公司，成立于年，其主要定位是提供AI基础软件平台的产品及服务。白海科技的主要核心产品为IDPAI开发生产平台，能够利用灵活的插件式架构满足AI开发生产的流程需求。

如果说传统软件开发需要软件工程师写代码、进行调试、部署、运维等，都在专有的开发环境，如IDE当中——IDE就如同一个软件“工作台”，一套用来开发软件完整的工具。那么，当大模型时代来临后，AI大模型也需要一个专属的“工作台”，专门用于构建适用于企业的大模型。

而在国内市场里，如今私有化、行业化的大模型正在成为趋势——由于国内的央国企、大公司等在安全、合规、可控要求上更高，在软件采购中常采用私有化部署模式。AI大模型兴起后，在央国企中的部署也会遵循这样的模式。

白海科技近期推出的新产品IDPLM，正是为了这一需求而推出。

成立之初，白海科技就推出了IDPAI开发生产平台，而IDPLM是基于IDPStudio（云原生AI集成开发环境）和IDPEngine（高性能分布式计算引擎）之上推出的新品。通过提供大模型微调工具，IDPLM主要在训练数据、反馈回流数据、模型评估和推理服务商位客户提供服务，来将大模型应用到垂直细分行业中。

白海科技创始人卢亿雷对36氪表示，在产品路线上，IDPLM选择了较为产品化的路线，构建了一个低代码平台，将各种功能进行打包，用户只需要像乐高一样，将不同的功能组合起来，就能完成对AI模型的数据清洗、调用、建模、部署等。

“IDPLM不是只面向工程师，而是主要面向企业的业务人员，比如产品经理、业务分析师等提供服务。”卢亿雷表示，在AI大模型出来后，因为有很多开源的大模型，个人和企业在构建大模型时，总体成本是更低的，以后更重要的是如何应用大模型。但由于AI大模型是新生事物，是面试针对AI大模型的“工作台”其实数量很少，IDPLM的目标，即是填补这一个市场空白。

具体到实际功能，IDPLM在数据的处理、数据标注、数据审核和模型评估方面都提供了解决方案，用户能够用较少的代码一站式完成数据接入、标注、监督微调、反馈强化和模型发布等全流程，以此来进行建模、训练、评估。

IDPLM除了在将大模型微调流程训练工具化外，在数据的处理、数据标注、数据审核和模型评估方面也提供了易用的工具和经验证的高效方法。比如，在数据标注方面，白海提供适用于大模型场景的标注工具，如答案质量打分，答案补充，便捷高效的支持数据的标注和数据的训练应用。

除此之外，由于AI大模型对算力的密度和规模要求很高，在如今算力紧缺的情况下，白海科技也将提升算力作为一个卖点。作为专属可控大模型应用加速平台，IDPLM能够帮助企业快速微调构建自有个性化大模型，以提升算力资源利用率。

因此，IDPLM能够通过上述手段降低大模型微调应用的门槛和冷启动成本，帮助客户高效地部署私有AI大模型与业务场景。并且，IDPLM同时也提供自动化的反馈数据回流与应用让模型持续迭代。

当前，IDPLM已经于4月上线，目前已在交互式数字人、AI问诊等领域服务企业客户。卢亿雷表示，未来，白海科技会持续通过帮助客户落地私有化大模型，来进行IDPLM的商业化。