HPE在本周四宣布了这笔交易,预计交易在本月底结束,之后HPE将把Pachyderm的平台与HPE的AI软件组合整合在一起。总部位于旧金山的Pachyderm公司此前从投资方那里融资了2810万美元。
企业软件团队在训练数据集的帮助下可以开发AI模型。建立新的神经网络后,它的任务就是分析训练数据集,直到学会识别信息中感兴趣的模式。一旦神经网络达到足够高的准确度,就可以部署到生产环境中用于处理实时信息。
工程师用来提高AI模型准确性的训练数据集,通常无法以原始形式进行处理。在部署训练数据集之前,软件团队必须对数据集中可能包含的任何重复和错误记录进行过滤。准备过程通常还包括其他任务,例如将信息转换为可以使用较少硬件进行处理的形式。
准备AI训练数据集的过程是通过一种名为数据管道的自动化工作流程执行的。Pachyderm公司提供了一个平台,可以更轻松地构建数据管道。该平台可以在主流的公有云平台以及企业本地的基础设施上运行。
Pachyderm让开发人员能够编写脚本来自动执行单个数据准备任务,例如删除重复记录等等。然后,开发人员可以将这些脚本组合到数据管道中。Pachyderm使用Kubernetes容器编排引擎运行管道,这样就能够根据AI项目的要求自动添加或者删除硬件资源。
Pachyderm公司表示,他们的平台可以为每个AI项目处理高达TB级的数据,平台可以接收结构化的信息,例如电子表格、服务器日志和其他类型的文件。
Pachyderm对数据管道接收信息所做的更改操作创建了一个记录。工程师通过评估此记录,可以识别管道中潜在的技术问题。Pachyderm公司表示,该平台还能够重现过去AI项目的结果,从而更容易检查这些项目的准确性。
HPE执行副总裁、高性能计算和AI部门总经理Justin Hotard表示:“随着AI项目的规模越来越大,就越来越多地涉及复杂的数据集,数据科学家们需要可重现的AI解决方案,从而有效地最大化他们的机器学习计划,优化他们的基础设施成本,同时确保数据可靠和安全,无论他们在AI旅程的哪个阶段。”
HPE计划将Pachyderm与HPE机器学习开发系统进行集成,这是一个用于训练AI模型的软件平台,该平台基于HPE早期收购Determined AI获得的技术。