RoboCat的灵感来自于DeepMind的另一个AI模型Gato,后者可以分析和处理文本、图像和事件。RoboCat的训练数据包括模拟和真实机器人的图像和动作数据,这些数据来自于虚拟环境中的其他机器人控制模型、人类控制的机器人以及RoboCat自身的前期版本。
DeepMind的研究科学家李亚历克斯(Alex Lee)是RoboCat团队的合作者之一,他在接受TechCrunch邮件采访时说:“我们证明了一个单一的大型模型可以在多个真实的机器人实体上解决多样化的任务,并且可以快速地适应新的任务和实体。”
IT之家注意到,为了训练RoboCat,DeepMind的研究人员首先使用人类控制的机械臂,在模拟或真实环境中收集了每个任务或机器人的100到1000次演示。例如,让机械臂拾取齿轮或堆叠积木等。然后,他们对RoboCat进行微调,在每个任务上创建一个专门的“衍生”模型,让它平均练习10000次。通过利用衍生模型生成的数据和演示数据,研究人员不断扩大RoboCat的训练数据集,并训练出新版本的RoboCat。
最终版本的RoboCat在模拟和真实世界中,在总共253个任务上进行了训练,并在这些任务的141个变体上进行了测试。DeepMind声称,在观察了几个小时内收集的1000次人类控制的演示后,RoboCat学会了操作不同类型的机械臂。虽然RoboCat已经在四种有两爪臂的机器人上进行了训练,但该模型能够适应一种更复杂的有三指夹具和两倍可控输入的机械臂。
尽管如此,RoboCat在DeepMind的测试中,在不同任务上的成功率也有很大差异,从最低的13%到最高的99%不等。这是在训练数据中有1000次演示的情况下;如果演示次数减半,成功率也会相应降低。不过,在某些情况下,DeepMind声称RoboCat只需要观察100次演示就能学习新任务。
李亚历克斯认为,RoboCat可能会降低解决新任务的难度。“只要给出一定数量的新任务演示,RoboCat就可以微调到新任务,并且可以自我生成更多数据来进一步提高。”他补充说。
未来,研究团队的目标是减少教授RoboCat完成新任务所需的演示次数,使其少于10次。