艾伯维和Cerebras合作加速人工智能生物医药研究

2022-06-08 14:55:03 浏览数 (1)

2022年5月5日,AI计算领域的先驱Cerebras Systems和艾伯维 (AbbVie) 宣布,艾伯维的人工智能工作取得了里程碑式的成就。在生物医学自然语言处理 (NLP) 模型上使用Cerebras CS-2,艾伯维实现了超过图形处理单元 (GPU) 128倍的性能,而能耗只有1/3。

艾伯维人工智能负责人Brian Martin称,艾伯维在编程和训练BERT LARGE模型时遇到的一个常见挑战是在足够长的时间内提供足够的GPU集群资源。CS-2系统将提供实时改进,缓解了大部分挑战,同时提供更简单的编程模型,通过使团队更快地迭代和测试更多想法来加速交付。

更大的复杂性需要更多的计算能力。CS-2提供数百个GPU的深度学习性能,具有单个节点的编程简易性。因此,设置和配置所花费的时间更少,训练时间更少,可探索的想法更多。

艾伯维采用大型、复杂的AI语言模型来构建其机器翻译服务Abbelfish。该服务使用大型、最先进的Transformer模型 (如BERT、BERT LARGE和BioBERT) 准确翻译并制作可搜索的180种语言的庞大生物医学文献库。

确保Abbelfish既准确又始终保持最新,需要使用特定领域的生物医学数据从头开始训练和重新训练NLP模型。然而,Abbelfish模型非常庞大,有60亿个参数。即使在最大的GPU集群上训练这样的模型也是不切实际的。Cerebras使这种类型的大规模AI训练变得快速而简单。

而在此前,Cerebras已与GSK达成合作(参见GSK和Cerebras合作开发表观基因组学模型)。

参考资料

https://www.pharmatimes.com/news/abbvie_and_cerebras_systems_partner_to_accelerate_ai_research_1448088

https://www.enterpriseai.news/2022/05/05/abbvie-chooses-cerebras-systems-to-accelerate-ai-biopharmaceutical-research/

--------- End ---------

0 人点赞