已有超过500款AI模型在英特尔酷睿Ultra处理器上得以优化运行

2024-05-09 17:17:53 浏览数 (1)

5月2日,英特尔宣布在全新英特尔® 酷睿™ Ultra处理器上,有超过500款AI模型得以优化运行。这是市场上目前可用的业界出众的AI PC处理器,兼具全新AI体验、沉浸式图形和出色电池续航表现。这一重大里程碑是英特尔在客户端AI技术、AI PC转型、框架优化和包括OpenVINO™工具包在内的AI工具方面投资的成果。

据介绍,这500个模型可在中央处理器(CPU)、图形处理器(GPU)和神经网络处理单元(NPU)上进行部署,它们可以通过业界主流的途径被获取使用,包括OpenVINO Model Zoo、Hugging Face、ONNX Model Zoo和PyTorch。这些模型涵盖了本地AI推理的多种类别,包括大语言处理、扩散处理 、超分辨率、目标检测、图像分类/分割、计算机视觉等。

英特尔客户端计算事业部副总裁兼AI和技术营销总经理Robert Hallock表示:“在将AI应用程序引入客户端设备方面,英特尔与生态系统已经合作许久。今天,我们将共同庆祝在客户端AI发展历程中的又一个重要的篇章,即超过500个经过预训练的AI模型,在英特尔酷睿Ultra处理器上得以优化运行。这一成就反映了我们致力于打造PC行业极具优势的AI开发者工具链,以及构建让AI软件用户可以信任的坚实基础。”

重要性:超过500个AI模型得以优化运行,是英特尔努力推动和支持AI PC转型的一个重要里程碑。英特尔酷睿Ultra处理器在一个季度内销量达到500万片,在AI模型、框架和运行时(Runtimes)方面表现出众。

模型是诸如目标去除、图像超分辨率或文本摘要等AI增强软件功能的关键基础。模型可用或优化的数量,与面向用户的AI功能的广度之间具有直接关系。没有模型,功能就无法被设计出来。没有运行时优化,功能就无法达到出色的性能表现。

AI模型如何工作:AI模型是软件栈中众多关键层之一,它决定了AI驱动的应用程序的最终性能、稳定性和功能。AI模型经过训练,可分析大量数据,根据推理得出结论并采取行动。开发者可以利用这些模型并在此基础上构建新的AI PC功能。AI模型越多,启用的AI PC功能就越多。

AI模型可以对文本、语音、音频、图像以及其他PC场景体验中常见的音视频源进行操作。AI模型为造福用户而开发的AI增强功能奠定了基础,例如自动文本摘要、在视频会议期间降低能耗或从图片中去除不需要的对象。OpenVINO通过在所有计算单元之间优化平衡负载,压缩模型从而在AI PC上实现高效运行,并优化运行时以充分利用英特尔酷睿Ultra的内存带宽和核心架构。

英特尔不断努力,在英特尔酷睿Ultra上实现对出色高性能模型集的启用,为软件开发者提供了广泛的创新领域,并简化了向用户交付AI PC应用程序和功能的过程。

关于其他功能和优势:以下列表包括500多个已优化的AI模型的特性和优势:

● 方便开发和部署。

● 涵盖20多个AI类别,包括大语言处理、扩散处理、超分辨率、目标检测和计算机视觉。

● 包括Phi-2、Mistral、Llama、Bert、Whisper和Stable Diffusion 1.5。

● 提高系统稳定性、可靠性和性能。

关于英特尔的AI PC开发者计划:加入英特尔AI PC开发者计划中的开发者可以访问工具、工作流程、AI部署框架,并用于英特尔酷睿Ultra处理器。开发者还可以利用英特尔的软件工具在AI PC上开展优化AI、多架构编程、游戏、媒体和渲染等工作。

编辑:芯智讯-林子

0 人点赞