机器之心报道
机器之心编辑部
TensorFlow 2.10 已发布,还没有更新的小伙伴现在可以更新了。
近日,TensorFlow 官方宣布, TensorFlow 2.10 来了!距离上次 2.9 版本的更新仅仅过去三个月。
TensorFlow 地址:https://blog.tensorflow.org/2022/09/whats-new-in-tensorflow-210.html
新版本的亮点包括:Keras 中新的用户友好特性、Windows 中扩展 GPU 支持等等。此版本还标志着 TensorFlow 决策森林 (TF-DF) 1.0 版本的到来!
对于这一更新,网友还是很期待的,有人表示:「TensorFlow 2.10 增加了 64 位 Arm 支持,现在可以在 Arm 硬件上使用 pip install TensorFlow 进行安装了。」
还有人对 TF-DF 1.0 版本的到来感到非常惊喜,并表示这是自己最期待的。
下面我们介绍一下新版本都有哪些改进。
TensorFlow 2.10 新特性
Keras
从 TensorFlow 2.10 开始,对 Keras 注意力层的 mask 处理(例如 tf.keras.layers.Attention、tf.keras.layers.AdditiveAttention ) 进行了扩展和统一。
现在 Transformer 自注意力块可以写成这样:
import tensorflow as tfembedding = tf.keras.layers.Embedding( input_dim=10, output_dim=3, mask_zero=True) # Infer a correct padding mask.# Instantiate a Keras multi-head attention (MHA) layer,# a layer normalization layer, and an `Add` layer object.mha = tf.keras.layers.MultiHeadAttention(key_dim=4, num_heads=1)layernorm = tf.keras.layers.LayerNormalization()add = tf.keras.layers.Add()# Test input.x = tf.constant([[1, 2, 3, 4, 5, 0, 0, 0, 0], [1, 2, 1, 0, 0, 0, 0, 0, 0]])# The embedding layer sets the mask.x = embedding(x)# The MHA layer uses and propagates the mask.a = mha(query=x, key=x, value=x, use_causal_mask=True)x = add([x, a]) # The `Add` layer propagates the mask.x = layernorm(x)# The mask made it through all layers.print(x._keras_mask)
输出如下:
> tf.Tensor(> [[ True True True True True False False False False]> [ True True True False False False False False False]], shape=(2, > 9), dtype=bool)
其次,在 Tensorflow2.9 版本中,tf.keras.callbacks.BackupAndRestore 回调将在 epoch 边界备份模型和训练状态。在 Tensorflow 2.10 中,回调还可以每 N 个训练 step 备份一次模型。
关于Keras 中新的用户友好特性,还有一点值得说的是,从音频文件目录中轻松生成音频分类数据集,现在使用tf.keras.utils.audio_dataset_from_directory 功能,就能从 .wav 文件目录轻松生成音频分类数据集。
改进 AArch64 CPU 性能:ACL / oneDNN 集成
TensorFlow 团队与 Arm、AWS 和 Linaro 合作,通过 oneDNN 将 Arm 架构 (ACL) 的计算库与 TensorFlow 集成,来加速 AArch64 CPU 的性能。从 TensorFlow 2.10 开始,你可以通过在运行 TensorFlow 程序之前设置环境变量 TF_ENABLE_ONEDNN_OPTS=1 来实现这一点。
在 Windows 上扩展 GPU 支持
TensorFlow 现在可以通过 TensorFlow-DirectML 插件在 Windows 上使用更广泛的 GPU。用户要在 AMD、Intel、NVIDIA 和 Qualcomm 等供应商提供的 DirectX 12-capable GPU 上进行模型训练,请在本机 Windows 或 WSL2 上安装与标准 TensorFlow CPU 包一起的插件。
TensorFlow 决策森林 1.0
随着 Tensorflow 2.10 的发布,TF-DF(Tensorflow Decision Forests)1.0 版本正式来了。这是一个伟大的里程碑,TensorFlow 团队改进了文档并建立了更全面的测试,以确保 TF-DF 为专业环境做好准备。
了解更多更新,请查看 TensorFlow 官网。
掌握「声纹识别技术」:前20小时交给我,后9980小时……
《声纹识别:从理论到编程实战》中文课上线,由谷歌声纹团队负责人王泉博士主讲。
课程视频内容共 12 小时,着重介绍基于深度学习的声纹识别系统,包括大量学术界与产业界的最新研究成果。
同时课程配有 32 次课后测验、10 次编程练习、10 次大作业,确保课程结束时可以亲自上手从零搭建一个完整的声纹识别系统。
点击阅读原文,了解更多课程内容。
© THE END
转载请联系本公众号获得授权
投稿或寻求报道:content@jiqizhixin.com