上一篇我介绍了用Python来构建原型内核和常用可视化方法。这一篇我会说Tensorflow如何数据并行多GPU处理。
如果我们用C 编写程序只能应用在单个CPU核心上，当需要并行运行在多个GPU上时，我们需要从头开始重新编写程序。但是Tensorflow并非如此。因其具有符号性，Tensorflow可以隐藏所有这些复杂性，可轻松地将程序扩展到多个CPU和GPU。
例如在CPU上对两个向量相加示例。
同样也可以在GPU上完成。
但是如果我们有两块GPU并且想要同时使用它们，该怎么办呢？答案就是：将数据进行等份拆分，并使用单独GPU来处理每一份拆分数据。
让我们以更一般的形式重写它。
make_parallel函数是将任何一组张量作为输入的函数来替换模型，并在输入和输出均为批处理的情况下返回张量。还添加了一个变量作用域并将其重用设置为true。这确保使用相同的变量来处理两个分支。
我们来看一个更实际的例子。我们想要在多个GPU上训练神经网络，在训练期间，我们不仅需要计算正向传播，还需要计算反向传播（梯度），但是我们如何并行梯度计算呢？事实证明，这很容易，我们对每个GPU上算出的梯度求平均。具体代码如下。
上面就是用2块GPU并行训练来拟合一元二次函数。注意：当用多块GPU时，模型的权重参数是被每个GPU同时共享的，所以在定义的时候我们需要使用tf.get_variable()，它和其他定义方式区别，我在之前文章里有讲解过，在这里我就不多说了。大家自己亲手试试吧。
