训练或者预测过程中经常会遇到训练损失值或者验证损失值不正常、无穷大、或者直接nan的情况：

在关于训练神经网路的诸多技巧Tricks(完全总结版)这篇文章中，我们大概描述了大部分所有可能在训练神经网络中使用的技巧，这对如何提升神经网络的准确度是很有效的。...

很多人都说训练神经网络和炼金术师炼药的过程相像，难以破解其中的黑盒子。其实不然，在训练的时候我们依然可以通过大量的技巧去最大化我们的训练效果，从而帮助我们的任务取得不错的精度，这些技巧是训练神经网络不可缺少的...

RELU(rectified linear unit)是线性整流单元，与Sigmoid类似但是比Sigmoid好用很多(减缓梯度消失现象)。因为其在输入为负值时强制转化为0，因此属于非线性的激活函数，在神经网络中是最常见的激活函数。...

偶尔翻翻深度学习方面的新闻信息，不得不再次感慨：深度学习真的是太好玩了！兴趣最重要，抛开深度学习玄妙复杂的内涵不谈，我们不应该咱直接被其复杂公式和理论而吓退。相反，让我们来看看利用深度学习完成的好玩的应用，寓教于乐...

吴恩达的新书出来了,在之前的文章中已经提到过了 吴恩达机器学习新书:MACHINE LEARNING YEARNING免费获取

欲研究C#端如何进行图像的基本OCR识别，找到一款开源的OCR识别组件。该组件当前已经已经升级到了4.0版本。和传统的版本（3.x）比，4.0时代最突出的变化就是基于LSTM神经网络。Tesseract本身是由C++进行编写，但为了同时适配不...

假如用余弦相似度来计算两个词的one-hot编码得到0，即不能编码词之间的相似性，所以有了word2vec的方法，包括skip-gram和CBOW。

摘要： 探索人工智能系统类别：专家系统、机器学习、神经网络、进化算法与混合智能的多重视角，解读人工智能认知观：符号主义、连接主义与行为主义的理论与实践。文章内容都是博主用心学习收集所写，欢迎大家三联支持！本系列会...

跳跃连接指的是将输入数据直接添加到网络某一层输出之上。这种设计使得信息可以更自由地流动，并且保留了原始输入数据中的细节和语义信息。 使信息更容易传播到后面的层次，避免了信息丢失。跳跃连接通常会通过求和操作...