展示在计算机中计算相同数量的两种不同方法，选项一：我们可以令x=2/10000，选项二设x=(1+1/10000)-(1-1/10000)，因为计算机只有有限的内存来存储每个数字，称为浮点数，在这种情况下，取决于你决定如何计算价值超过一万，结果可能有或多或少的数值舍入误差，结果发现，虽然计算SoftMax成本函数的方法是正确的，有一种不同的表述方式，减少了这些数字舍入误差，导致了Tensorflow中更精确的计算，首先使用Logistic回归来更详细地解释这一点，然后展示这些思想如何应用于改进SoftMax的实现，首先，对于逻辑回归，如果要计算损失函数，对于一个给定的例子，首先计算输出激活a，然后用这个表达式来计算损失，事实上，这就是逻辑输出层的代码，有了这个二元交叉熵，对于逻辑回归，这是有效的，通常数字舍入误差也没那么严重，但事实证明，如果你允许张量流，不必计算A作为中间项，但是如果你告诉tensorflow，损失是下面的这个表达式，即把a扩展成下面的这个表达式，Tensorflow可以在此表达式中重新排列项，想出一个数字上更精确的方法来计算这个损失函数，这个实现坚持显式地将a计算为中间量，但是通过在底部直接指定这个表达式作为损失函数，它在如何计算方面给了Tensorflow更多的灵活性，以及它是否想显式计算，在输出层使用线性激活函数，它把激活函数以及这个交叉熵损失到这里地损失函数地规范中，真参数导致张量流，如果你想知道记录器是什么，基本上是这个数字Z，所以张量流将计算z作为中间值，但它可以重新排列项，使其计算更精确，这段代码的一个缺点是它变得不那么清晰，但这使得张量流现在的数字舍入误差少了一点，在逻辑回归的情况下，这些实现中的任何一个实际上都可以工作，但是当谈到Softmax时，数值上的误差可能会变得更糟。
让我们把这个想法应用到softmax回归中，活化能是g的z1到z10，然后损失如下所示，取决于y的实际值是多少，所以这是必须在两个不同的步骤中进行计算的代码，如果你指定损失是y=1和y=10会有不一样的公式，这给了Tensorflow重新排列项的能力，以更精确的方式计算，只是为了给你一些直觉，为什么TensorFlow可能想要这样做，如果其中一个z真的很小，那么e的负小数就变得非常非常小，或者如果其中一个z是一个非常大的数，那么e的z就变成一个非常非常大的数，通过重新排列术语，TensorFlow可以避免其中一些非常小或非常大的数字，从而得出更精确的损失函数计算，因此，执行此操作的代码显示在输出层中，我们只是使用线性激活函数，所以输出层只计算z1到z10，损失的整个计算都记录在这里的损失函数中，我们又有了第一个等于true参数，在概念上，除了它在数字上更精确，糟糕的逻辑回归的数值舍入误差，在底部使用此实现，从概念上讲，这段代码所做的事情与你之前的第一个版本相同，除了它在数字上更准确一点。
还有一个细节，我们现在改变了神经网络，使用线性激活函数，而不是软最大激活功能，因此神经网络的最后一层不在输出这些概率，它不是输出z1到z10。
我没有在逻辑回归的情况下谈论它，如果你把输出逻辑函数和损失函数结合起来，然后进行逻辑回归，还必须改代码，获取输出值并通过Logistic函数进行映射。
