最近在学习 tensorflow MNIST 程序时遇到了 tensorflow tf.control_dependencies()，具体为：
......
variables_averages_op = variable_averages.apply(tf.trainable_variables()) # apply --vars--> average_op
......
# 优化损失函数
train_step = tf.train.GradientDescentOptimizer(learning_rate).minimize(loss, global_step=global_step)
with tf.control_dependencies([train_step, variables_averages_op]): # 依赖环境
train_op = tf.no_op(name='train') # here, train_op will only run after [**] have executed.
有人说：
with g.control_dependencies([a, b, c]): # 这会保证 a, b, c 按顺序执行
# d will only run after a, b and c have executed.
d = ...
事实上，a，b，c 不会按 [*] 里的顺序执行。下面看一些实验。
import tensorflow as tf
a = tf.Variable(1.0)
c = tf.assign(a, 2.0) # 注意这里 c 和 d 的顺序
d = tf.assign(a, 3.0) # c --> d 是 c 在前, 如果 d --> c, 则是 d 在前
with tf.control_dependencies([c, d]): # 看一看 c，d 的执行顺序
op = tf.assign_add(a, 6.0) # 后执行的将决定 a 的取值
with tf.Session() as sess:
tf.global_variables_initializer().run()
print(sess.run(op))
实验结果：
- c --> d && [c, d] ==> op == 9.0，说明 a 取值为 3，d 后执行
- c --> d && [d, c] ==> op == 9.0，说明 a 取值为 3，d 后执行
- d --> c && [c, d] ==> op == 8.0，说明 a 取值为 2，c 后执行
- d --> c && [d, c] ==> op == 8.0，说明 a 取值为 2，c 后执行
=>结论1：[c, d] 或 [d, c] 顺序没有影响, 实际执行顺序是由 (c --> d) || (d --> c) 决定
- c --> d && [c] ==> op == 8.0
- c --> d && [d] ==> op == 9.0
=>结论2：只执行了 [*] 中的操作, 不在其中的不会执行
