Как использовать объединение L2 в Tensorflow?

Я пытаюсь реализовать одну архитектуру CNN, которая использует пул L2. В справочной статье, в частности, утверждается, что объединение L2 было лучше, чем максимальное объединение, поэтому я хотел бы попробовать объединение L2 после активации функции tanh.

Однако Tensorflow, по-видимому, обеспечивает только tf.nn.ave_pool / ТФ.nn.max_pooling / ТФ.nn.max_pool_with_argmax.

Есть ли способ реализовать объединение L2 в Tensorflow?

conv = tf.....
h = tf.nn.tanh(conv)
p = tf.pow(tf.nn.ave_pool(tf.pow(h,2)), 0.5)

Будет ли это эквивалентно? Будет ли это хорошо работать с точки зрения спины распространение?

1 2
python tensorflow conv-neural-network

1 ответ:

Для тех, кто может задаться вопросом, когда я попытался, как в ответе Ярослава Булатова, я мог видеть лучшую производительность! Спасибо!

0