neural-networks


Oct. 15, 2023

PyTorch

How models work in PyTorch nn.Module - fornece uma base para a criação de modelos personalizados, junto com funcionalidades que ajudam no treinamento. Duas funções precisam ser definidas: __init__ definimos as várias camadas que serão utilizadas forward definem a sequencias em que as camdas serão utilizadas Camadas no PyTorch nn.Conv2d the convolutional layer nn.BatchNorm2d normalização da saida da camada de covolução nn.ReLU função de ativação nn.MaxPool2d aplica max pooling na saída com o tamanho do kernel nn.

Oct. 15, 2023

ResNet

Redes Neurais Residuais (ResNet) Com o aumento de camadas nas redes neurais os gradientes da função de perda acabam tendendo 0 dessa formas os pesoas da rede não são atualizados (conhecido como Vanishing Gradient Problem). Referencias [1] https://arxiv.org/pdf/1512.03385v1.pdf [2] https://medium.com/@ibtedaazeem/understanding-resnet-architecture-a-deep-dive-into-residual-neural-network-2c792e6537a9 [3] https://blog.paperspace.com/writing-resnet-from-scratch-in-pytorch/