O sono é muito bom. Nos seres humanos, as evidências sugerem que ele tem toda uma gama de benefícios, incluindo este: ele mantém o cérebro saudável, permitindo que os neurônios removam conexões sinápticas desnecessárias que fazemos durante o dia.
Este processo, chamado homeostase sináptica, impede que o cérebro seja invadido por memórias inúteis. É possível que ajude a melhorar nosso desempenho cognitivo, enquanto os sonhos nos permitem processar nossas memórias.
Acontece que algo semelhante pode estar ocorrendo quando redes neurais artificiais são permitidas dormir e sonhar.
É claro que as redes neurais artificiais (RNAs) – um tipo de inteligência artificial baseada em redes neurais biológicas – não adormecem e sonham automatica e instintivamente. É por isso que matemáticos na Itália programaram um tipo de RNA chamado rede de Hopfield para poder dormir.
“Inspirado em mecanismos de sono e sonhar em cérebros de mamíferos, propomos uma extensão deste modelo exibindo o mecanismo de aprendizagem online (acordado) padrão (que permite o armazenamento de informações externas em termos de padrões) e um offline (sono). mecanismo de desaprendizagem e consolidação”, escreveram em seu artigo.
Em outras palavras, enquanto a RNA está ‘acordada’, ela está aprendendo e armazenando padrões. Mas sua capacidade de armazenamento é limitada.
Assim, a equipe elaborou uma maneira de implementar matematicamente os padrões de sono humano – sono de movimento rápido dos olhos e sono de ondas lentas, o primeiro dos quais é pensado para remover memórias desnecessárias, e o último dos quais é pensado para consolidar os mais importantes.
Então, isso é o que o estado de ‘sono’ das RNA também faz, percorrendo e desaprendendo informações desnecessárias, e depois consolidando o que resta, as coisas importantes.
O resultado foi notável. Sem sono, a capacidade máxima foi de α = 0,14, onde α representa o número de bits armazenados por sinapse. Quando um ciclo de sono foi incorporado, a RNA atingiu o limite teórico para redes desse tipo – α = 1.
Testes extensivos usando simulações validaram o resultado – mostrando que permitir que uma rede neural durasse de vez em quando (usando o algoritmo napping correto) poderia resultar em um melhor desempenho.
A pesquisa da equipe foi publicada na revista Neural Networks e pode ser lida na íntegra no arXiv. [Science Alert]
Discussion about this post