摘要

本文由Yintong Zhang和Jason A. Yoder共同撰写，探讨了使用进化发展的人工神经网络（ANNs）来执行多任务处理，并引入了先进的活动依赖（AD）机制。该研究基于笛卡尔遗传编程（CGP）来进化发展程序，指导ANNs的形成，从而避免灾难性遗忘并实现多任务处理。文章特别强调了AD在调整神经网络参数中的重要作用，通过实验证明了AD在神经健康、位置和偏差等参数上的显著改进，为未来的研究方向提供了新的视角。

原理

本文的核心在于通过进化算法和CGP来生成和发展多任务处理的人工神经网络。CGP通过将编码的基因型转换为生成神经网络的程序，实现了从基因型到功能性计算机程序的转换。AD机制允许模型根据环境反馈调整内部神经变量，类似于强化学习中的奖励信号。文章进一步扩展了AD的应用，不仅限于神经偏差，还包括神经健康、位置等参数，从而显著提高了神经网络的学习效率和性能。

流程

研究首先使用CGP编码两个程序作为节点（体细胞）和连接（树突）的发展规则。初始神经网络包含一些输入和输出节点，通过随机初始化的连接和参数进行更新。在每个发展迭代中，节点和连接根据这些程序更新，生成下一迭代的全网络参数。最终，成熟的“大脑”网络通过输出节点回溯提取子网络来解决不同问题。实验中，模型通过解决一个强化学习任务和一个分类任务来验证其多任务处理能力。

应用

该研究展示了AD在多任务神经网络中的应用潜力，特别是在提高学习效率和性能方面。未来的应用可能包括更复杂的神经网络结构调整、优化AD参数组合以及提高整体过程的效率。这些进展有望在人工智能领域推动更灵活、适应性更强的智能系统的开发。