• 千脑智能理论会是未来指引智能机器设计的理论基石吗?


    最近阅读了《千脑智能》一书,书中的内容引人入胜,作者 Jeff Hawkins (Numenta CEO) 的一些见解发人深省。该理论与当下火热的深度学习,多模态学习,知识工程和类脑计算等领域有着千丝万缕的联系,作者缜密的思考和超前的眼光令人拍案叫绝,值得广大研究者学习借鉴。

    首先介绍一下什么是千脑智能理论。人脑中的新皮质中大约有15万根皮质柱,每根皮质柱都是一个感觉-运动系统,每根皮质柱都会学习成百上千个物体模型,这些模型都是基于参考系的。这种新的观点就叫做千脑智能理论。

    下面是该书中作者一些的见解:

    当你深处泡沫之中时,你的热情很容易就会被点燃,并相信它永远会持续下去。而历史中的经验教训告诉我们应该谨慎一些。

    深度学习并不能让我们走上一条创造真正的智能机器的道路。制造智能机器时有两条路可以走。第一条是让计算机在某些具体任务上超过人类。第二条是重点关注灵活性。目标是创造可以做各种事情并且可以将从某个任务中学到的东西应用于另一个任务的机器。

    就知识而言,陈述一个事实并不难,难点在于通过有效的方式表征知识。有些研究者认为,只有解决了在计算机中的表征知识这一问题,才能创造出真正的智能机器。当下的深度学习网络并不具备知识。目前通过巨大的人工神经网络和大量的文本训练得到的网络取得了不错的性能,但这并不是因为他们解决了知识表征问题。相反,他们完全避开了这一问题,转而依赖统计信息和大量的数据。深度学习网络的设计巧妙,并具备巨大的商业价值和惊人的性能,但它们的能力不会达到5岁孩子孩子的水平。

    未来的人工智能将以与现在不同的原理为基础,新的原理更加接近模拟人类大脑。真正的智能机器、通用人工智能将像大脑新皮质一样,使用类似于地图的参考系来学习世界模型。

    如果一个新人应该如何入门千脑理论和神经科学呢?作者给出了一些建议和参考文献。

    如果想快速了解某个特定领域,例如皮质柱和网格细胞,可以通过wiki百科入手。如果想要更深入的了解,则可以关注该领域的综述论文。在了解了一个领域的术语、历史和概念之后,再阅读特定的学术论文。在阅读论文时,可以先阅读摘要,然后快速浏览论文中的关键图片。一篇好的论文,图片应该与讲述与文字大致相同的内容。最后,阅读论文结尾部分。这一部分通常是作者描述论文主要内容的地方。通过这些综合判断是否要进一步详细阅读论文。

    下面是《千脑智能》一书中作者按照不同主题推荐阅读的参考文献。

    1.皮质柱

    千脑智能理论建立在芒卡斯尔的理论上,即认为皮质柱具有相似的结构,执行相似的功能。

    1)通用皮质算法

    论文标题:An Organizing Principle for Cerebral Function: The Unit Model and the Distributed System
    论文作者:Vernon. Mountcastle
    论文原文:http://nicorg.pbworks.com/w/file/fetch/49365852/Mountcastle%20Organizing%20Principle.pdf
    论文出处:The Mindful Brain , MIT Press, Cambridge, MA, (1978)
    论文被引:1762(2023/09/24)

    2)支持芒卡斯尔的理论的实验结果

    论文标题:The columnar organization of the neocortex
    论文作者:Vernon. Mountcastle
    论文原文:https://academic.oup.com/brain/article/120/4/701/372118
    论文出处:Brain, Volume 120, Issue 4, Apr 1997, Pages 701–722
    论文被引:2688(2023/09/24)

    3)关于迷你皮质柱的叙述文章

    论文标题:The minicolumn hypothesis in neuroscience
    论文作者:Daniel P. Buxhoeveden, Manuel F. Casanova
    论文原文:https://academic.oup.com/brain/article/125/5/935/328135
    论文出处:Brain, Volume 125, Issue 5, May 2002, Pages 935–951
    论文被引:639(2023/09/24)

    4)关于皮质柱的解剖的综述文章

    论文标题:Functional maps of neocortical local circuitry
    论文作者:Alex M. Thomson, Christophe Lamy
    论文原文:https://www.frontiersin.org/articles/10.3389/neuro.01.1.1.002.2007/full
    论文出处:Front. Neurosci., 15 October 2007
    论文被引:507(2023/09/24)

    2.皮质层次结构

    1)猕猴新皮质中的区域层次结构

    论文标题:Distributed hierarchical processing in the primate cerebral cortex
    论文作者:Felleman DJ, Van Essen DC
    论文原文:https://europepmc.org/article/med/1822724
    论文出处:Cerebral Cortex (New York, N.Y. : 1991), 01 Jan 1991, 1(1):1-47
    论文被引:9809(2023/09/24)

    2)新皮质中层次结构问题的研究

    论文标题:‘Hierarchy’ in the organization of brain networks
    论文作者:Claus C. Hilgetag and Alexandros Goulas
    论文原文:https://royalsocietypublishing.org/doi/full/10.1098/rstb.2019.0319
    论文出处:https://doi.org/10.1098/rstb.2019.0319
    论文被引:124(2023/09/24)

    3)皮质区相互交流信息靠丘脑

    论文标题:Distinct functions for direct and transthalamic corticocortical connections
    论文作者:S. Murray Sherman, and R. W. Guillery
    论文原文:https://journals.physiology.org/doi/full/10.1152/jn.00429.2011
    论文出处:https://doi.org/10.1152/jn.00429.2011
    论文被引:306(2023/09/24)

    3.What 和 Where 视觉通路

    1)人脑中的 What 和 Where 视觉通路

    论文标题:‘What’ and ‘where’ in the human brain
    论文作者:Leslie G. Ungerleider, James V. Haxby
    论文原文:https://www.sciencedirect.com/science/article/abs/pii/0959438894900663
    论文出处:Current Opinion in Neurobiology 1994
    论文被引:2490(2023/09/24)

    2)具有感知和行动功能的两个视觉通路

    论文标题:Two visual pathways – Where have they taken us and where will they lead in future?
    论文作者:Melvyn A. Goodale, A. David Milner
    论文原文:https://www.sciencedirect.com/science/article/abs/pii/S0010945217304094
    论文出处:Cortex 2018
    论文被引:76(2023/09/24)

    3)

    论文标题:Where, When, and How: are they all Sensorimotor? Towards a unified view of the dorsal pathway in vision and audition
    论文作者:Josef P Rauschecker
    论文原文:10.1016/j.cortex.2017.10.020
    论文出处:Cortex 98
    论文被引:117(2023/09/24)

    4.树突脉冲

    新皮质中的神经元利用树突脉冲进行预测。

    第一篇通俗易懂。第二三篇与作者的理论直接相关。

    1)Dendritic Computation

    论文标题:Dendritic Computation
    论文作者:Michael London and Michael Hausser
    论文原文:https://www.annualreviews.org/doi/abs/10.1146/annurev.neuro.28.061604.135703
    论文出处:Annual Review of Neuroscience 2015
    论文被引:1268(2023/09/24)

    2)The decade of the dendritic NMDA spike

    论文标题:The decade of the dendritic NMDA spike
    论文作者:Srdjan D Antic, Wen-Liang Zhou, Anna Moore, Shaina M. Short
    论文原文:https://onlinelibrary.wiley.com/doi/abs/10.1002/jnr.22444
    论文出处:Journal of Neuroscience Research 2010
    论文被引:231(2023/09/24)

    3)Active Properties of Neocortical Pyramidal Neuron Dendrites

    论文标题:Active Properties of Neocortical Pyramidal Neuron Dendrites
    论文作者:Guy Major, Matthew E. Larkum, and Jackie Schiller
    论文原文:https://www.annualreviews.org/doi/abs/10.1146/annurev-neuro-062111-150343
    论文出处:Annual Review of Neuroscience 2013
    论文被引:412(2023/09/24)

    5.网格细胞和位置细胞(2014 诺贝尔)

    每根皮质柱都使用参考系学习世界模型。

    下面是2014年三位诺贝尔奖得主关于位置细胞和网格细胞的讲座,三者各有侧重,交相呼应。

    爱德华·莫泽教授在b站有账号。

    1)Spatial Cells in the Hippocampal Formation

    标题:Spatial Cells in the Hippocampal Formation
    作者:John O’Keefe
    原文:https://www.nobelprize.org/uploads/2018/06/okeefe-lecture.pdf
    出处:Nobel Lecture, 7 December 2014
    被引:20(2023/09/24)

    2)Grid cells and the entorhinal map of space

    标题:Grid cells and the entorhinal map of space
    作者:Edvard I. Moser
    原文:https://www.nobelprize.org/uploads/2018/06/edvard-moser-lecture-slides.pdf
    出处:Nobel Lecture, 7 December 2014
    被引:21(2023/09/24)

    3)Grid cells, place cells and memory

    标题:Grid cells, place cells and memory
    作者:May-Britt Moser
    原文:https://www.nobelprize.org/uploads/2018/06/may-britt-moser-lecture-slides.pdf
    出处:Nobel Lecture, 7 December 2014
    被引:10(2023/09/24)

    6.新皮质中的网格细胞

    新皮质中网格细胞机制的证据。

    1)Evidence for grid cells in a human memory network

    论文标题:Evidence for grid cells in a human memory network
    论文作者:Christian F. Doeller, Caswell Barry & Neil Burgess
    论文原文:https://www.nature.com/articles/nature08704
    论文出处:Nature 2010
    论文被引:840(2023/09/24)

    2)Organizing conceptual knowledge in humans with a gridlike code

    论文标题:Organizing conceptual knowledge in humans with a gridlike code
    论文作者:Alexandra O. Constantinescu, Jill X. O’Reilly, and Timothy E. J. Behrens
    论文原文:https://www.science.org/doi/abs/10.1126/science.aaf0941
    论文出处:Science 2016
    论文被引:672(2023/09/24)

    3)Direct recordings of grid-like neuronal activity in human spatial navigation

    论文标题:Direct recordings of grid-like neuronal activity in human spatial navigation
    论文作者:Joshua Jacobs, Christoph T Weidemann, Jonathan F Miller, Alec Solway, John F Burke, Xue-Xin Wei, Nanthia Suthana, Michael R Sperling, Ashwini D Sharan, Itzhak Fried & Michael J Kahana
    论文原文:https://www.nature.com/articles/nn.3466
    论文出处:Nature Neuroscience 2013
    论文被引:563(2023/09/24)

    7.Numenta 关于千脑智能理论的论文

    下面这些论文是作者关于千脑智能理论系统性专业性的阐释。实验代码已开源。

    1)完整的理论框架和相关术语

    论文标题:A Framework for Intelligence and Cortical Function Based on Grid Cells in the Neocortex
    论文作者:Jeff Hawkins, Marcus Lewis, Mirko Klukas, Scott Purdy, Subutai Ahmad
    论文原文:https://www.frontiersin.org/articles/10.3389/fncir.2018.00121/full
    论文出处:Frontiers in Neural Circuits 2019
    论文被引:162(2023/09/24)

    https://www.numenta.com/assets/pdf/research-publications/papers/Companion-paper-to-Thousand-Brains-Theory-of-Intelligence.pdf

    2)迷你皮质柱如何创造出预测性序列记忆

    论文标题:Why Neurons Have Thousands of Synapses, a Theory of Sequence Memory in Neocortex
    论文作者:Jeff Hawkins, Subutai Ahmad
    论文原文:https://arxiv.org/abs/1511.00083, https://www.frontiersin.org/articles/10.3389/fncir.2016.00023/full
    论文出处:Frontiers in Neural Circuits 2016
    论文被引:445(2023/09/24)

    3)皮质柱中的投票机制

    论文标题:A Theory of How Columns in the Neocortex Enable Learning the Structure of the World
    论文作者:Jeff Hawkins, Subutai Ahmad, Yuwei Cui
    论文原文:https://www.frontiersin.org/articles/10.3389/fncir.2017.00081/full
    论文出处:Frontiers in Neural Circuits 2017
    论文被引:147(2023/09/24)

    https://www.numenta.com/resources/research-publications/papers/a-theory-of-how-columns-in-the-neocortex-enable-learning-the-structure-of-the-world/

    4)网格细胞如何形成位置的表征

    论文标题:Locations in the Neocortex: A Theory of Sensorimotor Object Recognition Using Cortical Grid Cells
    论文作者:Marcus Lewis, Scott Purdy, Subutai Ahmad, Jeff Hawkins
    论文原文:https://www.frontiersin.org/articles/10.3389/fncir.2019.00022/full
    论文出处:Frontiers in Neural Circuits 2019
    论文被引:38(2023/09/24)

  • 相关阅读:
    【DRONECAN】(三)WSL2 及 ubuntu20.04 CAN 驱动安装
    微信小程序基本组件使用介绍
    教你怎么在电脑端下载西瓜视频源文件
    Linux 下使用 cron 定时任务
    大数据随记 —— DataFrame 与 RDD 之间的相互转换
    Python模块和包
    RedisHttpSession反序列化UID问题跟踪
    微信小程序使用路由传参和传对象的方法
    第2章 传输网
    基于正则化Regularized Interpolation插值算法的图像超分辨重构研究-附Matlab代码
  • 原文地址:https://blog.csdn.net/weixin_39653948/article/details/133255794