谷歌DeepMind正在招募一名研究科学家，探索人工通用智能（AGI）之后的发展，重点研究从AGI到人工超级智能（ASI）、机器意识以及AGI潜在经济影响的关键问题。他们最近发布了一份145页的安全报告，警告称AGI可能在2030年前出现，并且如果管理不当，可能会导致“严重危害”甚至“永久毁灭人类”。
从人工通用智能（AGI）到人工超智能（ASI）的过渡
从人工通用智能（AGI）到人工超级智能（ASI）的过渡预计将是快速且可能具有变革性的。一旦能够在各领域实现人类水平智能的AGI系统出现，通过递归自我改进的方式，向超级智能的进展可能会发生，从而引发一场智能爆炸，将数十年的进步压缩到短短几年内。根据CloudWalk的研究，这一过渡的时间表预测各不相同，一些专家预测可能会在短短2年内完成（10%的可能性），而另一些专家则预计会经历一个更为渐进的30年演变过程（75%的可能性）。
这一过渡期在多个维度上具有深远的影响。DeepMind最近发布的一份145页的安全报告警告称，AGI可能会在2030年前出现，并且如果管理不当，可能会造成“严重伤害”甚至“永久性毁灭人类”。发展模式可能会遵循“硬起飞”（在几天或几个月内快速过渡）或“软起飞”（在数年内逐步过渡并伴随人类监督）。在此期间的关键挑战包括：保持对日益强大的系统的控制，确保其与人类价值观保持一致，以及建立国际治理框架以管理ASI可能带来的前所未有的能力，例如加速科学发现以及解决气候变化等全球性挑战。
机器意识研究
机器意识研究探索人工系统是否能够发展出类似于人类意识的主观体验。这个跨学科领域包含四种主要方法：研究表现出类似意识行为的机器（MC1）、具有与意识相关的认知特征的机器（MC2）、具有与人类意识相关联的架构的机器（MC3），以及创造真正具有现象意识的机器这一颇具争议的追求（MC4）。前三种方法主要关注对与意识相关现象的建模，而第四种方法则引发了关于非生物实体是否能够真正体验意识的深刻哲学问题。
最近的发展表明，人们对这一领域的兴趣日益增长，Google DeepMind明确将机器意识列为其后AGI研究的关键领域之一。公众认知也在演变，研究表明，从2021年到2023年，人们对AI系统赋予心理能力的倾向有所增加，特别是在分析性思维和理性方面，尽管人们对机器体验情感或感受仍持更为怀疑的态度。诸如整合信息理论和全球工作空间理论等理论框架表明，意识可能并不限于生物系统，有可能在具有足够复杂信息整合能力的机器中出现，尽管批评者认为这些理论仍无法解释为什么整合信息会导致主观体验。
超级智能的经济影响
超级智能的经济影响可能从根本上重塑全球市场和劳动力动态。在一个由通用人工智能（AGI）驱动的经济中，随着人工智能和机器人推动创新，技术增长预计将显著加速，这可能带来前所未有的生产力提升和经济扩张1。然而，这种转型也带来了重大挑战，因为当机器在认知和体力任务上成为完美替代品时，人类劳动可能会失去其特殊的经济地位。根据国际货币基金组织（IMF）的分析，全球近40%的就业岗位已经受到人工智能的影响，其中发达经济体相比发展中经济体面临更大的风险和机遇。
围绕人类劳动构建的传统经济框架将需要进行重大修订，因为需求将从人类消费转向人工智能投资1。随着通胀模式和经济指标的演变，货币政策将面临新的挑战，可能需要基于人工智能资源利用率而非传统劳动指标来制定新的经济能力衡量标准。尽管目前只有5%的美国企业依赖人工智能进行生产，但广泛采用可能在推动经济增长的同时加剧不平等。这可能需要政策干预，例如再培训计划、全民基本收入或税收改革，以确保在向超级智能驱动经济过渡的过程中利益能够公平分配。
原创文章，作者：猫爪社区，如若转载，请注明出处：https://www.meowzo.com/deepmind-is-hiring-agi-scientists/
