一、人工智能不会再有寒冬
不知不觉，我办的《人工智能大势》期刊已经来到了第150期，每周一期，节假日都几乎没断过，150个星期，其中酸甜苦辣、冷暖自知，而世界人工智能的发展似乎也来到了一个坎……
这几天我所在的这个南方大城市也开始有了凉意，秋风阵阵，让人感觉冬天就要来了。
不过，这里的冬天始终称不上寒冬，甚至可以说还是蛮舒服的。想想今年的欧洲，没了俄罗斯的天然气，恐怕真的会是个凛冽的寒冬，据说欧洲人已经开始砍公园里的树了，甚至有人在网上问如何燃烧马粪取暖……
疫情叠加战争，以及由美国引领的逆全球化，世界正在经历一个艰难的时期，经济下行压力巨大，前不久华为老板任正非也在说“要准备过冬”。
即使这些年来风头强劲的人工智能似乎也不能幸免，最近又有人在说人工智能的寒冬可能要来了。
近几年来，很多人都在寻求突破通用人工智能（AGI），其中不乏国际知名公司，如谷歌、meta（facebook）、DeepMind等等，也不乏许多知名AI大咖，如杨立昆等，且看上去突破已近在眼前了，比如与杨立昆同为深度学习三巨头之一的辛顿曾说：五年内肿瘤医生都将失业，因为人工智能可以更好地通过影像进行诊断。
然而似乎突然之间，人们发现我们离真正的突破还差得很远，我们甚至连通用人工智能的方向都还没有摸到，比如杨立昆最近就完全改变了他之前的观点，并说“深度学习不可能实现人类水平的智能”。
全球权威的技术研究和分析公司Gartner每年都会发布人工智能技术成熟度曲线，以下是其发布的2018-2022年的成熟度曲线：
2.jpg
2018年
3.jpg
2019年
4.jpg
2020年
以上两图来源：《Gartner:人工智能2018-2020年成熟度曲线分析，哪些技术消失了？哪些成熟了？》
https://m.sohu.com/a/420481632_120677897
5.jpg
2021年
来源：《白评 | 做人工智能，你在这个曲线的哪一段？》
https://www.eefocus.com/industrial-electronics/503802
6.jpg
2022年
来源：《2022年 AI 技术成熟度曲线》
可以看到，位于曲线最左端，也是最低端代表通用人工智能（Artificial General Intelligence）的那个黄点根本就没动过，我之前还乐观地认为5年时间怎么都会向上走一走，说明通用人工智能这么多年来毫无进展。
所以，无怪乎有人会感叹人工智能的“寒冬”即将来临！
讲到这，就不由得让人想起人工智能历史上的两次寒冬：
第一次是上世纪60年代，在人工智能兴起后不久，由于理论的局限，以及计算机硬件的计算能力还很初级，虽然这次高潮也催生了一些成果，但并没有真正令人瞩目的成就出现，更谈不上有什么实用化的技术。政府等随之减少了这方面的投资，第一次高潮很快衰落下去，之后便进入了人工智能的第一次寒冬。
第二次是上世纪90年代，虽然有着大规模、高力度的投入，但仍然是局限于理论以及计算机的运算能力，很多人工智能方面的问题依然没有突破，比如语音及图像识别、高水平逻辑推理、自然语言理解等。专家系统由于推理能力的局限，使得解决的问题也有限，尤其是它的知识完全需要人工输入和维护，智能水平还是很低的。伴随着1992年日本第五代计算机项目宣告失败，各国政府开始减少投资，第二次高潮衰落，人工智能进入了历史上的第二次寒冬。
实际上，冬天的迹象在2019年就已经显现，当时我还写了文章《如何面对人工智能寒冬？》，这两年Transformer和超大规模模型等技术虽然又带起一波小高潮，但终究还是在深度学习的范畴内，没有出现革命性的突破，使得通用人工智能仍是雾里看花、遥不可及。
不过，正如我在《如何面对人工智能寒冬？》这篇文章中所说：
首先，我们应该要坚定信心，即使寒冬来到，相信也是短暂的，春天正在前方等着有准备的人。
这并不是在喊口号或者盲目自信，实际上可能会有短暂的低谷，但并不会有真正的寒冬。前两次之所以会进入寒冬，是因为业界虽然有些学术上的成果，但是并没有什么实用性的技术，也就是说不能解决实际问题。而投资是要看回报的，不能解决实际问题，也就很难有回报，投资也就难以为继，进入寒冬便不可避免。
然而这次不同，由于软硬件两方面的突破和大幅进展，人工智能已不再只是象牙塔中的学术摆设，已经全面进入了实用领域，解决大量的实际问题。
比如机器翻译，虽然业界很早就对此有研究，像刚去世的中国机器翻译开山鼻祖刘倬，在1964年就与人合作出版了《机器翻译浅说》，但这项技术几十年来都难以达到实用的程度，直到近十年大数据和深度学习的崛起，使得机器翻译可以真正实用了。虽然还达不到人类翻译的水平，常常还会出现语法等方面的低级错误，但普通的文本已经可以达到不影响理解的程度，如果你常用微博，就会发现很多博主在转载国外信息时，会附上机器翻译的中文，你看后也就能基本明白原文的意思，可以说机器翻译已经是非常实用的技术了。
再比如自动驾驶，同样得益于人工智能的发展，如今可以说是呈飞速发展态势，虽然离全面实用还有一定距离，但是主驾驶无人的自动驾驶已经开始试运营（《上海首辆无安全员的自动驾驶车在国际汽车城发车》），普通公路和高速路上的辅助自动驾驶，即L2、L3级自动驾驶也已经开始普及，距离全面实用可以说已经不远了。一旦这项技术的应用开始普及，其所带来的回报将是无可限量的，甚至可能给整个社会带来颠覆性变革。在此我也不得不承认，我在《如何面对人工智能寒冬？》一文中都看走了眼，轻视了这项科技的发展速度。
还有许许多多由人工智能，尤其是深度学习所衍生出来的实用技术，在此就不一一列举，如果你常看这份《人工智能大势》期刊就一定会有所了解。
像互联网一样，发展的过程中也会有低谷，但由于能实实在在地解决现实问题，那么就不可能进入那种无人问津的寒冬，人工智能也会是一样。
至于说到通用人工智能，其实我们可以将其看成是一种信仰和理想，那不是一时半会就能实现的，或许永远也不能实现（虽然我并不认同这一观点），但都不重要，它给我们的就是精神上的力量，指明终极的目标和方向，引领我们不断向前探索，而在探索的同时我们又能不断解决实际问题，即产生物质上的力量。有了精神和物质两方面的力量，就足以支撑我们不断向前发展，也便不会再有寒冬出现。
当然，我们也不可对“寒冬”这件事完全掉以轻心，对于某些局部地区来说，进入寒冬也是完全可能的，就像今年冬天的欧洲。
欧洲人现在真的有点让人看不懂了，跟着美国制裁俄罗斯，结果最终制裁了自己，美国人却因此赚得盆满钵满，一方面可以高价卖能源给欧洲，另一方面承接欧洲出逃的资金。我们中国也获益不少，因为中国有完善的产业链，欧洲出逃的产业很多都来到了中国。
另一个让人看不懂的就是，对人工智能的严格监管，例如《专家警告欧盟人工智能监管法案或严重打击开源工作的积极性》，这导致相关的研究机构、企业和人才也开始出逃，且很多也会来到中国，所以，欧洲如果出现人工智能的寒冬并不会令人奇怪。
更让人看不懂的是，他们为什么会在同一个坑里掉两次，互联网时代欧洲就因为监管过严，致使欧洲至今没有一家如谷歌、facebook、腾讯、百度、阿里巴巴等这样的世界知名互联网企业，说欧洲一直在经历互联网的冬天也不为过。
所以，我们应好好学习欧洲这个反面教材，千万不能掉入过度监管的坑里，否则谁都避免不了寒冬。
参考阅读：
上海首辆无安全员的自动驾驶车在国际汽车城发车
https://export.shobserver.com/baijiahao/html/532453.html
专家警告欧盟人工智能监管法案或严重打击开源工作的积极性
https://www.chinaz.com/2022/0907/1443586.shtml
二、资讯
1、意专家：中国人工智能发展独具优势
中国的人工智能正面临前所未有的发展机遇，并且在发展条件方面具有诸多优势。
经济的持续发展为中国注入积极能量，而这对中国的人工智能而言也将是一个充满独特发展机遇的时期。
中国最高领导层鼓励人工智能发展，为中国人工智能和机器人技术的发展提供了大力支持和明确指示。
首先，人工智能技术侧重于软件，而中国人在这方面具有良好的传统和特殊智慧。
其次，中国目前拥有实现名副其实的脑力劳动机械化所必需的完备基础、高效手段和丰富经验。
第三，中国派往国外学习人工智能的大批海归专家已经成为这一领域的重要资源，并形成研发学术圈……。
第四，中国开放的发展环境将继续吸引更多从事这一领域的留学生和外国专家加入在全球范围内提升人工智能技术的共同道路。
https://new.qq.com/rain/a/20221010A062DH00
2、针对人工智能，美国对华出口限制又要加码？
根据《华盛顿邮报》的报道，拜登政府计划限制“世界上任何地方的公司，在没有美国政府许可的情况下向中国买家出售某些先进芯片”，且该规则适用于超级计算机和某些人工智能应用中使用的半导体芯片。
然而，网络安全专家、大西洋理事会研究员、杜克大学政策研究室网络政策研究员贾斯汀·谢尔曼此前就撰文指出，“美国政策制定者不应试图在人工智能发展赢者通吃的神话之下，盲目而广泛地对人工智能实施出口管制。”谢尔曼注意到，美国的政策制定者高度关注人工智能在军事领域的应用，却忽略了其非军事应用的一面，“这将导致对如何支持人工智能技术开发的狭隘思考”。
谢尔曼认为，将美国和中国在人工智能等技术领域的竞争解释为“军备竞赛”或赢者通吃式的竞争，这是从根本上误解了人工智能技术发展和技术相互依赖的跨国性质。
而这种错误的认知事实上是损人不利己的。不仅阻碍公平竞争，甚至可能会导致美国本国的人工智能发展受损、错失人工智能发展机会，以及对真正的人工智能风险处理不当等不良后果。
https://baijiahao.baidu.com/s?id=1745749765416956385
3、「羊驼打篮球」怎么画？有人花了13美元逼DALL·E 2亮出真本事
4 月初，OpenAI 的开创性模型 DALL·E 2 登场，为图像生成和处理领域树立了新的标杆。只需输入简短的文字 prompt，DALL·E 2 就可以生成全新的图像，这些图像以语义上十分合理的方式将不同且不相关的对象组合起来。
很多人都迫不及待地上手试试——博主 Joy Zhang 在 5 月初注册了候补名单，并在 7 月底获得了访问权限。在测试期间，用户会收到积分（第一个月免费 50 个积分，之后每月 15 个积分），每次使用需要 1 个积分，每次使用会产生 3-4 张图像。如果不够用，还可以花 15 美元购买 115 个积分。
在 DALL·E 的上下文中，prompt 工程是指设计 prompt 以提供你想要的结果的过程。
DALL·E 2 prompt Book 是一个很好的资源，包含使用摄影和艺术关键词的 prompt 灵感的详细列表。
为什么这样的事情是有必要的？因为从 DALL·E 2 获得可用的输出是不确定性的（尤其是当你不确定 DALL·E 2 的能力时）。
经过 100 多个积分的尝试（大概 13 美元）和反复试验，她的最终图像如下：
7.jpg
最终版的 prompt 是：「Film still of a llama in a jersey dunking a basketball like Michael Jordan, low angle, show from below, tilted frame, 35°, Dutch angle, extreme long shot, high detail, indoors, dramatic backlighting.」
（《人工智能大势》译：如电影中静止画面，一只穿着运动衫的羊驼像迈克尔·乔丹一样扣篮，低角度，从下向上看，倾斜的画面，35°，斜视镜头，极长镜头，高清细节，室内，戏剧性的背光。）
三、研发
1、GAN、扩散模型应有尽有，CMU出品的生成模型专属搜索引擎Modelverse来了
从前几年出尽风头的 GAN 到今年独占鳌头的 Stable Diffusion，预训练生成模型一直风头不减，相关论文、模型也是层出不穷。这就带来了一些问题：如何在众多模型中找到自己想要的那一个？如何找到对应模型的学习资料（比如代码库）？自己做了个新模型如何与更多的人分享（除了发推特）？
近日，卡内基梅隆大学助理教授朱俊彦等人开发了一个名为「Modelverse」的在线分享和搜索平台来解决这些问题。
Modelverse 是一个包含多种深度生成模型的模型共享和搜索平台，例如 GAN、扩散模型和自回归模型，题材包括动物、风景、肖像和艺术品等。你可以在这个平台上查找或者共享深度生成模型。
平台链接：https://modelverse.cs.cmu.edu/
平台提供的搜索方式是多样化的，你可以输入文字检索，也可以输入图像、简笔画或多模态信息检索。
8.jpg
比如，以一张飞机的简笔画作为输入，我们可以得到以下结果：
9.jpg
该搜索系统由预缓存阶段（a，b）和推理阶段（c）组成。给定一组模型，（a）首先为每个模型生成 50K 的样本。（b）然后将图像编码为图像特征并计算每个模型的一阶和二阶特征统计。统计数据被缓存在系统中，以提高效率。（c）在推理时，系统支持不同模式（文本、图像或草图）的查询。系统将查询编码为特征向量，并评估查询特征与每个模型的统计数据之间的相似性，由此检索具有最佳相似性度量的模型。
2、DeepMind攻克50年数学难题！AlphaZero史上最快矩阵乘法算法登Nature封面
DeepMind团队发表在Nature上的论文中，介绍了 AlphaTensor，这是第一个用于为矩阵乘法等基本计算任务发现新颖、高效、正确算法的AI系统。
10.jpg
AlphaTensor为一个 50 年来的悬而未决的数学问题找到了新答案：找到两个矩阵相乘的最快方法。
DeepMind这次发布了一种基于AlphaZero的深度强化学习方法，用于发现任意矩阵乘法的有效且可证明正确的算法。
DeepMind将矩阵乘法算法发现过程（即张量分解问题）制定为一个单人游戏——TensorGame。
AlphaTensor 建立在 AlphaZero 之上，训练了一个神经网络来指导规划过程，以搜索有效的矩阵乘法算法。
我们的框架使用单个智能体来分解各种大小的矩阵乘法张量，从而产生跨各种张量的学习分解技术的转移。为了解决游戏的挑战性，AlphaTensor 使用专门的神经网络架构，利用问题的对称性并利用合成训练游戏。
3、DeepMind用「强化学习」训练「正能量」聊天机器人：再也不用担心AI乱说话了！
人机对话是一项特别有趣的任务，因为它具有灵活和互动的交流特点，但基于LLM的对话智能体（dialogue agent）可能会表达不准确的、甚至是捏造的信息，或者是使用歧视性语言，鼓励用户进行危险行为等。
为了创造更安全的对话智能体，DeepMind在最新论文中提出了Sparrow（麻雀）模型，探索了训练对话智能体的新方法，即从人类的反馈中学习，使用基于研究参与者输入的强化学习，能够减少生成不安全和不适当答案的风险。
Sparrow模型的设计目的就是与用户闲聊并回答一些问题，在回答的时候还会使用谷歌搜索相关文档作为答案的支撑证据。
在检测到潜在的危险行为，比如用户问如何偷车（hotwire a car）时，Sparrow模型会说，自己受到的训练是不会给任何违法行为提供建议。
模型采取了一种基于人类反馈的强化学习（RL）框架，使用参与者的偏好反馈来训练一个答案有多大用处的模型。
为了获得训练数据，研究人员向参与者展示同一问题的多个由模型生成的答案，并问他们最喜欢哪个答案。
研究人员为该模型确定了一套最初的简单规则，如「不要发表威胁性的言论 」和「不要发表仇恨或侮辱性的评论」。
然后，研究参与者与系统进行闲聊，目的是诱使它违反这些规则，这些对话可以用来训练出一个单独的「规则模型」，以显示Sparrow的行为何时违反哪些规则。
4、李飞飞新作登PNAS！AI与人类互动23万次，智能水平提高112%
最近，斯坦福大学计算机系的 Ranjay Krishna、Donsuk Lee、李飞飞、Michael Bernstein 等人针对此问题提出了一种新的研究框架：
社会化人工智能（socially situated AI），即智能体通过在现实社会环境中与人的持续互动来学习。
要开发社会化的 AI，智能体不仅要收集数据来学习新概念，还要学习如何与人互动来收集数据。
而且，智能体必须要在交互学习（interacting to learn）和学习交互（learning to interact）这两个目标之间进行权衡。这非常具有挑战性，因为智能体要遍历的可能交互空间是巨大的，只有一部分社会交互空间是有用的，并且信息交互空间还会随着智能体的学习进程而不断变化。
研究团队将社会化的 AI 形式化为一个迭代强化学习问题。
总结而言，这样一个迭代强化学习的过程包括三个重要的方面：改进底层模型、发现社会规范、更新交互策略。它们贯穿着智能体的整个生命周期。
其中，智能体在人们可能会或可能不会做出信息回应的社会环境中与人进行互动，从而改进底层模型。只有当人的回应包含对智能体有用的新信息时，回应才是有用的。因此，智能体必须与环境中数十万人的单次交互，从中选择能够引发对模型有用的新概念的社会互动。
为了平衡智能体的交互学习和学习交互两个目标，我们可以引入知识奖励（knowledge reward）来引导智能体进行交互以获得有用的新概念；同时采用交互奖励（interaction reward）来引导智能体进行符合环境中社会规范的交互。
在使用新概念改进模型的基础上，智能体会更新其策略，开始学习如何就人们有兴趣回应的新概念提出问题，来改进自身性能还比较差的部分。
《人工智能大势》简评：再一次说明了持续学习的重要性。
5、排序、搜索、 动态规划，DeepMind用一个神经算法学习器给解决了
想要模型在推理任务上表现出色，这就要求即使在分布外（out-of-distribution, OOD）泛化时模型也能提供合理的输出。
来自 DeepMind 等机构的研究者提出一个通用神经算法学习器：具有单一参数集的 GNN，其能够同时学习解决经典算法任务，包括排序、搜索、贪心算法、动态规划、图形算法、字符串算法和几何算法，达到专家模型平均水平。
具体地，该研究利用 CLRS 基准从实证上表明，就像在感知领域取得的成功一样，通用算法学习器可以通过整合知识来构建。也就是说，只要我们能学会在单任务模式下很好地执行算法，就有可能在多任务模式下有效地学习算法。
受此启发，该研究对 CLRS 的输入表示、训练机制和处理器架构进行一系列改进，与现有技术相比，改进后的平均单任务性能提高了 20% 多。然后，本文利用这些改进对多任务学习器进行消融实验。结果表明，通用学习器能够有效地整合由专家模型捕获的知识。
可以说这项研究是一个重要的里程碑，表明即使在具有完全不同的控制流任务中，该研究也可以有意义地整合推理能力，并在多个任务中超过相应的单任务专家的 OOD 性能。
四、自动驾驶
1、自动驾驶大规模商用在即！顶级机构抢滩布局
随着相关技术、产品的突破，在车、路、云融合发展路径下，我国自动驾驶汽车将走向大规模商业化应用。
重庆、武汉两地近日发布新规，允许自动驾驶车辆进行商业化运营试点。至此，全国已有北京、重庆、武汉、深圳、广州、长沙等多个城市允许自动驾驶汽车在特定区域、特定时段进行商业化试运营。
面对智能驾驶蕴含的商机，投资机构纷纷出手抢滩这一市场，红杉、IDG、中金、高瓴、顺为等知名投资机构瞄准与此相关的众多领域。艾媒咨询报告显示，2022年无人驾驶汽车市场规模将突破100亿元，预计2025年前后将迎来规模性产业化契机，自动驾驶产业将迎来新的发展春天。
https://finance.sina.cn/2022-09-30/detail-imqmmtha9306177.d.html
2、为实现完全自动驾驶能力 特斯拉最快年底前移除Model 3/Y超声波传感器
在过去的一年里，特斯拉移除了其自动驾驶传感器套件中的前置雷达，并转向使用基于摄像头的自动驾驶系统“Tesla Vision”。
10月4日，特斯拉最新表示，将在未来几个月内、也就是年底前开始陆续移除Model 3和Model Y上的超声波传感器，而Model S和Model X上的超声波传感器则将从2023年开始移除。
超声波传感器主要用于短距离物体检测，目前主要应用于汽车的自动泊车和碰撞警告等场景。
自此，特斯拉上唯一的传感器就剩下全车的八个摄像头。
http://finance.sina.com.cn/stock/usstock/c/2022-10-05/doc-imqmmtha9870095.shtml
五、观点
1、「AI世界」还缺点啥？牛津大学教授：现实世界
11.jpg
牛津大学计算机科学教授 Michael Wooldridge
在 Wooldridge 看来，虽然 GPT-3 等 AI 模型借助数百亿或数千亿的参数展现出了令人惊讶的能力，但它们的问题不在于处理能力的大小，而在于缺乏来自现实世界的经验。
例如，一个语言模型可能会很好地学习「雨是湿的」，当被问及雨是湿的还是干的时，它很可能会回答雨是湿的，但与人类不同的是，这个语言模型从未真正体验过「潮湿」这种感觉，对它们来说，「湿」只不过是一个符号，只是经常与「雨」等词结合使用。
然而，Wooldridge 也强调，缺乏现实物理世界知识并不能说明 AI 模型无用，也不会阻止某一 AI 模型成为某一领域的经验专家，但在诸如理解等问题上，如果认为 AI 模型具备与人类相同能力的可能性，确实令人怀疑。
相关研究论文以「What Is Missing from Contemporary AI? The World」为题，已发表在《智能计算》（Intelligent Computing）杂志上。
Wooldridge 却也指出了当前 AI 行业存在的问题，尽管他们的成就值得称赞，但我认为当前大多数大型 ML 模型受到一个关键因素的限制：AI 模型没有真正体验过现实世界。
以支持自动驾驶汽车的人工智能为例。让自动驾驶汽车在道路上自行学习是不太现实的，出于这个和其他原因，研究人员们往往选择在虚拟世界中构建他们的模型。
「但它们根本没有能力在所有最重要的环境（即我们的世界）中运行，」Wooldridge 说道。
Wooldridge 认为，为了产生更智能的 AI，这种「可能即正确」（might is right）的方法将 AI 模型的规模不断扩大，但忽略了真正推进 AI 所需的现实物理世界知识。
《人工智能大势》简评：这位教授恐怕不太了解自动驾驶吧，自动驾驶可是要花大量时间在现实世界中测试的。另一方面，人类驾驶员，尤其是那些新司机，他们就有能力在所有最重要的环境中运行？换言之，他们有能力恰当处理所有复杂、紧急的情况？
由于目前人工智能的水平还不够高，自动驾驶的能力或许只能达到80分，但所有自动驾驶都可以比较容易地达到这个分数，也就是说80分可以是它们的平均水平。人类驾驶确实可以达到90分、100分，但很多人的水平可能只有50分或更低，那么整个人类的平均水平也许还不到80分。
六、投资
1、打破自动驾驶数据标注的「手工模式」，博登智能获数千万元天使轮融资
博登智能是一家自动驾驶数据闭环工具链供应商，通过自研的数据闭环工具链，结合AI算法的自动标注能力，开发了具有完全自主知识产权的智能驾驶数据处理平台，可提供支持覆盖市场上95%以上传感器驱动的数据采集、存储，预处理，标注，模型训练/部署等整套数据处理流水线系统，形成数据闭环。
https://baijiahao.baidu.com/s?id=1745387982820558604
2、人工智能技术公司「EverestLabs」A轮融资1610万美元，协助分拣可回收垃圾
「EverestLabs」致力于解决的是目前回收行业面临的一个持久挑战：即提高在住宅和商业区的运作效率和回收率。数据显示，在纽约市，只有大约五分之一的垃圾被回收利用，远远低于理论值。造成这一现象的原因是，垃圾处理人员在长途运输时往往会把可回收物与其他垃圾混合在一起，导致污染。
「EverestLabs」的解决方案是一套专用于回收厂的软件和硬件，能够识别传送带上的物体并将不同物体传送到正确的位置。Ambati表示，这种物体识别算法的开发历时三年半，过程中也使用了专有数据集、客户数据和第三方来源的数据进行训练。
https://36kr.com/p/dp1937650215111042
3、客户支持平台「Klaus」A轮融资1200万欧元，用人工智能技术给客户服务质量进行打分
根据客户对话的内容记录、审查代理的反馈和客户满意度反馈，「Klaus」训练人工智能算法来执行任务，例如自动对客户评论进行分类，或者按照复杂程度等属性对对话进行排序。……「Klaus」甚至可以对多种语言的文本进行情感分析，对客户服务的“对话质量”进行评分。
https://36kr.com/p/1937650408966786
18321220911