IGCSE计算机科学考生必读：2024 年，人类在人工智能上有哪些新突破？

IGCSE 是许多国际学校选择的高一、高二课程体系（对应体制内学校的初三和高一）。
在 IGCSE 里，学生可以选择计算机科学这门课，但并不是只有想将来读计算机科学专业的同学才会选，我有很多以后打算读商科和经济的学生，也选了这门课。这门课的基础知识，足够让学生消除自己对科技的恐惧感，并且了解科技行业和公司的基本运作原理。
2024 年年底，我去上海德威浦西学校开过一次三天的培训会，在培训的第一天，我遇到了一位北京德威国际学校的老师，跟着他全程体验了「将自动驾驶技术融入 IGCSE 计算机科学课程」。
 
人工智能也是 IGCSE 计算机科学课程的必修内容，这部分内容位于考纲的第六部分 Automated and Emerging Technologies 的 6.3 分部：Artificial Intelligence 。
作为 IGCSE 计算机科学的学生（以及大考考生），紧跟人工智能的前言资讯，对学习和备考都很有帮助。
人工智能也是当今理论计算机科学中最引人注目（但也是最容易被误解）的领域。2024 年，OpenAI 发布了其 ChatGPT o1 聊天机器人模型（并介绍了 o3 模型），这些模型似乎能做出令人惊讶且功能强大的新巧思。
但是，尽管取得了如此大的进步，这些 AI 工具的内部运作机制仍不清楚，为安全漏洞留下了空间。
 
在所有关于生成式人工智能技术的未知中，研究人员尤其好奇的是，这些模型是否真正理解它们所说的话，或者它们是否只是 “随机鹦鹉”，仅仅是不停重复它们以前听过的话。
新的研究表明，这些机器可能真的听得懂。
当谷歌 DeepMind 团队研究这些语言模型的能力时，他/她们得出结论：这些机器不可能只是简单地重复训练数据。人工智能先驱杰夫里·辛顿也说：“这些模型令人信服地证明，它们生成的结果，几乎可以肯定不会出现在预训练数据中。”
辛顿因其在机器学习方面的研究成果而获得了 2024 年诺贝尔物理学奖。
 
事实上，大语言模型展现出的一种被称为 “直觉级理解” (Grokking) 的现象表明，人类理解这些神秘机器如何处理信息有了新的途径。
尽管关于 Grokking 的研究取得了突破，但重要的是要记住，在 2024 年，这个研究仍处于起步阶段。到目前为止，研究人员只研究了极小的网络，目前还不清楚这些发现是否适用于更大、更强大的网络。
 
2024 年，另一项计算机科学的突破与思维链有关 (Chain-of-Thought Reasoning) 。
许多计算机科学团队正在使用计算复杂性技术（计算机科学的一个分支）来帮助解释为什么大语言模型 (LLMs) 在逐步解决问题时 (step-by-step) 似乎做得更好。
你的小学老师可能没有教你如何进行 20 位数的加法运算。但是，如果你知道如何进行位数少得多的数字加法，那接下来你所需要的只是纸和笔以及一点耐心。从 1 位开始，一步一步向左加，很快你就能轻松堆出五万亿。
这样的问题对人类来说很容易，但前提是我们必须用正确的方法去解决。人类解决这些问题的方式并不是“盯着它看，然后写下答案”，人类实际上是一步步解题的。
当同样的思维方式被应用到大型语言模型中时，它们就能更好地解决问题。2024 年，研究人员开始更加明白其中的原因。
编译者注：本文后半部分编译自 Quanta Magazine