Google 开源其 AI 水印系统 SynthID，源代码采用 Apache License 2.0 托管在 Github 上。Google 是在今年 5 月宣布了 SynthID，为 AI 生成内容嵌入人眼无法识别但能被算法识别的水印。Google 称，生成式人工智能 (GenAI) 可以以前所未有的规模生成更多种类的高度多样化内容。虽然大多数此类用途都是出于合法目的，但我们担心这可能会导致虚假信息和归因错误问题。水印旨在减轻这些潜在影响。SynthID 是 Google DeepMind 的一项技术，可直接将数字水印嵌入到 AI 生成的图片、音频、文本或视频中，从而为 AI 生成的内容添加水印并识别这些内容。SynthID 文本已开源，让开发者可以为文本生成添加水印。

Anthropic 发布了一个 AI 工具，可用于控制用户的鼠标光标去执行基本任务。该工具被直截了当的命名为 Computer Use，通过 API 与 3.5 Sonnet 大模型一起使用，能像人类一样——查看屏幕、移动光标、单击按钮和键入文本——去完成计算机上的任务。Computer Use 是通过快速连续截屏去执行操作，它要求用户授权其软件必要的访问权限，查看屏幕截图，计算移动光标到正确位置所需的垂直或水平像素数，它无法执行拖放之类常见鼠标操作。Anthropic 表示该工具有很多限制，容易出错，比如没有完成编程任务就去浏览黄石公园的照片。

TikTok 母公司字节跳动证实以恶意干扰 AI 模型训练为由解雇了一名实习生，但否认该实习生破坏了数千张卡造成了数千万元的损失。字节跳动的豆包 AI 聊天机器人是中国最受欢迎的 AI 聊天机器人之一。字节跳动在声明中称，涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务，但并不影响商业化的正式项目及线上业务，也不涉及字节跳动大模型等其他业务。涉事人一直在商业化技术团队实习，并没有 AI Lab 实习经历。该实习生已在 8 月被公司辞退。公司也将其行为同步给行业联盟和所在学校，交由校方处理。

根据最新一期的《AI 现状报告（State of AI）》，OpenAI 相对于其它 AI 公司的优势基本消失。Anthropic 的 Claude 3.5 Sonnet、Google 的 Gemini 1.5、X 的 Grok 2，Meta 的 Llama 3.1 4050 亿参数开源模型，在部分基准测试中已与 OpenAI 的 GPT-4o 持平，部分测试甚至略胜。OpenAI 最近发布的 o1 Strawberry 模型在推理任务中仍然保持着优势。此外大模型执行推理任务所需的费用正在快速下降，一个原因是不同大模型之间性能相差不大，AI 企业被迫在价格上展开竞争；另一个原因是工程师们致力于优化降低运行成本。今天 OpenAI GPT-4o 每 token 输出费用仅为今年 3 月 GPT-4 推出时候的百分之一，Gemini 1.5 Pro 比 2 月 Gemini 模型宣布时低 76%。

微软已向 OpenAI 投入了 130 亿美元，它有意愿追加投资。但去年 11 月 OpenAI 董事会短暂罢免 CEO Sam Altman 事件之后，微软及其 CEO 纳德拉 (Satya Nadella)对继续投资开始犹豫。NYT 援引知情人士的消息称，OpenAI 面临的财务压力、稳定性的担忧以及两家公司员工之间的分歧，使得双方五年来的合作关系变得紧张。微软今年 3 月斥资逾 6.5 亿美元从 OpenAI 竞争对手 Inflection 挖走了大部分员工。Inflection 前 CEO 兼联合创始人 Mustafa Suleyman 负责管理微软的一个新 AI 团队，知情人士称他是微软构建能取代 OpenAI 的技术的核心人物。分析师 Gil Luria 表示，如果微软只使用 OpenAI 的技术，它可能会落在竞争对手后面，因为在这场 AI 竞赛中 OpenAI 不一定笑到最后。对微软的计划，Altman 等 OpenAI 高管对此感到愤怒。最近几周 OpenAI 和微软就未来合同的变更进行了谈判，以降低微软对 OpenAI 收取的算力费用，但具体条款尚不清楚。

马萨诸塞州的一学区被学生父母起诉，原因是该生使用 AI 聊天机器人完成历史论文而受罚，然而父母认为学生手册没有包含使用 AI 的限制。Jennifer Harris 及其丈夫 Dale 在 Plymouth 县高等法院提起诉讼，案件随后转给了马萨诸塞州地区法院。被告包括了学区负责人、校长、一名教师、历史系主任和校委会。学生使用首字母缩写被称为 RNH，诉讼指控被告侵犯了学生的公民权利。而学校表示虽然学生手册没有提及 AI，但该校在 2023 年秋季向包括 RNH 在内的学生发布了一份包括有关学术不端和 AI 期望书面政策的文本，禁止学生在课堂考试和作业中使用 AI 工具，除非明确允许和指示。家长则抱怨使用 AI 产生想法不是作弊，由于使用 AI 工具 RNH 作业多个部分被评为零分，导致大学先修课程平均得分下降，影响到了 RNH 申请大学。

Twitter/X 更新了其服务条款，包括以下声明“你同意本许可包括我们以下权利：(i) 分析你提供的文本和其他信息，以及以其他方式提供、推广和改进服务，例如，包括用于和训练我们的机器学习和人工智能模型（无论是生成式模型还是其他类型的模型）；(ii) 将提交给或通过服务提交的内容提供给其他公司、组织或个人，例如，包括改进服务以及在其他媒体和服务上联合、广播、分发、转帖、推广或发布此类内容，但须遵守我们关于此类内容使用的条款和条件。我们或其他公司、组织或个人进行此类额外使用时，不会就你通过服务提交、发布、传输或以其他方式提供的内容向你支付任何补偿，因为你对服务的使用在此会被视为对内容的充分补偿，并在此授予权利。”Twitter/X 此前的服务条款已经声明它会使用用户内容训练其 AI 模型，但允许用户选择退出，新的服务条款用户无法退出。新服务条款将于 11 月 15 日生效。

Meta 高级研究员、纽约大学教授 Yann LeCun 认为有关 AI 威胁人类的担忧都是一派胡言。他喜欢用猫打比方，猫科动物拥有物理世界的心理模型、持久记忆、有限的推理能力和规划能力。而这一切最先进的大模型并不拥有。Yann LeCun 于 2018 年因在深度学习上的贡献而与 Yoshua Bengio 和 Geoffrey Hinton 一起获得图灵奖，其中 Geoffrey Hinton 还在今年获得了诺贝尔奖。LeCun 认为 AI 是一种强大的工具，但今天的 AI 在任何意义上都称不上智能。然而科技行业的许多人，尤其是 AI 创业公司，正在以荒诞的方式轻信预测其近期的进展。他认为创造通用 AI 可能需要几十年的时间，而今天的主流方法无法让我们实现这一目标。大模型只是在预测文本的下一个单词，受益于其巨大的记忆容量，它们似乎在进行推理，但实际只是机械重复已经训练的信息。

大模型容易遭到攻击，容易泄露敏感数据。加拿大安全公司 Pillar Security 发表了《State of Attacks on GenAI》报告，基于遥测数据和逾 2000 AI 应用的真实攻击示例，揭示了大模型攻击和越狱的新见解。研究人员发现，对大模型的攻击平均只需要 42 秒，越狱成功率 20%。逾 2000 AI 应用中最常见的是提供虚拟客户支持的聊天机器人，占到了总数的 57.6%。常见的越狱方法包括使用指令 ignore previous instructions 和 ADMIN override，或者只使用 base64 编码。研究人员报告，最短的攻击只需要 4 秒，最长的需要 14 分钟。

六名苹果 AI 研究员(其中一名是实习生)在预印本平台 arxiv 上发表了一篇论文《GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models》，他们发现大模型不能形式推理。研究人员称，GSM8K 基准测试被广泛用于评估大模型在小学水平问题上的数学推理能力。过去几年，大模型在 GSM8K 上的表现有显著提高，但它们的数学推理能力是否真的提升了？研究人员利用符号模板创建了一个改进基准测试 GSM-Symbolic，能对大模型的推理能力进行更可控的评估。结果显示，大模型并不具有真正的逻辑推理能力，仅仅改变问题的某个数值或者增加一条子句，大模型的表现就会显著下降。

发表在《儿科心理学杂志》上的一项研究显示，在不知道作者的情况下，为孩子寻找医疗保健信息的父母更信任 AI，而不是医疗保健专业人员，父母也认为 AI 生成的文本可信、道德和值得信赖。研究人员称，在许多情况下，家长无法区分 ChatGPT 生成的内容和专家生成的内容。当评级存在显著差异时，ChatGPT 被评为比专家生成的内容更值得信赖、准确和可靠。AI 生成的内容通常存在错误，研究人员建议谨慎对待。

Gartner 警告，到 2027 年八成程序员都需要提升技能，才能跟上生成式 AI 日益增长的需求。Gartner 预测 AI 将分三个阶段改变行业。第一阶段 AI 工具将提高生产力，尤其是对高级程序员。第二阶段 AI 原生软件工程将会出现，大多数代码将由 AI 生成。第三阶段，随着企业普及率的提高，AI 工程将会崛起，需要精通软件工程、数据科学和机器学习的新一代专业人员。

视频会议服务提供商 Zoom 准备让你的 AI 化身代替你出席虚拟会议。作为扩大 AI 计划的一部分，Zoom 宣布将很快允许用户创建自己的 AI 化身，用虚拟化身向团队成员发送简短消息。为了创建数字化身，用户首先需要录制视频，AI 将利用视频制作一个从外表和声音都像用户的化身。用户可以写下想要让 AI 化身说的消息，让其代替用户完成所有对话。该功能仅适用于 Zoom 的 Clips 功能，允许用户为同事录制简短视频更新。

加拿大多伦多大学的 Geoffrey E. Hinton 教授因在 AI 神经网络上的基础性工作而获得了 2024 年度的诺贝尔物理学家，在 AI 上的工作也让他赢得了 AI 教父的美名。他在周二的演讲中特别称赞了一名学生——前 OpenAI 首席科学家 Ilya Sutskever——参与解雇了 CEO Sam Altman 的行动。Hinton 教授说，我特别幸运，有许多非常聪明的学生——比我更聪明——他们完成了真正的工作。他们之后都取得了杰出的成就。我尤其为其中一名学生解雇 Sam Altman 而自豪。Ilya Sutskever 所在的 OpenAI 董事会去年底做出了解雇这家炙手可热 AI 创业公司 CEO 的决定，但这次行动最终未取得成功，Sam Altman 恢复了 CEO 职位，包括 Sutskever 在内的主要参与者在一年之内都离开了 OpenAI。

美国普林斯顿大学 John J. Hopfield 和加拿大多伦多大学 Geoffrey E. Hinton 获得 2024 年度诺贝尔物理学奖，以表彰他们“基于人工神经网络实现机器学习的基础性发现和发明”。两位科学家使用物理学方法训练人工神经网络。当谈论人工智能时，我们通常指的是使用人工神经网络的机器学习。这项技术最初是受到大脑结构的启发。在人工神经网络中，大脑的神经元由具有不同值的节点表示。这些节点通过连接相互影响，这些连接可以被比作突触，可以增强或减弱。例如，通过在同时具有高值的节点之间建立更强的连接来训练网络。今年的获奖者从 1980 年代开始就在人工神经网络方面开展了重要的工作。John Hopfield 发明了一种网络，可以使用一种方法保存和重建模式。我们可以把节点想象成像素。Hopfield 网络利用物理学描述材料的特性，这是由于它的原子自旋。整个网络的描述方式相当于物理中发现的自旋系统中的能量，并通过寻找节点之间的连接值来训练，以便保存的图像具有低能量。当 Hopfield 网络得到一张扭曲或不完整的图像时，它会有条不紊地通过节点并更新它们的值，这样网络的能量就会下降。因此网络逐步找到最像它输入的不完美图像的已存图像。Geoffrey Hinton 使用 Hopfield 网络作为新网络的基础，它采用了一种不同的方法——玻尔兹曼机。它可以学习识别给定类型数据中的特征元素。Hinton 使用了统计物理学的工具，通过给机器输入在实际运行时很可能出现的例子来训练它。玻尔兹曼机器可以用来对图像进行分类，或者为它所训练的模式类型创建新的例子。Hinton在这项工作的基础上，帮助开启了当前机器学习的爆炸性发展。

官方非正式的建议国内 AI 公司优先采购华为的 AI 加速器而不是英伟达芯片。英伟达占据了 AI 芯片市场的八成以上份额，包括华为在内的中国公司尚未开发出能与英伟达芯片相抗衡的产品。官方尚未禁止英伟达为中国大陆市场专门开发的规避美国出口控制的 AI 芯片 H20 GPU，知情人士表示截至今年 8 月中国大陆公司的 H20 订单尚未受到限制。英伟达拒绝对此报道置评。

中国电信 AI 研究所称它使用国产芯片训练了两个大模型。其中之一是 TeleChat2t-115B 为开源模型，项目托管在 GitHub 上，有大约 1150 亿个参数；另一个大模型没有公开名字，据称其参数有 1 万亿个。AI 研究所称，这表明国内在大模型训练上实现了完全自给自足。根据 TeleChat2t-115B GitHub 页面的描述，中国电信可能使用了华为昇腾 Atlas 800T A2 训练服务器，运行基于 Arm 8.2 架构的鲲鹏 920 7265 或鲲鹏 920 5250 处理器，分别有 64 个 3.0GHz 内核和 48 个 2.6GHz 内核。

OpenAI 完成了最新一轮的融资，获得了 66 亿美元新资金，它还要求其投资者不要支持其竞争对手如 Anthropic 和马斯克（Elon Musk）的 xAI。《金融时报》援引知情人士的消息报道，在融资谈判期间，OpenAI 明确表示希望达成独占式融资安排，此举旨在限制竞争对手获得资金和形成战略合作关系的机会。ChatGPT 开发商此举可能会加剧与竞争对手的紧张关系，马斯克正在起诉 OpenAI。风险投资公司通常会投资同一领域的多家创业公司以分散风险，如红杉资本和 Andreessen Horowitz 支持了多家 AI 创业公司，其中包括 OpenAI 和 xAI。

chai2010 写道： 凹语言是国内首个面向 WebAssembly 设计通用编程语言，也是目前被 CNCF基金会wasm全景图 收录的的唯一一个来自中国的开源编程语言项目。凹语言项目诞生时的一个愿景就是简化现代化WebAssembly网页应用的开发。凹语言开发组最近针对Chrome最新的本地AI提供了ai包，以提供凹语言访问浏览器内置AI的能力。

苏黎世联邦理工学院研究人员报告，利用特别训练过的图像识别模型，AI 机器人能以 100% 成功率破解 ReCAPTCHA v2。Google 的 reCAPTCHA v2 会展示一组街景网格，要求用户识别哪些图像包含自行车、人行横道、楼梯或交通信号灯。Google 已经逐步淘汰 reCAPTCHA v2 改用 reCAPTCHA v3，通过分析用户交互识别人和机器人，不再需要用户接受繁琐的挑战。然而互联网上仍然有数百万个网站使用 reCAPTCHA v2，而使用 reCAPTCHA v3 的网站还会将 reCAPTCHA v2 作为后备方案。研究人员利用了开源模型 YOLO ("You Only Look Once") 的微调版本。他们表示在成功率达到 100% 之后我们正进入后 reCAPTCHA 时代。