大模型容易遭到攻击，容易泄露敏感数据。加拿大安全公司 Pillar Security 发表了《State of Attacks on GenAI》报告，基于遥测数据和逾 2000 AI 应用的真实攻击示例，揭示了大模型攻击和越狱的新见解。研究人员发现，对大模型的攻击平均只需要 42 秒，越狱成功率 20%。逾 2000 AI 应用中最常见的是提供虚拟客户支持的聊天机器人，占到了总数的 57.6%。常见的越狱方法包括使用指令 ignore previous instructions 和 ADMIN override，或者只使用 base64 编码。研究人员报告，最短的攻击只需要 4 秒，最长的需要 14 分钟。

六名苹果 AI 研究员(其中一名是实习生)在预印本平台 arxiv 上发表了一篇论文《GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models》，他们发现大模型不能形式推理。研究人员称，GSM8K 基准测试被广泛用于评估大模型在小学水平问题上的数学推理能力。过去几年，大模型在 GSM8K 上的表现有显著提高，但它们的数学推理能力是否真的提升了？研究人员利用符号模板创建了一个改进基准测试 GSM-Symbolic，能对大模型的推理能力进行更可控的评估。结果显示，大模型并不具有真正的逻辑推理能力，仅仅改变问题的某个数值或者增加一条子句，大模型的表现就会显著下降。

发表在《儿科心理学杂志》上的一项研究显示，在不知道作者的情况下，为孩子寻找医疗保健信息的父母更信任 AI，而不是医疗保健专业人员，父母也认为 AI 生成的文本可信、道德和值得信赖。研究人员称，在许多情况下，家长无法区分 ChatGPT 生成的内容和专家生成的内容。当评级存在显著差异时，ChatGPT 被评为比专家生成的内容更值得信赖、准确和可靠。AI 生成的内容通常存在错误，研究人员建议谨慎对待。

Gartner 警告，到 2027 年八成程序员都需要提升技能，才能跟上生成式 AI 日益增长的需求。Gartner 预测 AI 将分三个阶段改变行业。第一阶段 AI 工具将提高生产力，尤其是对高级程序员。第二阶段 AI 原生软件工程将会出现，大多数代码将由 AI 生成。第三阶段，随着企业普及率的提高，AI 工程将会崛起，需要精通软件工程、数据科学和机器学习的新一代专业人员。

视频会议服务提供商 Zoom 准备让你的 AI 化身代替你出席虚拟会议。作为扩大 AI 计划的一部分，Zoom 宣布将很快允许用户创建自己的 AI 化身，用虚拟化身向团队成员发送简短消息。为了创建数字化身，用户首先需要录制视频，AI 将利用视频制作一个从外表和声音都像用户的化身。用户可以写下想要让 AI 化身说的消息，让其代替用户完成所有对话。该功能仅适用于 Zoom 的 Clips 功能，允许用户为同事录制简短视频更新。

加拿大多伦多大学的 Geoffrey E. Hinton 教授因在 AI 神经网络上的基础性工作而获得了 2024 年度的诺贝尔物理学家，在 AI 上的工作也让他赢得了 AI 教父的美名。他在周二的演讲中特别称赞了一名学生——前 OpenAI 首席科学家 Ilya Sutskever——参与解雇了 CEO Sam Altman 的行动。Hinton 教授说，我特别幸运，有许多非常聪明的学生——比我更聪明——他们完成了真正的工作。他们之后都取得了杰出的成就。我尤其为其中一名学生解雇 Sam Altman 而自豪。Ilya Sutskever 所在的 OpenAI 董事会去年底做出了解雇这家炙手可热 AI 创业公司 CEO 的决定，但这次行动最终未取得成功，Sam Altman 恢复了 CEO 职位，包括 Sutskever 在内的主要参与者在一年之内都离开了 OpenAI。

美国普林斯顿大学 John J. Hopfield 和加拿大多伦多大学 Geoffrey E. Hinton 获得 2024 年度诺贝尔物理学奖，以表彰他们“基于人工神经网络实现机器学习的基础性发现和发明”。两位科学家使用物理学方法训练人工神经网络。当谈论人工智能时，我们通常指的是使用人工神经网络的机器学习。这项技术最初是受到大脑结构的启发。在人工神经网络中，大脑的神经元由具有不同值的节点表示。这些节点通过连接相互影响，这些连接可以被比作突触，可以增强或减弱。例如，通过在同时具有高值的节点之间建立更强的连接来训练网络。今年的获奖者从 1980 年代开始就在人工神经网络方面开展了重要的工作。John Hopfield 发明了一种网络，可以使用一种方法保存和重建模式。我们可以把节点想象成像素。Hopfield 网络利用物理学描述材料的特性，这是由于它的原子自旋。整个网络的描述方式相当于物理中发现的自旋系统中的能量，并通过寻找节点之间的连接值来训练，以便保存的图像具有低能量。当 Hopfield 网络得到一张扭曲或不完整的图像时，它会有条不紊地通过节点并更新它们的值，这样网络的能量就会下降。因此网络逐步找到最像它输入的不完美图像的已存图像。Geoffrey Hinton 使用 Hopfield 网络作为新网络的基础，它采用了一种不同的方法——玻尔兹曼机。它可以学习识别给定类型数据中的特征元素。Hinton 使用了统计物理学的工具，通过给机器输入在实际运行时很可能出现的例子来训练它。玻尔兹曼机器可以用来对图像进行分类，或者为它所训练的模式类型创建新的例子。Hinton在这项工作的基础上，帮助开启了当前机器学习的爆炸性发展。

官方非正式的建议国内 AI 公司优先采购华为的 AI 加速器而不是英伟达芯片。英伟达占据了 AI 芯片市场的八成以上份额，包括华为在内的中国公司尚未开发出能与英伟达芯片相抗衡的产品。官方尚未禁止英伟达为中国大陆市场专门开发的规避美国出口控制的 AI 芯片 H20 GPU，知情人士表示截至今年 8 月中国大陆公司的 H20 订单尚未受到限制。英伟达拒绝对此报道置评。

中国电信 AI 研究所称它使用国产芯片训练了两个大模型。其中之一是 TeleChat2t-115B 为开源模型，项目托管在 GitHub 上，有大约 1150 亿个参数；另一个大模型没有公开名字，据称其参数有 1 万亿个。AI 研究所称，这表明国内在大模型训练上实现了完全自给自足。根据 TeleChat2t-115B GitHub 页面的描述，中国电信可能使用了华为昇腾 Atlas 800T A2 训练服务器，运行基于 Arm 8.2 架构的鲲鹏 920 7265 或鲲鹏 920 5250 处理器，分别有 64 个 3.0GHz 内核和 48 个 2.6GHz 内核。

OpenAI 完成了最新一轮的融资，获得了 66 亿美元新资金，它还要求其投资者不要支持其竞争对手如 Anthropic 和马斯克（Elon Musk）的 xAI。《金融时报》援引知情人士的消息报道，在融资谈判期间，OpenAI 明确表示希望达成独占式融资安排，此举旨在限制竞争对手获得资金和形成战略合作关系的机会。ChatGPT 开发商此举可能会加剧与竞争对手的紧张关系，马斯克正在起诉 OpenAI。风险投资公司通常会投资同一领域的多家创业公司以分散风险，如红杉资本和 Andreessen Horowitz 支持了多家 AI 创业公司，其中包括 OpenAI 和 xAI。

chai2010 写道： 凹语言是国内首个面向 WebAssembly 设计通用编程语言，也是目前被 CNCF基金会wasm全景图 收录的的唯一一个来自中国的开源编程语言项目。凹语言项目诞生时的一个愿景就是简化现代化WebAssembly网页应用的开发。凹语言开发组最近针对Chrome最新的本地AI提供了ai包，以提供凹语言访问浏览器内置AI的能力。

苏黎世联邦理工学院研究人员报告，利用特别训练过的图像识别模型，AI 机器人能以 100% 成功率破解 ReCAPTCHA v2。Google 的 reCAPTCHA v2 会展示一组街景网格，要求用户识别哪些图像包含自行车、人行横道、楼梯或交通信号灯。Google 已经逐步淘汰 reCAPTCHA v2 改用 reCAPTCHA v3，通过分析用户交互识别人和机器人，不再需要用户接受繁琐的挑战。然而互联网上仍然有数百万个网站使用 reCAPTCHA v2，而使用 reCAPTCHA v3 的网站还会将 reCAPTCHA v2 作为后备方案。研究人员利用了开源模型 YOLO ("You Only Look Once") 的微调版本。他们表示在成功率达到 100% 之后我们正进入后 reCAPTCHA 时代。

游戏公司纷纷拥抱生成式 AI，但任天堂的传奇设计师宫本茂表示，该公司会走不同的方向。宫本茂表示这不是为了走反方向而走反方向，这是为了尝试找出任天堂的特别之处。有很多关于 AI 的讨论。每个人都朝着相同的方向前进，但任天堂宁愿走不同的方向。任天堂总裁古川俊太郎在 7 月回答投资者提问时也对 AI 的使用表达了模糊的立场，称生成式 AI 可以创造性的使用，但也可能引发知识产权方面的问题。

根据发表在《自然》期刊上的一项研究，参数规模更大的 AI 聊天机器人倾向于更可能胡说八道。西班牙 Valencian Research Institute for Artificial Intelligence 的研究员分析了大模型的幻觉，观察随着模型参数规模愈来愈大其幻觉或错误是如何变化的。研究团队发现，更大更精调的大模型更精确，但也更不可靠。它们产生的错误答案比例略有增加。原因是更大参数规模的模型倾向于更不可能回避问题，比如说不知道答案或改变话题。研究人员说，结果是大模型尝试回答所有问题，生成了更多正确的答案以及更多错误的答案。大模型愈来愈擅长于伪装成无所不知。用户可能会高估 AI 聊天机器人的能力。研究人员分析了三种模型家族：OpenAI 的 GPT、Meta 的 LLaMA 和 BigScience 的开源模型 BLOOM。

微软透露了能修正 AI 幻觉的新工具 Correction。幻觉是大模型固有的缺陷，Correction 主要是通过交叉验证去修正幻觉，它并不能从根本上解决幻觉问题。Correction 首先标记潜在有错误的文本，然后将其与事实来源进行比较进行事实核查。Correction 作为 Azure AI Content Safety API 的一部分提供给用户，能与任何文本生成模型一起使用，包括 Meta 的 Llama 和 OpenAI 的 GPT-4o。华盛顿大学的博士生 Os Keyes 认为 Correction 可能会减少部分问题，但也会产生新的问题，因为它的幻觉检测库也会产生幻觉。

科技巨头竞相以高价聘请最顶尖的 AI 人才，但 Google 付出的代价令所有人望尘莫及。Noam Shazeer 是 2017 年开创性的神经网络架构 Transformer 论文《Attention Is All You Need》的合作者，在 Google 拒绝发布他开发的聊天机器人后，他于 2021 年离开公司创办了 Character.AI。当 Character.AI 陷入困境时，前雇主突然现身。Google 开出了 27 亿美元的支票，除了授权 Character.AI 技术外，交易的一部分是让 Shazeer 同意重新为其工作。在公司内部，Shazeer 的回归被广泛视为是公司同意支付 27 亿美元授权费的主要原因。Shazeer 现在是搜索巨人负责 Gemini 下个版本的三人之一。Google 拒绝让 Shazeer 接受采访。

传奇电影人 James Cameron 加入了 AI 创业公司 Stability AI 的董事会。CEO Prem Akkaraju 表示，James Cameron 生活在未来，等待我们追赶上。Stability AI 的使命是改变下个世纪的视觉媒体，为创作者提供全栈 AI 管线，让他们梦想成真。James Cameron 将有助于它实现这一使命。Stability AI 董事会的其它成员包括了 Greycroft 联合创始人 Dana Settle、Coatue Management COO Colin Bryant，以及担任执行主席的前 Facebook 总裁 Sean Parker。Stability AI 的文本图像模型 Stable Diffusion 是 Hugging Face 上最受欢迎的图像模型，下载量愈 1.5 亿次。

OpenAI CEO Sam Altman 在个人博客上发表文章，阐述了对 AI 未来的愿景，他认为我们距离超级 AI 可能只有几千日。作为一名利益相关者，他的预言可能类似马斯克，更多是为了推销自己的公司。一千天大约是 2.7 年，几千天也就是 3-27 年之间。Altman 称：经过数千年的科学发现和技术进步的积累，我们已经找到了如何溶化沙子，添加杂质，以令人惊讶的精度在极小的尺度上排列成计算机芯片，给它们通电，最终得到能够创造日益强大的人工智能的系统。这可能是迄今为止历史上最重要的事实。我们有可能在几千天内实现超级智能！可能会需要更长的时间，但我相信我们最终会实现这一目标。可以用六个字来概括：深度学习有效。用一句话来说：深度学习取得成功，随着规模的扩大，可以预见它会变得更好，我们为此投入了更多资源。

Constellation Energy 周五宣布，五年前关闭的三里岛核电站 1 号机组预计将于 2028 年重启，具体时间取决于 Nuclear Regulatory Commission 的批准。核电站将向微软数据中心供电驱动其 AI 服务。Constellation 表示，1 号机组反应堆的重启将增加 3,400 个直接和间接工作岗位，为电网增加愈 800 MW 的电力，为核电厂所在的宾州增加 160 亿美元 GDP。三里岛以美国历史上最严重核事故知名，2 号机组自 1979 年以来一直处于关闭状态。

网信办公布了《人工智能生成合成内容标识办法（征求意见稿）》，要求平台和服务提供者对 AI 生成内容明确标识，鼓励添加数字水印等形式的隐式标识。。《意见稿》要求， （一）在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；
（二）在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识；
（三）在图片的适当位置添加显著的提示标识；
（四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识；
（五）呈现虚拟场景时，应当在起始画面的适当位置添加显著的提示标识，可在虚拟场景持续服务过程中的适当位置添加显著的提示标识；
（六）其他生成合成服务场景应当根据自身应用特点添加具有显著提示效果的显式标识。
服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。