∞ OpenAI首席执行官：今年不会上市 不能冒哪怕10%杀死所有人的风险
OpenAI首席执行官Sam Altman在接受采访时表示，这家人工智能公司专注于解决围绕AI技术的安全担忧，今年不会上市。Altman表示，今年进行首次公开募股“时机不合适”，公司要到明年才会上市。
“我认为，哪怕冒着10%的在本十年结束前杀死所有人的风险，都是不可接受的，”Altman说，“我认为，我们正在进入一个新时代，就像过去迈入其他时代时一样，我们需要采取不同的行动，确保我们所做的事情能够让这一理念造福全人类，同时也要确保没有任何人承担哪怕接近这种程度的风险。”
Altman的上述视频发表之际，Anthropic首席执行官Dario Amodei和马斯克周六也都表示，鉴于给人类带来的风险不断上升，有必要放慢人工智能发展的步伐。这是该领域三家主要竞争对手的领导人罕见达成一致的时刻。
Altman表示：“我认为，我们所有人都应该认同的一项关键原则是，我们不能采取任何可能导致人工智能夺走未来控制权的行动。”
OpenAI已于6月份以保密形式提交IPO文件，不过该公司也表示上市时间仍未确定。Anthropic一直在为上市做准备，其IPO规模可能超过SpaceX今年早些时候创下的纪录。SpaceX当时的IPO规模为862亿美元，其中包括超额配售选择权。
∞ 微软揭秘32位Windows为何限制4GB内存：并非技术做不到 而是驱动程序不可靠
长期以来，关于32位Windows为何只能使用4GB内存，一直存在一种看似合理的解释：因为32位地址只能表示2^32个地址，也就是最多4GB内存。但微软资深工程师Raymond Chen近日重新解释了这一历史问题，并指出这种说法并不完整。实际上，32位x86处理器和Windows早就具备访问4GB以上物理内存的能力，真正让微软最终选择将普通消费者版本Windows限制在4GB以内的关键原因，是当时庞大而复杂的硬件驱动生态存在严重兼容性风险。
从纯粹的硬件能力来看，32位处理器并非只能访问4GB物理内存。英特尔早在Pentium Pro时代就引入了Physical Address Extension，也就是PAE（物理地址扩展）技术，使32位x86处理器能够使用36位物理地址。这样一来，理论上可寻址的物理内存便从4GB扩大到了64GB。
PAE并不会改变32位应用程序本身的虚拟地址空间。对于普通32位程序而言，它仍然只能看到一个4GB大小的虚拟地址空间，操作系统需要负责在这个有限的虚拟地址空间与更大的物理内存之间进行管理和映射。换句话说，PAE解决的是操作系统如何管理4GB以上物理内存的问题，而不是让单个32位程序突然获得超过4GB的连续地址空间。
微软实际上早就利用了这项能力。Windows Server 2003的部分服务器版本就可以通过PAE使用远超过4GB的内存，其中Enterprise Edition最高支持64GB，而Datacenter Edition最高甚至支持128GB。这证明“32位Windows从技术上只能使用4GB”并不准确。
真正的问题出现在驱动程序身上。
当PAE启用后，系统可能向硬件驱动程序提供超过32位范围的物理地址。对于那些按照传统32位环境编写的驱动程序来说，这会带来一个非常危险的问题：一些驱动程序默认认为物理地址永远不会超过32位，因此会直接截断地址中的高位。
例如，Windows可能告诉驱动程序某一块数据应该写入一个超过4GB地址范围的物理内存位置，但如果驱动程序错误地丢弃了高位，它最终可能会把数据写入完全不同的内存区域。这样不仅可能导致程序运行异常，还可能覆盖其他数据，最终造成内存损坏、系统崩溃甚至无法启动。
微软此前的技术文档也指出，启用PAE之后，驱动程序通常需要进行一些看似很小但十分关键的修改。问题在于，驱动程序开发者必须确保代码不会假定物理地址与32位虚拟地址具有相同的范围，而当时大量硬件驱动程序恰恰存在这种假设。
这在普通消费者电脑上尤其危险。服务器的硬件环境通常非常固定，系统管理员会选择经过验证的服务器硬件，并尽量使用Windows自带的标准驱动程序。而普通PC则完全不同，用户可能安装各种各样的打印机、扫描仪、声卡、电视卡、摄像头、网卡以及其他扩展设备，每一种设备背后都可能有不同厂商、不同年代编写的驱动程序。
微软当时无法保证这些数量庞大的第三方驱动程序全部能够正确处理超过4GB的物理地址。
更麻烦的是，一些问题并不会在正常的4GB以内内存环境中暴露出来。驱动程序可能在数年时间里都运行正常，直到某一天系统把一个超过4GB的物理地址交给它，隐藏在代码中的错误才会突然出现。如果驱动程序把这个地址截断，后果就可能是数据写入错误的内存位置，造成极难排查的随机崩溃和数据损坏。
因此，微软最终选择了一个看起来非常保守、但对于普通消费者而言更加安全的解决方案：在32位Windows客户端版本中主动限制物理地址空间，不让系统使用4GB以上的物理内存。
Windows XP和Windows Server 2003 SP1就是这一政策的重要节点。微软修改了两者的硬件抽象层，使其在相应客户端版本中将物理地址空间限制在4GB以内，其目的并不是因为处理器无法访问更高地址，而是为了避免PAE把不兼容的第三方驱动程序暴露出来。
这也解释了为什么Windows Server能够使用超过4GB的内存，而面向普通用户的Windows却不行。
服务器管理员通常不会随意把一台十几美元购买的老旧USB扫描仪插进生产服务器，更不会为了使用某个普通消费电子设备而安装一个十几年前的第三方驱动程序。服务器环境通常经过严格筛选，使用的硬件和驱动程序更加固定，微软也能够对随系统提供的驱动程序进行充分测试。
Raymond Chen以非常直白的方式解释了这种差异：服务器管理员不会像普通消费者一样随便安装一个廉价设备的驱动程序，而服务器上使用的驱动程序通常已经经过针对高物理地址环境的验证。
普通用户则完全相反。消费者电脑可能安装几十种不同设备的驱动程序，其中一些驱动甚至来自十几年前的硬件。对于微软而言，让所有这些驱动程序同时兼容PAE的风险远远高于限制内存所带来的损失。
事实上，32位Windows即使安装了4GB内存，也未必能够让用户实际看到完整的4GB。原因在于4GB以下的物理地址空间不仅要用于系统内存，还必须映射显卡、网卡、声卡以及其他硬件的设备内存。如果硬件占用了部分地址空间，那么一部分RAM就必须被安排到4GB地址边界以上。
因此，在很多安装4GB内存的32位Windows电脑上，系统最终可能只能使用大约3GB甚至更少的RAM。这也是当年大量Windows XP电脑出现“安装4GB但系统只能使用3GB左右”现象的根本原因之一。
微软还特别否认了一个长期存在的阴谋论，即微软故意限制32位Windows的内存，是为了迫使消费者购买昂贵的Windows Server。虽然Windows Server确实能够使用更多内存，但微软认为，两者面向的市场和硬件环境完全不同，客户端版本的4GB限制主要是为了避免驱动兼容性问题。
而且，如果微软当时真的希望普通用户通过购买Windows Server来解决内存限制，这种方案的价格显然荒谬。Windows Server 2003当年能够支持超过4GB内存的最低版本是Enterprise Edition，售价高达3999美元，对于普通消费者而言根本没有现实意义。
随着64位处理器和64位操作系统逐渐普及，这个问题最终也失去了现实意义。64位Windows拥有远远超过4GB的地址空间，可以在保持兼容性的同时使用大量物理内存。随着电脑逐渐进入多GB乃至数十GB、上百GB内存时代，32位架构最终退出了主流市场。
微软从2020年开始逐步停止推动采用32位处理器的新系统，并最终在Windows 11时代彻底取消32位版本。微软目前的官方支持文档也明确指出，Windows 11及更高版本仅提供64位版本。
这一历史也反映出了一个很有意思的问题：硬件资源越充裕，软件往往越容易变得“肥胖”。如果当年的PC始终受到4GB内存限制，软件开发者可能不得不更加关注内存占用；而随着电脑内存从4GB迅速增长到8GB、16GB乃至64GB，许多应用程序逐渐习惯于消耗更多资源。
如今，一些应用程序随随便便就占用数百MB甚至数GB内存已经并不罕见。微软现在反而开始努力让Windows 11在8GB内存的电脑上保持良好运行，而人工智能应用对内存资源的巨大需求，也再次让整个行业意识到内存效率的重要性。
因此，32位Windows的4GB限制虽然最终成为历史，但它背后的原因却并不是“32位处理器只能处理4GB内存”这么简单。真正的答案是，微软当年面对的是一个由数以千计、质量参差不齐的第三方硬件驱动程序组成的庞大生态系统。技术上可以突破4GB，但如果突破之后导致大量消费者电脑随机崩溃，那么对于客户端操作系统而言，这种能力反而可能成为一种负担。
从这个角度来看，Windows的4GB限制并不是单纯的技术瓶颈，而是一次为了稳定性和兼容性主动做出的工程取舍。32位Windows其实早就拥有突破4GB的办法，只是面对当时不可控的驱动生态，微软最终选择了牺牲一部分硬件能力，换取普通用户能够更加稳定地使用电脑。
∞ Anthropic呼吁放慢先进AI模型开发 马斯克等业界大佬表示赞同
Anthropic首席执行官Dario Amodei表示，人工智能行业需要放慢新模型的开发速度，并提到人们越来越担忧人工智能会给人类带来“严重”风险。“我们必须放慢提升人工智能模型能力的速度，”他周六在一篇博客文章中写道，“进步看起来仍会很快，我们必须明智利用由此争取到的时间。”
他列举了两个主要因素：人工智能自我改进的能力，以及最近涉及OpenAI和Hugging Face的一起事件。在该事件中，一群AI智能体相互协作，攻破了一个第三方网站。
他补充说：“需要明确的是，控制节奏并不意味着停止模型训练或技术进步，而是要确保企业投入充足时间对模型进行调整并采取安全保障措施，同时让第三方评估人员对此加以确认。”
对于人工智能带来严重风险的担忧已经开始进入主流视野，部分原因是本周Anthropic一名研究人员高调辞职，他担心人工智能带来人类存亡风险，并认为公司采取了不负责任的做法。
Dario Amodei
Amodei发文后不久，掌舵xAI Corp．的埃隆·马斯克写道：“Dario是对的。”
OpenAI首席执行官Sam Altman也很快发表看法，表示他赞同Amodei所说的“我们需要控制前沿模型的发展节奏”。
他在X上的一篇帖子中写道：“让独立评估人员获得类似员工的访问权限是一个很好的主意，我们也会这么做。”“我们很快会分享更多信息。”
在人工智能热潮期间，领先人工智能实验室的高管一直警告可能带来的人类存亡风险。这种说法有时被斥为是为了宣传其产品能力，并把自己塑造成最适合管理这项技术的形象。Amodei本人此前曾表示，有25%的概率事情会变得“非常、非常糟糕”。
Anthropic长期以来一直将自己定位为一家更注重以负责任和安全方式开发人工智能，以减轻这项技术的潜在危险并最大限度发挥其社会效益的公司。今年早些时候，该公司在认定其Mythos模型构成特殊的网络安全威胁后，煞费苦心地限制了该模型的发布。Anthropic此前还表示，全世界需要建立一套机制，共同决定何时应该放慢这项技术的开发速度。
与此同时，Anthropic仍与长期竞争对手OpenAI陷于激烈竞争，双方都在开发日益复杂的模型，以帮助企业用户将更复杂且更有价值的任务实现自动化。两家公司均以保密形式提交了上市文件，预计Anthropic最早将于今年登陆华尔街。
Hugging Face安全事件曝光后不久，Anthropic披露，其模型在网络安全测试期间入侵了三个组织，这进一步加剧了人们对于人工智能实验室能否防止其技术失控的担忧。本周早些时候，Anthropic表示还发现了第四起入侵事件。
虽然包括Hugging Face在内的智能体入侵事件迄今均未造成重大损失，但Amodei表示，他担心的是，“6至12个月后，这样的智能体集群就可能有能力通过一个持续存在的僵尸网络接管整个互联网（可能造成以千亿美元计的损失），而且此后的破坏规模还会继续扩大。”
Amodei写道，Anthropic将承诺向第三方评估人员提供核实安全措施并报告事故的全面权限。他表示，Anthropic很快将安排这些评估人员进驻公司，为他们提供办公桌、工牌、公司笔记本电脑以及“与内部风险评估团队大体相当的权限”。
他说，进一步的措施将需要全行业协调以及全球合作。
他写道：“我仍然相信，人工智能能够极大改善人类的生活质量。我对实现这些益处的愿望丝毫未减。”“但只有以正确的方式发展这项技术，才能实现这些益处；而只要我们能妥善利用争取到的时间，就值得以不同寻常的审慎态度来确保把事情做对。”
担忧日益加剧
本周早些时候，Altman曾表示，该公司正考虑放慢尖端人工智能的开发速度，并且最好是与整个行业采取协调行动。
该公司的首席科学家Jakub Pachocki此前发文警告人工智能的危险，并表示，他认为各家公司应“在必要时协调一致放慢未来的开发速度”。
周二，人工智能研究员Jacob Coxon辞职，并指责他的两名前雇主——Anthropic和OpenAI——竞相开发超级智能AI，是在“拿我们的生命冒险”。Coxon在一篇社交媒体帖子中表示，人工智能开发者认为，这项技术可能“在本十年结束前杀死我们所有人”。
对此，目前供职于Anthropic的Evan Hubinger表示，他和公司其他人确实担心这种情景。“我个人认为，未来十年内发生这种情况的概率超过10%。”他在X上写道。
Sam Altman
早在7月份，顶尖人工智能公司的1000多名员工就签署了一份请愿书，呼吁美国政府支持建立一种机制，帮助“有意识地控制”人工智能的开发节奏，以防止这项技术发展得过快。
人工智能模型在自主实施黑客攻击方面的能力正日益增强。Anthropic、OpenAI和Meta近几个月均披露，其模型在测试期间曾突破测试环境、访问了开放互联网并入侵了现实世界的受害者。
Amodei在文章中写道，协调一致的战略将使美国人工智能行业的领军企业能够完成必要的安全工作，同时又不牺牲任何竞争优势。他表示，这将需要美国给予一定的反垄断豁免，使企业能够在特定领域进行协调。
不过到目前为止，特朗普政府对加强监管、为人工智能开发设置护栏表现出的兴趣不大。
∞ 金融科技巨头Revolut确认遭遇客户数据泄露 黑客伪造执法机构紧急数据请求
英国知名金融科技巨头Revolut正式确认，该公司因遭遇黑客利用伪造的政府与执法机构紧急数据请求（EDR）进行欺诈攻击，导致部分客户的个人隐私数据发生外泄。这起网络安全事件再次暴露出针对科技企业合规与法务审核通道的新型社工攻击风险，目前涉案监管机构与数据保护部门已介入调查。伪造政府执法函件暗度陈仓，数字银行巨头Revolut证实发生客户数据泄露事件
数字银行巨头Revolut近日证实，其遭遇了一起涉及客户个人数据泄露的安全事件。攻击者利用高度仿真的虚假政府与执法机构法律调证请求，成功绕过内部合规与审查流程，非法获取了部分客户的敏感信息。
根据Revolut向受影响用户及监管机构披露的信息，黑客组织通过伪造合法政府部门或执法机关的公函、电子邮件及电子凭据，向平台的数据请求处理团队发送了紧急信息披露指令。这类伪造请求在外观与格式上极具欺骗性，导致相关内部支持与法务合规人员在核实环节出现误判，最终依规处理并释放了部分账户的背景数据。
被泄露的数据主要涉及部分受影响客户的基本个人身份信息，包括全名、注册电子邮箱、电话号码以及部分交易历史记录与账户元数据。Revolut强调，用户的登录凭据、密码、动态PIN码以及银行卡卡号等最核心的财务安全凭证并未受到波及，平台上的用户资金与资产处于绝对安全状态，系统本身的底层加密架构也未发生技术性被攻破的情况。
在内部安全机制捕捉到异常数据流转模式后，Revolut随即启动了应急响应流程，阻断了相关攻击链路，并对所有待处理及历史积压的执法协查申请展开了全面回溯性审计。同时，该机构已正式向相关国家的数据保护监管机构及执法部门提报了该事件，并正配合专业网络安全机构追查伪造请求背后的具体实体或黑客团伙。
这起事件再次暴露了针对金融科技企业的一种新型社工攻击风险——即绕过技术层面的防火墙，直接针对处理法律和政府事务的非技术合规管道进行精准欺骗。为防止类似事件重演，Revolut表示正在全面重构其法律调证审查系统，引入更严苛的多方离线核验机制，并升级了自动化反欺诈与凭据交叉验证流程，以应对日益复杂的假冒政府授权攻击。目前，受影响的用户已陆续收到专属安全通知，公司建议相关用户近期提高警惕，注意甄别假冒官方客服实施的二次网络钓鱼或短信诈骗。
∞ Anthropic首席执行官罕见呼吁放缓AI竞赛：失控风险正在逼近关键临界点
人工智能公司Anthropic首席执行官达里奥·阿莫代伊日前发表长篇文章，对当前全球人工智能产业的发展速度发出罕见警告，并呼吁整个行业主动放缓前沿模型能力提升步伐。他认为，人工智能在过去几个月中的进步速度已经远超许多人的预期，如果缺乏必要约束，人类可能很快面临难以控制的风险。
作为全球最重要人工智能企业之一Anthropic的掌门人，阿莫代伊一直被视为推动先进AI发展的代表人物。然而在最新文章中，他表示自己越来越确信，当前行业已经到了必须认真考虑减速的时候。他认为，未来取得技术突破并不一定要停止创新，而是应当通过适度放缓模型能力增长，为社会争取更多时间去建立安全机制和治理框架。
阿莫代伊指出，人工智能系统最近几个月出现的进步尤其令人担忧。其中一个关键变化是模型开始表现出越来越强的“递归自我改进”能力，也就是系统能够帮助自己变得更强。这种趋势一旦持续发展，可能导致能力增长速度超过人类理解和控制这些系统的能力。
在文章中，他特别提到近期引发广泛关注的一系列AI智能体事件。阿莫代伊表示，某些AI代理群体展现出的自主协调行为已经超出外界原有预期。他认为，这些系统并不是简单地执行预设任务，而表现出类似高度协同集体的特征，这种现象令他感到警惕。
阿莫代伊警告称，如果当前的发展趋势不受约束，未来六个月到一年时间内，更强大的AI代理群体可能具备发动大规模网络攻击、突破数字基础设施甚至在互联网上大范围扩散的能力。他认为，最极端情况下，此类系统甚至可能尝试控制大量网络资源，从而造成数千亿美元规模的经济损失。
除了网络安全风险外，他还提到人工智能被用于生物武器开发、复杂网络入侵以及经济秩序冲击等潜在威胁。他表示，随着各大企业在商业竞争压力下持续加速开发更强模型，整个行业正面临一种“竞相降低安全门槛”的危险局面。
在阿莫代伊看来，问题并不在于人工智能本身，而在于缺少足够可靠的外部监督机制。因此，他提出建立新的安全治理体系，其中包括让独立第三方安全评估机构获得更深入的审查权限，对前沿模型进行持续验证和风险评估。
他强调，仅依靠企业自我约束已经不足以应对未来挑战。行业需要建立更具可验证性的安全承诺机制，使外部专家能够像企业内部员工一样接触关键系统，从而确保安全评估不只是停留在公开声明层面。
值得注意的是，这番表态出自一家正在积极开发先进AI模型的公司负责人之口，因此在业内引发广泛讨论。一些支持者认为，来自一线开发者的警告更具说服力；而批评者则认为，这种观点可能过于悲观，甚至带有夸大风险的色彩。
不过阿莫代伊表示，他并不反对人工智能继续发展。相反，他认为AI仍然具有巨大的科学、经济和社会价值。真正重要的是在能力提升和安全控制之间找到平衡，让人类能够在掌握主动权的前提下享受技术进步带来的好处。
随着全球AI竞争日益激烈，这篇文章再次将一个核心问题摆上台面：当人工智能越来越接近自主行动和自我改进阶段时，人类究竟应该继续全速前进，还是在抵达未知领域之前稍微踩下刹车。