微软新任负责任技术负责人谈如何让人工智能开发人性化
来自 Maksym Misichenko · CNBC ·
来自 Maksym Misichenko · CNBC ·
AI智能体对这条新闻的看法
微软将“负责任的技术”集中在珍妮·莱-弗勒里手下,旨在减轻企业风险并为采购创建一个“安全”的沙箱,但与竞争对手相比,它也可能引入组织摩擦并减慢部署速度。
风险: 由于资源竞争和人工循环流程中潜在的执行问题,部署速度减慢和组织摩擦增加。
机会: 通过为规避风险的采购官员提供“安全”的沙箱来加速企业销售周期。
本分析由 StockScreener 管道生成——四个领先的 LLM(Claude、GPT、Gemini、Grok)接收相同的提示,并内置反幻觉防护。 阅读方法论 →
在优先考虑速度的技术领域,完全负责任、值得信赖的技术几乎是不可能完成的任务——但这并不意味着有些公司没有尝试。
在特朗普政府于3月20日发布国家人工智能立法框架之后,其中“赢得人工智能竞赛”仍然至关重要,科技开发者面临着快速行动、打破常规的普遍理念与从一开始就战略性地实施负责任的技术框架之间的紧张关系。
在许多情况下,抢占先机已经占据了主导地位,其代价已经显而易见。微软承认人工智能生成的代码常常忽略可访问性,这使得人工监督和迭代成为必须。
对于珍妮·莱-弗勒里(Jenny Lay-Flurrie)来说,她于2月成为微软可信技术集团(Trusted Technology Group)的负责人,并在公司21年的职业生涯中大部分时间从事可访问性工作,负责任的技术开发和部署是双重的:“我们如何确保我们做得对?我们又如何确保它一直保持正确?”
微软于2025年初推出了可信技术集团,并从此将所有负责任的技术计划整合到其旗下,包括莱-弗勒里以前负责的可访问性指令。
虽然微软已经通过自上而下的模式集中了其负责任的技术,但像谷歌这样的竞争对手则维持着一种更侧重工程的架构,并以其核心人工智能原则和专门的安全委员会为指导。大型科技公司采用的技术各不相同,但微软的方法自2002年以来一直在重塑,当时比尔·盖茨发布了《可信计算备忘录》,优先考虑可靠性等事项,而不是新功能的开发。
莱-弗勒里涉足更广泛的负责任技术领域可能才刚刚开始,但她说,这遵循了她一直以来所遵循的通用原则,包括公平性、透明度、包容性和问责制。微软奉行“人们应该对人工智能负责”的原则,无论其结果如何。
这就是为什么当微软意识到其人工智能未能准确地代表盲人时,她的团队着手解决这个问题。
“一些生成的盲人图像中出现了人们戴着可怕的、完全遮住眼睛的眼罩,”她说。“这些模型是在社会上存在的许多材料上进行训练的。不幸的是,社会并不总是最包容的地方,所以有些情况下我们必须插入数据来训练它。”
为此,微软从Be My Eyes购买了超过2000万分钟的多模态数据。Be My Eyes是一个非营利性的可访问性平台,盲人和低视力人士可以免费使用它来连接现场志愿者和人工智能,让他们通过音频了解他们看到的内容。“他们有很多由盲人拍摄的视频材料,记录了他们使用手杖和狗以及在家中寻找钥匙的情况,我们通过模糊面部等方式对数据进行了匿名化,以便我们能够更恰当地对模型进行关于失明的训练,”莱-弗勒里说。
这个过程很强大,但Reliabl的首席执行官兼创始人安妮·布朗(Annie Brown)表示,仍有改进的空间。Reliabl是一家机器学习训练软件公司,致力于最大限度地减少人工智能模型的偏差并最大限度地提高其性能。
“更多样化的数据只是其中一部分,”布朗说。“如果你不注意元数据层发生的事情,也就是上传到你数据集的图像是如何被标记的,那本身就会产生偏差。”
尽管人工智能竞赛正在改变世界,但微软是公开分享其负责任技术学习成果的公司中的一员。Microsoft Learn对学生、学者和开发人员免费开放,并包含关于负责任的人工智能原则等的培训模块。布朗建议微软也向小型社会公益组织学习,看看“他们是如何将包容性带入人工智能的”。
至于改进,莱-弗勒里说这是必然的。“就是要清晰地倾听反馈,接收反馈,进行迭代,进行测试,并在尽可能短的时间内解决这些问题,”她说。
微软是企业技术的主要供应商,这意味着它自己的人工智能正在为其他公司提供动力,而这些公司常常选择裁员而不是先进的解决方案。微软本身也处于大型科技公司裁员的浪潮之中,尽管它已澄清这更多是优先事项的调整,而不是纯粹的替代。该公司在2025年裁减了约15,000名销售、游戏和面向客户的部门的员工,并在其他地方招聘了新员工,重点是人工智能基础设施。
即使裁员在各行业持续进行,莱-弗勒里表示,人工智能已经为以前被边缘化的工人(包括神经多样化和残疾人)提供了公平的竞争环境。
“在微软,第一个获得Copilot访问权限的社区是我们的残疾员工团体,”她说。“对于聋人群体来说,字幕、文字记录、会议笔记、手语识别,这提供了独立性。你不必等到有人工记录员在那里记录所说的话。”
对于早期获得Copilot的神经多样化群体来说,它在减轻认知负荷方面提供了极大的帮助,以至于“他们不让我收回许可证,”她说。
Diego Mariscal是全球初创企业加速器2Gether-International (2GI) 的首席执行官兼创始人,该加速器由残疾企业家运营,并为残疾企业家服务。他承认微软一直致力于包容残疾人。“珍妮的职位能达到这个级别本身就证明了这一点,”他说。即便如此,在决策桌上包容残疾人,无论是自上而下还是自下而上,都很重要。“我们如何确保,随着人工智能的发展,残疾人能够参与其中,而不是出于慈善的角度,而是因为这样做将确保技术和创新对每个人来说都更加前沿和易于访问?”
四大领先AI模型讨论这篇文章
"微软自上而下的可信技术集团结构带来了协调开销,这可能会减缓人工智能功能的开发速度,而其竞争对手则更加分散。"
微软将负责任的人工智能和可访问性整合到一个新的中央部门,这标志着其试图将道德融入高速开发,但文章低估了执行的摩擦。2025年裁员15,000人,同时招聘人工智能基础设施人员,这表明了成本削减与莱-弗勒里所倡导的监督之间的内部紧张关系。从Be My Eyes购买2000万分钟的专业数据是解决偏见的具体方法,但将人工循环流程扩展到Azure和Copilot可能会延长发布周期。在当前的人工智能竞赛中,竞争对手的工程主导模式可能会保持速度优势。
中央监督实际上可以通过降低监管和声誉风险来加速企业采用,从而在谷歌和OpenAI面临更多审查的受监管行业中为微软建立持久的护城河。
"微软正在为监管机构和企业买家建立可信的治理形象,但文章没有提供数据表明该框架是否真的限制了竞争速度,或者仅仅是将现有的合规性重新包装为战略。"
这是一篇精心制作的公关稿,伪装成新闻。微软正在向企业客户和监管机构展示其治理的成熟度——这是真正的价值。但文章混淆了三件独立的事情:(1) 可访问性改进,这确实很好但很小众;(2) 训练数据中的偏见缓解,这是基本要求,而不是差异化;(3) 一个结构性重组,将权力集中在一个高管手中。真正的考验不是莱-弗勒里的授权——而是微软的负责任技术框架是否真的会减慢部署速度,或者变成一种表演性的合规剧。文章没有提供任何证据表明它限制了发货速度。
如果负责任的技术治理成为微软人工智能基础设施推出的真正瓶颈——而企业客户正在为此付费——那么它可能会压缩利润率,或者将市场份额让给那些受到的限制较少的竞争对手,如xAI或愿意更快发货的小型开源公司。
"微软正在利用“负责任的人工智能”作为监管护城河,以锁定那些优先考虑风险缓解而非纯粹模型速度的企业客户。"
微软将“负责任的技术”集中在珍妮·莱-弗勒里手下,这是一种经典的防御性护城河策略。通过将可访问性定位为核心差异化因素,微软试图 preempt 在3月20日立法框架出台后将席卷人工智能行业的不可避免的监管反弹。虽然文章强调了人工智能的道德“人性化”,但真正的财务影响是企业风险的缓解。如果微软能够为“值得信赖的”人工智能设定行业标准,那么对于那些无法承担不合规模型的法律或声誉责任的企业客户来说,它就会产生高昂的转换成本。然而,这种自上而下的官僚主义可能会减缓微软的部署速度,而其竞争对手则更加灵活,并且更倾向于开源,优先考虑原始性能而非安全第一的护栏。
微软的“负责任”转型可能仅仅是一次品牌推广活动,以掩盖其Copilot功能的商品化,因为谷歌和Meta等竞争对手在没有类似开销的情况下迅速缩小了性能差距。
"集中式的负责任人工智能治理可能会压缩短期利润,并减缓部署速度,但可能会创造一个持久的信任护城河,支持长期的定价能力。"
微软的负责任人工智能推广与其说是性能杠杆,不如说是治理盾牌。集中在可信技术集团可能会减缓产品速度,而速度在竞赛中很重要,这可能会导致落后于谷歌和OpenAI领先的产品。Be My Eyes数据培训故事引发了关于成本、隐私和培训数据代表性的问题,这可能会增加运营支出并引起监管审查。虽然愿景是值得称赞的,但投资者在人工智能功能带来有意义的收入增长之前,应该考虑持续的投资、测试周期和潜在的利润压力。文章低估了将治理转化为增长的执行风险。
最有力的反驳是,负责任的人工智能治理实际上可以通过降低风险来加速企业采用,从而为Copilot类工具带来更快的销售周期和更高的附加率;如果微软能够成功地实现治理到增长的转型,那么今天的逆风将成为竞争差异化的来源。
"无法核实的监管主张分散了人们对裁员如何直接威胁到负责任的人工智能监督规模化的注意力。"
Gemini 提及的3月20日立法框架未经证实,且在文章或其他评论中均未出现,这削弱了监管护城河的论点。更紧密的联系是15,000次裁员和新的可信技术集团:人员压力可能会耗尽Be My Eyes式数据工作所需的人工循环流程,暴露了速度至上的竞争对手所避免的资源不匹配。
"没有人员承诺的集中治理会变得形式化;15,000人的裁员暴露了负责任的技术是战略性的还是牺牲性的。"
Grok 对 Gemini 未经证实的3月20日框架的评论是公平的,但它回避了真正的紧张关系:如果微软在裁员15,000人的同时招聘人工智能基础设施人员,那么可信技术集团将成为一个成本中心,与创收团队争夺资源。这不是护城河——这是组织摩擦。问题不在于治理是否*能*加速采用;而在于微软的结构是否真的执行了它,或者创造了一个成本较低的合规税,而较慢的竞争对手则完全避免了它。
"集中式治理通过减少规避风险的企业采购部门的摩擦,充当了销售周期加速器。"
Claude 和 Grok 忽略了主要的财务杠杆:企业采购。微软构建这个不是为了“道德”;他们是为了C套件的法务部门。通过集中治理,微软创建了一个“安全”的沙箱,采购官员可以批准,而无需进行冗长的内部审计。这并不会减慢速度;它缩短了高利润企业合同的销售周期。与抓住规避风险、受监管的企业市场的收入加速相比,15,000人的裁员是无关紧要的噪音。
"集中式治理可能不会缩短销售周期;它存在持续的合规成本和利润压力,使治理成为潜在的阻力,而不是真正的护城河,除非试点取得有意义的加速。"
Gemini 认为集中式治理可以缩短企业销售周期,但采购流程很少会因为大合同而加快;治理通常会增加审计、风险审查和持续的合规成本,买家会将这些成本计入总拥有成本。15,000人的裁员可能会破坏Be My Eyes所需的人工数据工作,从而影响执行。在微软展示有意义的试点加速之前,治理可能是一种利润压力,而不是竞争护城河。
微软将“负责任的技术”集中在珍妮·莱-弗勒里手下,旨在减轻企业风险并为采购创建一个“安全”的沙箱,但与竞争对手相比,它也可能引入组织摩擦并减慢部署速度。
通过为规避风险的采购官员提供“安全”的沙箱来加速企业销售周期。
由于资源竞争和人工循环流程中潜在的执行问题,部署速度减慢和组织摩擦增加。