美国女子撰文讲述AI危害，遭到科技巨头公开攻击

本周，每个人都在谈论人工智能。美国总统刚刚公布了一项新的行政令，旨在推广安全、可靠的人工智能系统。这是美国迄今为止影响最深远的人工智能监管举措。

七国集团刚刚同意了一项人工智能公司应遵守的行为准则，其动机是各国政府试图将人工智能系统造成的危害和风险降至最低。

就在这两天，英国也邀请全球多个重要国家参与了一场人工智能安全峰会，旨在制定人工智能安全的全球规则。

总之，这些事件表明，美国硅谷推动的人工智能可能带来的“生存风险”，似乎在舆论中越来越占主导地位。

这是令人担忧的，因为过于专注于修复未来可能出现的假设性危害，导致人们对于人工智能正在造成的真正危害的关注有所减少。

著名人工智能研究人员和活动家乔伊·布兰维尼在她的新回忆录《揭开人工智能的面纱：我在机器世界中保护人类的使命》中写道：“造成明显危害的、现有的人工智能系统，比假设的‘有意识的’人工智能系统更危险，因为它们的危害是真实存在的。”

我很高兴与她谈论她的人生故事，以及她今天在人工智能领域的关注重点。她在这个领域很有影响力。她对面部识别系统偏见的研究使 IBM、谷歌和微软等公司改变了他们的系统，并且不再向执法部门出售相关技术。

现在，布兰维尼看到了一个新的目标。她呼吁彻底反思人工智能系统的构建方式，从更合乎道德、更一致的数据收集实践开始。她告诉我：“我担心的是，我们给了这么多公司畅通无阻的通行证，我们还在赞扬创新的同时别过头去，不愿看到那些危害。”

虽然她的故事在很多方面都是鼓舞人心的，但它们也是一个警告。她在过去十年的大部分时间里一直在呼吁人工智能的危害，她做了一些令人印象深刻的事情，并将这个话题带入了公众的意识之中。但真正让我震惊的是直言不讳对她带来的伤害。

在书中，她描述了自己在试图同时做太多事情后，由于身体和精神极度疲惫，不得不住进急诊室；她四处宣传，成立了非营利组织算法正义联盟；参加了国会听证会；还试图完成她的麻省理工学院博士论文。

她并不孤单，她的经历与我之前写的一篇文章相吻合，那篇文章讲述了负责任的人工智能是如何造成倦怠问题的。

得益于像布兰维尼这样的研究人员的努力，科技公司的人工智能系统正面临着更多的公众审查。这些公司意识到，他们需要负责任的人工智能团队，来确保他们以减轻潜在危害的方式来开发自家产品。

这些团队会评估我们的生活、社会和政治系统是如何受到这些系统的设计、开发和部署方式的影响的。

但指出人工智能系统问题的人经常在网上面临激烈的批评，以及雇主的抵制。布兰维尼描述了她不得不对抗一家美国科技巨头对她研究成果的公开攻击。

当她刚开始这项工作时，她必须让人们相信人工智能值得担心。现在，人们更加意识到人工智能系统可能存在偏见和危害。这是个好消息。

但坏消息是，要想公开反对那些强大的科技公司仍然存在风险。这真是太不幸了。试图改变讨论和监管哪些风险的声音比以往任何时候都更大，并引起了英国首相里希·苏纳克等立法者的注意。

如果围绕人工智能的文化主动压制其他声音的出现，那对我们所有人来说都是有代价的。

作者简介：梅丽莎·海基莱是《麻省理工科技评论》的资深记者，她着重报道人工智能及其如何改变我们的社会。此前，她曾在 POLITICO 撰写有关人工智能政策和政治的文章。她还曾在《经济学人》工作，并曾担任新闻主播。

支持：Ren