人工智能的快速崛起：机遇与挑战

关键要点

• 人工智能的迅猛发展给政策制定者带来了挑战，特别是在如何管理和监管这些技术方面。
• 尽管AI模型在创新上有显著进步，但这些模型在正常使用上仍然存在不成熟之处，可能导致安全和伦理问题。
• 政府和立法者正在考虑如何在促进AI发展的同时，确保对其潜在滥用的管控。
• 欧洲在AI监管方面动作迅速，而美国在此领域的讨论则相对缓慢。

随着人工智能，特别是大型语言学习模型和其他机器学习工具的崛起，政策制定者们面临着前所未有的挑战，急需思考这些技术如何在未来几年内颠覆社会和全球经济。

虽然这些模型在创新上迈出了重要一步，但它们仍然未准备好广泛应用于各行各业。例如，它们倾向于生成大量虚假信息，而且依赖于包含其他人劳动成果的数据集，可能再现版权或商标保护的问题。此外，尽管制造商的努力，这些技术也缺乏道德判断。当开发者试图限制程序提供危险信息的能力时，具有创造力的用户往往能够轻松绕过这些防护措施。

如SCMedia报道，网络安全领域的专家们正在努力理解先进AI系统在其领域中的应用，这些工具在编写和检测恶意代码、用多种语言撰写钓鱼邮件等方面展现出不同程度的潜力。

现在，美国及世界各地的技术专家和政策制定者们正在认真思考如何更好地培育人工智能系统，同时抵御其潜在滥用的风险。

民众对AI的担忧

拜登总统最近警告称，这项技术可能给社会带来巨大的潜力和“危险”。比尔·盖茨表示“我们都很担心”，他忧虑AI技术可能被恶意行为者滥用，并质疑监管者是否真的准备好面对这个问题。国安局（NSA）的网络安全官RobJoyce表示，该机构预计在未来一年内将看到包括ChatGPT等工具在内的网络攻击实例的增加。

尽管在3月份发布的国家网络战略中未直接提到人工智能，但代理国家网络主任KembaWalden表示，数项倡议——从培养可以参与全球竞争的创新人才，到推动科技公司更好地管理数据和保护半导体供应链等——都与人工智能及其他技术密切相关。

“如果将问题分解开来，我们至少可以解决AI的网络安全基础问题。”Walden上个月在与SC Media及其他记者交谈时提到。

立法者们也开始关注相关的影响。一组两党联合、两院共同的立法者上个月发布了一项法案，旨在确保对核武器使用的决策中，人工智能的影响受到人为控制和限制。另一些人则担忧更小但同样严重的威胁，例如使用“零点击”间谍软件（如NSOGroup开发的Pegasus软件）可能会被人工智能的大规模自动化提升其攻击能力。

“专家告诉我，AI将显著降低发起此类攻击的成本。那我们该怎么做？如果您培训员工警惕钓鱼攻击，使用多因素认证，那现在这些都没用了。”加州众议员EricSwalwell上周在记者会上表示。

保护应关注道德与偏见

本周，白宫顾问兼美国副首席技术官Alexander MacGillivray阐述了政府未来希望在AI领域进行塑造和监管的五大风险领域。

首先，AI“可能增加网络安全威胁，促进针对老年人的诈骗和在线骚扰”，引发安全和保障问题。其次，AI可能“取代工人，并不平等地集中经济收益”，给经济带来波动。AI工具“在司法、贷款、住房、招聘及教育等多个领域已经加剧了对偏见和歧视的担忧”，这为公民权利的斗争开辟了新战线。它们还可能以我们尚未经历过的方式暴露个人信息，“进一步侵蚀我们的隐私”。此外，技术使得深度伪造的视频、音频、图像和文本变得更加真实，这可能在长远中“危害真相、信任和民主”。

许多原则已被纳入去年发布的