AI 发展中的停滞与前景

关键要点

• 呼吁暂停 ：业内重量级人物如埃隆·马斯克和史蒂夫·沃兹尼亚克等发布了一封信，呼吁暂停人工智能研究与开发，获得千余名技术领导者和研究者的支持。
• 技术进展未停滞 ：尽管有暂停的呼声，AI的研究与开发依然持续，相关企业仍在推进自家项目。
• 安全隐忧 ：生成式AI可能导致网络安全风险，包括网络钓鱼和虚假信息传播。
• 积极应用 ：生成式AI具备巨大的潜力，能够提高工作效率和安全性。

两个月前，埃隆·马斯克和史蒂夫·沃兹尼亚克等科技界大咖联合发布了一封，建议暂停人工智能的研发。此信已获得超过与研究者的签名。

然而，即使有这样的停滞呼吁，这封信并没有阻止AI的发展。实际上，它甚至未能阻止部分签署者的行动，例如埃隆·马斯克已宣布正在开发，旨在与ChatGPT竞争。随着研究人员、技术专家和消费者的关注与担忧，如何确保生成式AI不会对社会、人类和安全构成威胁，依然是个亟待解答的问题。

暂停AI开发是否可能？

对这个问题的简短回答是“不”。最近，ChatGPT的创始人山姆·奥特曼在五月份，讨论了这一问题，并呼吁进行广泛的监管。人工智能已经存在多年，并在我们生活中充当着重要角色。直到去年底，发布之前，没人真正能够理解生成式AI的颠覆性力量。如今，随着公司和个人开始认识到其潜力，并打破了可及性的壁垒，AI的采用与研究加速，围绕其应用的治理讨论也愈加频繁。分析数据和提供基于规则的回应曾是AI行业的起步阶段，现在我们已经取得了进展，无法回到从前。

此外，试图暂停AI进展可能带来的后果，尤其是从安全角度来看也不容小觑。随着海外公司持续推进生成式AI的发展，美国用户最终可能开始使用这些外国产品，因为它们可能会更加优越。这可能会导致大量敏感信息落入安全规章相对宽松的外国公司手中，从而增加隐私和身份的风险。

AI的风险有哪些？

要真正理解为何一些专家呼吁暂停开发，首先要了解生成式AI所带来的风险。从网络安全的角度来看，黑客已经开始使用生成式AI工具创造更加真实的网络钓鱼攻击，模仿品牌语气或更轻松地将文本翻译成多种语言，使其更难被识别，亦能有效连接黑客与全球受害者。

攻击者还可以利用AI技术制作深度伪造内容。无论是信息、视频，还是，真实与虚假之间的界限将持续模糊。更广泛地看，这项技术可能会进一步侵蚀互联网信任，助长虚假信息的传播。互联网用户将不断需要自问，他们看到的图像、视频或信息有多“真实”。近日，一张AI生成的教皇穿白色羽绒服与镶嵌十字架的图片在网上走红，欺骗了成千上万的人。虽然这是一个相对无害的例子，但攻击者也可以利用这些技术制作虚假的图像、视频或音频片段，损害知名人士的