特斯拉执行长马斯克(Elon Musk)、苹果共同创办人 Steve Wozniak 及多位 AI 研究人员连署公开信,呼吁所有 AI 实验室暂停训练比 GPT-4 更先进的模型至少 6 个月,以免对社会和人类构成威胁。AI 大神吴恩达(Andrew Ng)认为,这是个糟糕的主意。
AI 大神吴恩达在 Twitter 指出,AI 在教育、医疗保健、食品等领域带来许多新应用,帮助到很多人,「改进 GPT-4 会带来助益,让我们在 AI 创造的巨大价值与现实风险间取得平衡」。
再来,除非政府介入,否则没任何实际方式能阻止团队扩大 LLM(大型语言模型)。然而,让政府暂停他们不了解的新兴技术,是反竞争的行为,也开创一个可怕的先例,并且是糟糕的创新政策。
吴恩达表示,负责任的 AI 很重要,而 AI 也有风险。主流媒体称 AI 公司正在疯狂发布不安全的程式,但这是不正确的。绝大多数(可惜不是全部)AI 团队都非常重视负责任的 AI 和安全。
最後,暂停 6 个月不是实际的建议。为了提高 AI 的安全性,围绕透明度和审计的法规将更加实用,并产生更大影响。让我们在推进技术的同时,花更多投资在安全,而不是扼杀进步。
(首图来源:pixabay)