小竞 (编辑)
埃隆·马斯克、沃兹尼亚克和其他技术创新者和人工智能专家签署了一封公开信，要求在AI系统的发展中暂停约六个月的时间，这些系统比OpenAI的GPT-4（生成式预训练变压器4）更先进和强大。
暂停发出的原因是，AI生成的文章通过宣传和谎言对社会和文明构成风险，AI程序开始超越人类作品并使工作过时等。
重点：
– 包括特斯拉首席执行官埃隆·马斯克和AI专家在内的1000多名技术领袖要求暂停比OpenAI最近推出的GPT-4更先进和强大的AI系统的发展，警告社会和文明面临风险。
– 公开信指出，签署该信的技术专家们通过AI生成的文章发布宣传和谎言，可能会对社会造成风险，传播不准确的信息。
– Sam Althman的名字没有出现在信中，他的评论表明他并没有计划停止AI的发展。
埃隆·马斯克、史蒂夫·沃兹尼亚克和其他人工智能专家发表了一封公开信，要求暂停新的AI系统的开发。
该信是由未来生命研究所首次发布的，时间距离OpenAI发布其第四版GPT程序“GPT-4”仅几周之久，这引起了市场的广泛关注，特别是其在专业和学术基准测试中具有人类水平表现的能力。
OpenAI的GPT-4发布的版本具有通过多个高级考试，包括统一法律学院考试、LSAT、GRE等，甚至在希望成为律师的人的统一法律学院考试中获得了90%的百分位数。
在GPT-4之外的AI系统的开发中暂停六个月
该链接要求AI开发者“立即暂停比其最近推出的GPT-4更强大的AI系统的开发和训练六个月”。已经有1000多人签署了这封信，包括埃隆·马斯克在内。
信中指出：“比GPT-4更强大的AI系统只有在AI开发者确信结果并相信潜在风险可以在没有任何风险或担忧的情况下得到管理时才能生产。”
此外，该信还警告称，没有人“可以预测、理解或可靠地控制”由AI实验室提供支持的新工具。签署该信的技术专家们提出了不准确、虚假和宣传的风险，这些风险通过这些看起来与真实文章完全相同的AI生成的文章传播开来。
这种由AI生成的内容还引发了AI程序开始超越人类工作者的可能性，并可能导致工作过时。
独立的专家和人工智能实验室应该利用这六个月的时间制定和制定一套共享安全协议，以进行渐进式的AI设计和开发，并由独立的外部专家进行审查和监督。
除此之外，政策制定者是OpenAI信中提到的另一件事，AI开发者必须努力加快健全AI治理体系的发展进程。
签署者包括稳定AI首席执行官Emad Mostaque、AI权威人物Stuart Russell和Yoshua Bengio，以及Alphabet旗下DeepMind的研究人员，他们强调不应该引入暂停，提到暂停六个月将是“从一个艰难的竞赛退后到一个具有新能力的越来越大的预期黑盒子模型。”
纽约大学教授Gary Marcus在信中表示：“虽然这封信并不完美，但精神是正确的：在我们对其后果有更好的理解之前，应该减缓AI的发展。”
自去年ChatGPT发布以来，OpenAI促使竞争对手们鼓励大规模语言模型的开发，包括Google的Alphabet在内的企业都在AI产品领域展开竞争。
截至本周三，OpenAI的首席执行官Sam Altman的名字仍然没有出现在OpenAI的信中，该公司采取了保障AI安全的重要措施，“我想我们已经在安全和保障问题上倡导了最长时间且最大声音”。
