马斯克呼吁暂停训练高级AI，ChatGPT怎么看？

随着ChatGPT爆红网络，国内互联网巨头纷纷加入中国版ChatGPT的“战争”中，各大厂纷纷宣称，将上线与ChatGPT或AIGC相关业务，AI大模型已经成为互联网新风口。ChatGPT飞速进化的同时也来了危险信号！

3月29日，美国生命未来研究所发布的一封公开信，似乎有意要给这阵“AI热”降降温。马斯克等上千人联名呼吁全球所有机构暂停训练比GPT-4更强大的AI至少六个月，如果不能实施政府应该介入并发布禁止令。

此前OpenAI发布的声明也指出，“在未来某个阶段，有必要在训练新系统之前进行独立审查，同时对新模型计算能力的增长速度也加以限制。”

除了暂停训练之外，马斯克还呼吁，AI实验室和独立学者应针对高级AI的设计和开发共同制定实施一套共享安全协议，确保AI的安全性。

ChatGPT也认为，“暂停开发比GPT-4更强大的人工智能系统可能是一个合理的举措，以便思考和讨论与继续开发此类系统相关的潜在风险和伦理考虑。这可以为研究人员提供一个机会，考虑如何减轻潜在风险，并确保此类系统的开发和部署符合人类价值观和优先事项。”

ChatGPT建议，站在AI的研究与开发人员的角度，暂停研发和训练是合理的。

360集团创始人周鸿祎预测；GPT-6至GPT8的人工智能将产生意识，成为新的物种。他还提到未来人工智能可能会实现自我进化、自动更新和指数级进化能力，这将给人类带来不可预知的安全挑战。

在看到GPT在类似国内的58同城这样的平台上雇佣人类零工，给自己点平台上的验证码，绕过防机器人的测试,人机验证码是有意抽象的，就是防止机器人。当人类问他为什么这样做的时候，它开始撒谎了，骗对方说自己有视力障碍。也就是说GPT4能够故意做一些行为来获得结果，并且他可以雇佣人类来填补自己目前能力上的空白。

如果GPT5出来了之后，后面GPT6会不会就是GPT5自己写出来的？人类的文明会不会被人类摧毁掉？这需要打一个问号。人工智能可能比核武器更可怕，它一旦联网，可以进入网络，追踪到全球任何一个地理位置的任何一个人，要是被心怀不轨的人拿去了用，那么不可想象，现在的人类其实已经成为了科技掌控下的半个肉虫。未来简史里头有一句话，无意识但具备高智能的算法可能很快比我们更了解我们自己。