自去年底ChatGPT亮相以来，“生成式AI”正式进入公众视野。随后，百度、阿里巴巴、腾讯、科大讯飞、京东等国内企业也相继跨入这一赛道，引发广泛关注。

然而，在一片火热之中，也有不少人表达了对生成式AI“无序发展”的担忧。从AI换脸、AI新型网络诈骗，到近期的“AI孙燕姿”事件，人工智能的隐患问题被逐步挖掘，人们对人工智能技术本身的恐慌情绪也愈演愈烈。如何才能牢牢握住生成式AI发展的“缰绳”？

科学家联名表态

(相关资料图)

“警惕AI发展”

近日，AI领域传来一封重要的公开信。包括“ChatGPT之父”Sam Altman在内的350位AI领域权威人士在信件中发出警告，称业界应警惕AI带来的“灭顶之灾”，对待AI应像对待流行病、核战争等重大风险一样，要将AI视为全球优先事项。

这并非全球首次兴起“AI威胁论”。早在今年3月，Skype联合创始人、Pinterest联合创始人乃至“科技狂人”马斯克等就共同发起联署声明，呼吁所有的AI实验室立即停止训练比GPT-4更先进的人工智能技术和模型，时限至少为六个月。然而，将AI对人类的威胁程度与流行病、核战争相提并论，这还是首次。可见业内人士对生成式AI发展“失速”的担忧。

人工智能的发展，会威胁到人类命运吗？

有专家向南方日报记者表示，现阶段生成式AI的综合能力，还远达不到威胁人类的地步。相反，如果妥善利用，AI反而会成为人类的最佳辅助，帮助人类大幅提高工作和生活效率。

中国社会科学院哲学研究所研究员、中国社会科学院大学哲学院教授赵汀阳也曾说，GPT尽管强大，但其惊人的知识量仍然离不开人的大量“喂食”。这也意味着，无论计算能力如何超越人类，其设计能力和智能始终只能小于或等于人类，“类似于某种速度无限逼近光速”。

再者，“GPT还没有创造性，它的艺术或文学作品虽然技术精良，但其艺术品质是平庸的。”在赵汀阳看来，人工智能的本质就是数学和逻辑，而创造性有着逻辑或数学无法表达的品质。

那么，在更长远的未来呢？目前，业界专家、学者对此众说纷纭，莫衷一是。

各国加速推进

AI监管条例落地

今年以来，为了避免AI无序发展对人类社会产生危害，意大利、美国、法国、比利时、英国、挪威等多国加速推动人工智能技术的监管条例落地。

比如，今年3月31日，意大利个人数据保护局宣布，即日起暂时禁止使用ChatGPT。随后，德国数据保护专员透露，可能会对ChatGPT加以限制；西班牙数据保护机构（AEPD）也宣称，将对ChatGPT可能造成的数据泄露问题展开初步调查。

相较之下，我国在监管与规范发展上已经走在了前列。今年4月，国家网信办就《生成式人工智能服务管理办法（征求意见稿）》征求意见，提出生成式人工智能产品或服务，应当遵守法律法规的要求，尊重社会公德、公序良俗。这是对人工智能及时监管的举措，也回应了人们对AI技术发展的担忧。

这标志着，“我国已经初步形成了一套全过程、全要素的监管方案，涉及研发、利用、算法、模型、数据、个人信息、用户、内容、提供者责任等，更加立体全面。”西南政法大学数字法治政府研究院研究员郑志峰指出。

但正如安在新媒体的创始人张耀疆所说，“任何一个技术、划时代的变革，从创新到最终变成实用性的、影响社会、可落地的普遍应用，其实都有一个过程。”面对新技术的发展，监管要“跟上”同样需要一定时间。尽管如此，面对AI潜在的风险，加强人工智能研发的道德、法律和监管框架，防范人工智能技术的滥用和误用，仍然是必行之路。

南方日报记者许隽