杞人忧天还是未雨绸缪?“ChatGPT之父”等350名大佬联名警告AI灭绝

5月31日消息,据财联社报道,超过350名人工智能(AI)领域的行业高管、专家和教授签署了一封公开信,他们在信中警告称,AI可能给人类带来灭绝风险。

这封信于周二发表在非营利组织人工智能安全中心(CAIS)的网站上,签署者包括“ChatGPT之父”Open AI首席执行官山姆·奥特曼、DeepMind首席执行官Demis Hassabis、Anthropic首席执行官Dario Amodei以及微软和谷歌的高管等。

这封信只有一段话:“减轻AI带来的灭绝风险,应该与流行病和核战争等其他社会规模的风险一起,成为全球优先事项。”

事实上,世界首富马斯克也曾对AI发表过类似的担忧。今年3月份,一个名为“生命未来研究所”的阻止发布联名信,呼吁暂停开发比GPT-4更强大的人工智能6个月,并在此期间共同制定并实施一套共享的安全协议,交由独立专家进行审计。

联名信中,包含特斯拉马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等人签名。马斯克还曾表示,对人工智能领域快速取得的进展表示担忧,呼吁政府进行监管。他还强调,“人工智能毁灭人类的可能性很小,但绝非不可能。”

不过,对待AI快速发展的态度,专业人士也展现出不同的态度,微软首席科学官埃里克·霍维茨也曾公开宣称:AI的研发应该“加速”,而不是“踩刹车”暂停,对我而言,我更希望看到更多的知识。

对此,你怎么看?AI的发展导致人类灭绝,是杞人忧天还是未雨绸缪呢?

返回顶部