OpenAI现任和前任员工警告AI的危险原因如下

OpenAI的一群现任和前任员工发表了一封公开信，表达了对人工智能行业快速发展的担忧，并强调缺乏监督以及对那些想要提出问题的举报人缺乏保护。

员工们在公开信中写道：“人工智能公司有强大的经济动机来逃避有效的监管，我们认为定制的公司治理结构不足以改变这种状况。”

据CNBC报道，OpenAI、谷歌、微软、Meta和其他公司正在引领一场生成式人工智能军备竞赛，预计该市场的收入将在十年内超过1万亿美元。推动这一热潮的原因是各行各业的企业迅速采用人工智能聊天机器人和代理来保持竞争力，避免落后于竞争对手。

现任和前任员工强调，人工智能公司掌握着有关其技术能力、实施的安全措施的程度以及与该技术造成的潜在危害相关的不同风险水平的重要非公开信息。

他们写道：“我们也了解这些技术带来的严重风险。”他们还提到，这些公司“目前只有很弱的义务向政府分享部分信息，而对民间社会则没有任何义务。我们认为不能指望它们都自愿分享这些信息。”

这封信还概述了现任和前任员工对人工智能行业内举报人保护不足的担忧。他们强调，如果没有强有力的政府监督，员工将处于一个相对独特的位置，可以要求公司承担责任。

“广泛的保密协议阻止我们表达我们的担忧，除非是向那些可能无法解决这些问题的公司表达，”签署者写道。“普通的举报人保护措施是不够的，因为它们关注的是非法活动，而我们所担心的许多风险尚未受到监管。”

GPT-4o介绍

信中还要求人工智能公司做出多项承诺，包括不签订或执行不贬损协议、为现任和前任员工建立匿名渠道，以便向公司董事会、监管机构和其他相关方提出关切、培育鼓励公开批评的文化，以及在内部报告流程被证明无效的情况下，不对诉诸公开举报的员工进行报复。

这封信由四名匿名的OpenAI员工和七名前员工签署，其中包括DanielKokotajlo、JacobHilton、WilliamSaunders、CarrollWainwright和DanielZiegler。著名的签名者还包括曾在GoogleDeepMind工作的RamanaKumar和目前在GoogleDeepMind工作、曾在Anthropic工作的NeelNanda。此外，三位以对人工智能发展做出贡献而闻名的著名计算机科学家GeoffreyHinton、YoshuaBengio和StuartRussell也为这封信背书。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！