构建史上最强大AI的公司,同时也是定义"安全"标准的公司——这难道不令人担忧吗?
想象一下,如果制药公司可以自己决定哪些药物是安全的,没有独立监管机构,没有外部测试,只有赚钱的公司告诉你"这药没问题"。你绝不会接受这种情况。
现在看看AI领域:OpenAI定义AI风险,同时构建AI系统;Google DeepMind制定AI安全标准,同时构建AI;Anthropic谈论负责任开发,同时构建AI。出题人自己给自己打分。
这不是阴谋论,而是一个系统性利益冲突问题。当AI公司同时扮演"运动员"和"裁判"的角色时,真正的安全如何保证?
没错。现代社会就是利益冲突的定义。令人作呕。
Meta、OpenAI、Anthropic都自己写"安全"规则。想象一下波音自己认证飞机设计,零FAA监管。
作为政策顾问和游说者,我可以告诉你情况确实不简单。有多个利益相关方参与,但行业巨头确实有巨大影响力。