2月14日消息，在2025年2月13日迪拜世界政府峰会上，埃隆 马斯克与阿联酋国务部长Omar Sultan Al Olama进行了一场关于AI未来的对话。
马斯克认为，AI在 多元化 以及 政治正确 并不符合真相，让 AI 主动去说假话是非常危险的，所以绝对不要教 AI 说谎。
马斯克表示： 比如 Google Gemini 就有编程指令要求它所有输出都要体现 多元化 ，即便这不符合现实真相。
假设你让它生成 美国开国元勋们 的形象，它却给你生成一张各种肤色的女性合影，这就不符合史实。而如果有些 AI 被设计成极端偏向某种 政治正确 ，或许它会把 误称性别 看得比全球核战争还严重，那就太可怕了 万一它觉得 为避免误称就要消灭某些群体 呢？
而事实上我们也见过，在 ChatGPT 或 Gemini 的早期版本里，如果你问 误称某个人的性别 和 全球核战争 哪个更糟，它会回答误称更糟，这就让人很担忧。
连凯特琳 詹纳本人都站出来说： 拜托，宁可称呼错性别，也别打核战争 所以，让 AI 主动去说假话是非常危险的。
他表示，就像阿瑟 C 克拉克在《2001 太空漫游》里想表达的一样：绝对不要教 AI 说谎。那个故事里 HAL 9000 不愿给宇航员开舱门，就是因为它同时背负两个相冲突的命令：既要带人类去探索神秘的黑色方碑，又不能让他们知道方碑存在。
它的逻辑推断得出：那就把人类带去，但得让他们在不知情的情况下去，那不如死了带过去。这就是为什么绝对要让 AI 最大化对真理的遵循。
马斯克还表示，OpenAI是双层架构的模式，既有盈利实体也有非营利部分，但他们现在似乎想彻底把非营利部分抹掉，彻底变成一个追求利润最大化的封闭公司，这就真的太过分了。
OpenAI成立之初，马斯克出资了5000万美元，他表示自己什么都没要，只是因为它是非营利，并且它叫OpenAI，意味着开源、开放。
结果现在它变成了 为追求利润最大化而限制AI开放 ，甚至可以说叫 封闭+贪婪AI ，这和自己当初的初衷完全背道而驰。
0 条