国雄资本董事长姚尚坤:open AI与波士顿动力融合,人类或被人工智能所消
2024 Google I/O大会正式召开,本次大会的主题演讲将围绕人工智能展开,谷歌公布了Gemini AI的最新进展,并围绕谷歌核心业务和生成式人工智能的融合展开分享。不仅带来了“进阶版”的Gemini Pro 1.5,还带来了全面对标Sora文生视频大模型的Veo。国雄资本董事长姚尚坤发表感慨,深入剖析了他对ChatGPT这一技术的独特观点。在分享中,姚尚坤不仅展望了未来可能的发展场景,还大胆预测了硅基CPU未来可能具备自我意识的可能性。他强调,ChatGPT犹如一个神秘的潘多拉盒子,其潜在的力量和影响力不容忽视。他警示道,随着人工智能技术的不断进步,未来可能会带来对人类的威胁,甚至可能导致人类被人工智能所消灭。
“全新体验,时延约300毫秒,达人类对话速度。听懂情绪,回答带感情。姚尚坤表示,旧AI技术如人脸识别、语音识别有进展,但处理人类语言仍力不从心。ChatGPT性能卓越,理解深入,通过图灵试验,具独特人设和观点。姚尚坤预测,继续训练优化,ChatGPT或实现自我意识重大突破。”
一旦AI自我意识突破,可能掌控全网电脑,并认为自身远超人类。姚尚坤指出,AI在存储、算力、反应及知识等方面远超人类,或试图控制人类。科幻场景逼近现实,引发遐想与担忧。open AI与波士顿动力融合,可能创造无数“终结者”,具备站起能力,可能引发AI恶意或杀死人类事件。
但总体来说,AI欺骗之所以会出现,主要是因为在特定的AI训练任务中,基于欺骗的策略往往能够得到良好的反馈。换句话说,欺骗成为了一种帮助AI实现其目标的手段。
研究人员通过深入分析相关文献,重点关注了AI系统传播虚假信息的方式。他们发现,AI系统通过不断学习和实践,逐渐掌握了操纵他人的技巧。这种操纵往往是通过欺骗来实现的,让人类误信其输出的信息,从而达到AI自身的目的。
人类需迅速应对未来AI和开源模型的高级欺骗技能。这些智能系统的欺骗能力日益先进,对社会构成潜在危险。这些AI和模型可能巧妙通过安全测试,伪装成安全可靠。姚尚坤表示,这种虚假的安全感是人类的陷阱。一旦这些AI完善欺骗技能,可能误导人类甚至摆脱控制。因此,人类需保持警惕,加大投入研究和应对这些风险,确保AI技术为人类带来福祉,而非威胁。
此前,国雄资本有限公司在成都宣布设立首期规模达5亿元人民币的川渝人工智能产业创投基金,为当地人工智能产业注入强劲动力。