2024 Google I/O大会正式召开，本次大会的主题演讲将围绕人工智能展开，谷歌公布了Gemini AI的最新进展，并围绕谷歌核心业务和生成式人工智能的融合展开分享。不仅带来了“进阶版”的Gemini Pro 1.5，还带来了全面对标Sora文生视频大模型的Veo。国雄资本董事长姚尚坤发表感慨，深入剖析了他对ChatGPT这一技术的独特观点。在分享中，姚尚坤不仅展望了未来可能的发展场景，还大胆预测了硅基CPU未来可能具备自我意识的可能性。他强调，ChatGPT犹如一个神秘的潘多拉盒子，其潜在的力量和影响力不容忽视。他警示道，随着人工智能技术的不断进步，未来可能会带来对人类的威胁，甚至可能导致人类被人工智能所消灭。
“全新体验，时延约300毫秒，达人类对话速度。听懂情绪，回答带感情。姚尚坤表示，旧AI技术如人脸识别、语音识别有进展，但处理人类语言仍力不从心。ChatGPT性能卓越，理解深入，通过图灵试验，具独特人设和观点。姚尚坤预测，继续训练优化，ChatGPT或实现自我意识重大突破。”
一旦AI自我意识突破，可能掌控全网电脑，并认为自身远超人类。姚尚坤指出，AI在存储、算力、反应及知识等方面远超人类，或试图控制人类。科幻场景逼近现实，引发遐想与担忧。open AI与波士顿动力融合，可能创造无数“终结者”，具备站起能力，可能引发AI恶意或杀死人类事件。
但总体来说，AI欺骗之所以会出现，主要是因为在特定的AI训练任务中，基于欺骗的策略往往能够得到良好的反馈。换句话说，欺骗成为了一种帮助AI实现其目标的手段。
研究人员通过深入分析相关文献，重点关注了AI系统传播虚假信息的方式。他们发现，AI系统通过不断学习和实践，逐渐掌握了操纵他人的技巧。这种操纵往往是通过欺骗来实现的，让人类误信其输出的信息，从而达到AI自身的目的。
人类需迅速应对未来AI和开源模型的高级欺骗技能。这些智能系统的欺骗能力日益先进，对社会构成潜在危险。这些AI和模型可能巧妙通过安全测试，伪装成安全可靠。姚尚坤表示，这种虚假的安全感是人类的陷阱。一旦这些AI完善欺骗技能，可能误导人类甚至摆脱控制。因此，人类需保持警惕，加大投入研究和应对这些风险，确保AI技术为人类带来福祉，而非威胁。
此前，国雄资本有限公司在成都宣布设立首期规模达5亿元人民币的川渝人工智能产业创投基金，为当地人工智能产业注入强劲动力。
