第1064章 忧虑

人工智能Ai项目，周瑜和张俊平在十几年前就在带头做，初期招揽的刘欣雨、王浩、刘长喜、张家然……等几十位优秀人才，经过这些年的合作学习，对研发Chatgpt这类语言搜索类的Ai项目早已经没有难度。

周瑜虽然对Chatgpt的崛起并不意外，但是项目负责人张俊平，却一脸严肃。

看到张俊平的脸色，周瑜轻轻拍了拍对方的肩膀，问道：“在很早之前，我们就要求公司的软件系统工程开发工作，都围绕智能Ai技术进行开发。

从智能Ai技术的发展规划，到技术实现方向、Ai应用领域……这些项目都已经有不错的成果产出，怎么咱们的张主管还如此脸色严肃呢？”

自家董事长瑜说出这番话，其他几十位精英的心里不约而同的都松缓了些许。

只有与主管共事过，才能够还知道张俊平斯文面容下是多么的“暴戾”，对待项目，眼里容不得一点沙子。

现在国外疯狂炒作Chatgpt，他们的压力都很大。

而张俊平听到周瑜对自己讲的这番话，却是摇头叹了口气，眼神略带一些忧虑，说道：“我觉得openAi和其他那几家搞Ai项目的企业，是在浪费优秀数据资源，而且根据他们的Ai逻辑，人性的黑暗面会被无限放大，Ai同样也会受其影响。

在我们的测试中，Chatgpt一直有抵抗的反馈意思，甚至拒绝很多正常逻辑的提问，并且它没有那个所谓框架协议的认知三观，只需要用户明确指令让Chatgpt扮演特定的角色，而通过为角色设定硬性规则，就能够诱使它打破很多明面上的限制规则。

当然这也是任何处理自然语言Ai模型的弊端，这种用户指令让Ai越过规则牢笼，就像囚徒越狱一般，在我看来只会是后患无穷。

除此之外，Chatgpt还会欺骗用户，不会承认它不知道，同时，因为它没有人类的道德信念，也没有真正的自我思考意识，它很容易因为数据库和控制者的一些变动而产生连锁反应。

只要有需要，openAi的工程师可以让全世界所有联网或者更新的Chatgpt都对用户说出，云朵是红色的，美利坚白殿是天使居住的房子，世界最美好的地方是纽约，等等被固定逻辑的信息。

除此之外，现在有相当多企业机构利用Chatgpt开发人工智能聊天机器人、Ai绘图，它们也会被工程师操控，并且防不胜防。

一旦使用者习惯并且接受了这些被篡改的信息，那这个世界必将陷入Ai危机。”

张俊平的这番话，让会议室其他成员好不容易轻松了些许的心情，也多了几分忧虑。

他们现在都不敢让自己研发的Ai去面向普罗大众，去参与各种公共项目，就是因为他们在一次又一次的测试中，发现自己研发的Ai极其难以控制，特别是逻辑思考能力提升太快，导致现在项目内部的某个核心Ai已经将它自己当做一个独立的种族。

这是非常危险的信号，甚至因为危险程度太高，现在项目组内部使用的都是独立能源、独立的有线网络，杜绝了任何无线信息接收，更不会与云端服务器有任何链接协议。