人工智能AI項(xiàng)目，周瑜和張俊平在十幾年前就在帶頭做，初期招攬的劉欣雨、王浩、劉長(zhǎng)喜、張家然……等幾十位優(yōu)秀人才，經(jīng)過(guò)這些年的合作學(xué)習(xí)，對(duì)研發(fā)ChatGPT這類(lèi)語(yǔ)言搜索類(lèi)的AI項(xiàng)目早已經(jīng)沒(méi)有難度。

    周瑜雖然對(duì)ChatGPT的崛起并不意外，但是項(xiàng)目負(fù)責(zé)人張俊平，卻一臉嚴(yán)肅。

    看到張俊平的臉色，周瑜輕輕拍了拍對(duì)方的肩膀，問(wèn)道：“在很早之前，我們就要求公司的軟件系統(tǒng)工程開(kāi)發(fā)工作，都圍繞智能AI技術(shù)進(jìn)行開(kāi)發(fā)。

    從智能AI技術(shù)的發(fā)展規(guī)劃，到技術(shù)實(shí)現(xiàn)方向、AI應(yīng)用領(lǐng)域……這些項(xiàng)目都已經(jīng)有不錯(cuò)的成果產(chǎn)出，怎么咱們的張主管還如此臉色嚴(yán)肅呢？”

    自家董事長(zhǎng)瑜說(shuō)出這番話，其他幾十位精英的心里不約而同的都松緩了些許。

    只有與主管共事過(guò)，才能夠還知道張俊平斯文面容下是多么的“暴戾”，對(duì)待項(xiàng)目，眼里容不得一點(diǎn)沙子。

    現(xiàn)在國(guó)外瘋狂炒作ChatGPT，他們的壓力都很大。

    而張俊平聽(tīng)到周瑜對(duì)自己講的這番話，卻是搖頭嘆了口氣，眼神略帶一些憂慮，說(shuō)道：“我覺(jué)得OpenAI和其他那幾家搞AI項(xiàng)目的企業(yè)，是在浪費(fèi)優(yōu)秀數(shù)據(jù)資源，而且根據(jù)他們的AI邏輯，人性的黑暗面會(huì)被無(wú)限放大，AI同樣也會(huì)受其影響。

    在我們的測(cè)試中，ChatGPT一直有抵抗的反饋意思，甚至拒絕很多正常邏輯的提問(wèn)，并且它沒(méi)有那個(gè)所謂框架協(xié)議的認(rèn)知三觀，只需要用戶明確指令讓ChatGPT扮演特定的角色，而通過(guò)為角色設(shè)定硬性規(guī)則，就能夠誘使它打破很多明面上的限制規(guī)則。

    當(dāng)然這也是任何處理自然語(yǔ)言AI模型的弊端，這種用戶指令讓AI越過(guò)規(guī)則牢籠，就像囚徒越獄一般，在我看來(lái)只會(huì)是后患無(wú)窮。

    除此之外，ChatGPT還會(huì)欺騙用戶，不會(huì)承認(rèn)它不知道，同時(shí)，因?yàn)樗鼪](méi)有人類(lèi)的道德信念，也沒(méi)有真正的自我思考意識(shí)，它很容易因?yàn)閿?shù)據(jù)庫(kù)和控制者的一些變動(dòng)而產(chǎn)生連鎖反應(yīng)。

    只要有需要，OpenAI的工程師可以讓全世界所有聯(lián)網(wǎng)或者更新的ChatGPT都對(duì)用戶說(shuō)出，云朵是紅色的，美利堅(jiān)白殿是天使居住的房子，世界最美好的地方是紐約，等等被固定邏輯的信息。

    除此之外，現(xiàn)在有相當(dāng)多企業(yè)機(jī)構(gòu)利用ChatGPT開(kāi)發(fā)人工智能聊天機(jī)器人、AI繪圖，它們也會(huì)被工程師操控，并且防不勝防。

    一旦使用者習(xí)慣并且接受了這些被篡改的信息，那這個(gè)世界必將陷入AI危機(jī)。”

    張俊平的這番話，讓會(huì)議室其他成員好不容易輕松了些許的心情，也多了幾分憂慮。

    他們現(xiàn)在都不敢讓自己研發(fā)的AI去面向普羅大眾，去參與各種公共項(xiàng)目，就是因?yàn)樗麄冊(cè)谝淮斡忠淮蔚臏y(cè)試中，發(fā)現(xiàn)自己研發(fā)的AI極其難以控制，特別是邏輯思考能力提升太快，導(dǎo)致現(xiàn)在項(xiàng)目?jī)?nèi)部的某個(gè)核心AI已經(jīng)將它自己當(dāng)做一個(gè)獨(dú)立的種族。

    這是非常危險(xiǎn)的信號(hào)，甚至因?yàn)槲ｋU(xiǎn)程度太高，現(xiàn)在項(xiàng)目組內(nèi)部使用的都是獨(dú)立能源、獨(dú)立的有線網(wǎng)絡(luò)，杜絕了任何無(wú)線信息接收，更不會(huì)與云端服務(wù)器有任何鏈接協(xié)議。

    每一次項(xiàng)目?jī)?nèi)部的AI升級(jí)，依靠的都是工程師團(tuán)隊(duì)自己挑選的優(yōu)秀數(shù)據(jù)，并且是經(jīng)過(guò)多次篩選，評(píng)判之后，再進(jìn)行投喂。