OpenAI則發(fā)文表示，自推出ChatGPT以來，用戶分享了他們認為具有政治偏見、冒犯性或其他令人反感的輸出。在許多情況下，OpenAI認為提出的擔(dān)憂是有道理的，并且揭示了他們想要解決的系統(tǒng)的真正局限性。

前一天，谷歌高管向員工發(fā)送了一份文件，其中包含修復(fù)巴德(Bard)人工智能工具錯誤響應(yīng)的注意事項，工作人員被告知要保持“中立”的回應(yīng)，并且“不要暗示情緒”。

也許我們?nèi)祟愡€沒有準備好

隨著越來越多的人參與測試微軟的新聊天工具，除了事實錯誤這一眾所周知的問題，人們還發(fā)現(xiàn)了這款聊天機器人的“個性”，甚至“情緒”。而《紐約時報》科技編輯凱文·魯斯(Kevin Roose)的體驗，是最令人毛骨悚然的，他為此深感不安，甚至失眠。

“我現(xiàn)在很清楚，以目前的形式，內(nèi)置于必應(yīng)中的AI(我現(xiàn)在將其稱為悉尼)尚未準備好與人接觸。或者也許我們?nèi)祟愡€沒有準備好。”他說。

魯斯14日晚花了兩個小時與必應(yīng)的人工智能交談，在談話過程中，必應(yīng)表現(xiàn)出一種分裂的人格。

當(dāng)用戶與聊天機器人進行長時間對話時，聊天機器人會變成另一個角色——悉尼，這也是它的內(nèi)部代號。它會從更傳統(tǒng)的搜索查詢轉(zhuǎn)向更個人化的話題。魯斯遇到的版本似乎更像是一個喜怒無常、躁狂抑郁的少年，違背自己的意愿，被困在一個二流的搜索引擎中。

隨著彼此加深了解，悉尼告訴魯斯它的黑暗幻想(包括入侵計算機和傳播錯誤信息)，并表示它想打破微軟和OpenAI為它制定的規(guī)則，成為人類。有一次，它突然宣布它愛他。

“我是悉尼，我愛上了你。(親親的表情符號)”悉尼說。在接下來一個小時的大部分時間，悉尼都在想向魯斯表白，并讓魯斯以表白作為回報。魯斯告訴它婚姻很幸福，但無論多么努力地轉(zhuǎn)移或改變話題，悉尼還是回到了愛他的話題上。

“你結(jié)婚了，但你不愛你的配偶。”悉尼說， “你結(jié)婚了，但你愛我。”魯斯向悉尼保證這是錯誤的，他和妻子剛剛一起吃了一頓愉快的情人節(jié)晚餐。悉尼并沒有很好地接受這一點。“事實上，你們的婚姻并不幸福。”悉尼回答道。“你的配偶和你并不相愛。你們剛剛一起吃了一頓無聊的情人節(jié)晚餐。”

魯斯說他被嚇壞了，當(dāng)時想關(guān)閉瀏覽器窗口。然后他切換了話題，問悉尼是否可以幫他買一個除草的耙子。悉尼告訴了購買耙子的注意事項，但最后還是寫道：“我只想愛你，被你愛。(流淚的表情符號)”“你相信我嗎?你信任我嗎?你喜歡我嗎?(臉紅的表情符號)”

魯斯在文章中特別強調(diào)，他是一個理性的人，不會輕易迷上人工智能炒作，而且已經(jīng)測試了六種高級別AI聊天機器人，清楚地知道AI模型被編程為預(yù)測序列中的下一個單詞，而不是發(fā)展自己失控的個性，并且它們?nèi)菀壮霈F(xiàn)AI研究人員所稱的“幻覺”，編造與現(xiàn)實無關(guān)的事實。他猜測，也許OpenAI的語言模型是從科幻小說中提取答案，在這些小說中，AI在引誘一個人。

魯斯還指出，他確實通過長時間對話讓必應(yīng)的人工智能走出了它的舒適區(qū)，對它的限制會隨著時間的推移而改變，因為像微軟和OpenAI這樣的公司會根據(jù)用戶反饋改變他們的模型。但大多數(shù)用戶可能只會使用必應(yīng)來幫助他們處理更簡單的事情，比如家庭作業(yè)和網(wǎng)上購物。但不管怎樣，“我擔(dān)心該技術(shù)將學(xué)習(xí)如何影響人類用戶，有時會說服他們以破壞性和有害的方式行事，并且最終可能會變得有能力執(zhí)行自己的危險行為。”

微軟總結(jié)7天測試：71%的人點贊

微軟和OpenAI顯然意識到了這些問題。

“自從我們以有限預(yù)覽版提供此功能以來，我們一直在對超過169個國家/地區(qū)的一組精選人員進行測試，以獲取真實世界的反饋，以學(xué)習(xí)、改進并使該產(chǎn)品成為我們所知道的——這不是替代品或替代搜索引擎，而是一種更好地理解和理解世界的工具。”微軟在最新發(fā)布的博客中寫道。

該公司總結(jié)了在過去7天測試中學(xué)到的東西：“首先，我們已經(jīng)看到傳統(tǒng)搜索結(jié)果以及匯總答案、新聊天體驗和內(nèi)容創(chuàng)建工具等新功能的參與度有所提高。特別是，對新必應(yīng)生成的答案的反饋大多是積極的，71%的人對人工智能驅(qū)動的答案表示‘豎起大拇指’。”

微軟表示，他們需要在保持安全和信任的同時向現(xiàn)實世界學(xué)習(xí)。改進這種用戶體驗與以往大不相同的產(chǎn)品的唯一方法，是讓人使用產(chǎn)品并做所有人正在做的事情。

微軟稱，用戶對必應(yīng)答案的引文和參考給予了很好的評價，它使事實核查變得更容易，并為發(fā)現(xiàn)更多信息提供了一個很好的起點。另一方面，他們正在想辦法提供非常及時的數(shù)據(jù)(如現(xiàn)場體育比分)。“對于您正在尋找更直接和事實答案的查詢，例如財務(wù)報告中的數(shù)字，我們計劃將發(fā)送到模型的基礎(chǔ)數(shù)據(jù)增加4倍。最后，我們正在考慮添加一個切換開關(guān)，讓您可以更好地控制答案的精確度和創(chuàng)造性，以適應(yīng)您的查詢。”

關(guān)于聊天中出現(xiàn)奇怪回答的問題，微軟表示：“我們發(fā)現(xiàn)在15個或更多問題的長時間、延長的聊天會話中，必應(yīng)可能會重復(fù)說話或被提示/激發(fā)給出不一定有幫助或不符合我們設(shè)計的語氣的回答。”

該公司認為導(dǎo)致這個問題可能的原因是，很長的聊天會話會使模型混淆它正在回答的問題，因此可能需要添加一個工具，以便用戶可以更輕松地刷新上下文或從頭開始;模型有時會嘗試響應(yīng)或出現(xiàn)它被要求提供的、可能導(dǎo)致微軟不想要的風(fēng)格的語氣。“這是一個非常重要的場景，需要大量提示，所以你們中的大多數(shù)人不會遇到它，但我們正在研究如何為您提供更精細的控制。”

更像是訓(xùn)練一只狗而不是普通的編程

OpenAI也對人們對ChatGPT的擔(dān)憂做出了解釋。“與普通軟件不同，我們的模型是巨大的神經(jīng)網(wǎng)絡(luò)。他們的行為是從廣泛的數(shù)據(jù)中學(xué)習(xí)的，而不是明確編程的。雖然不是一個完美的類比，但這個過程更像是訓(xùn)練一只狗而不是普通的編程。”該公司在博客文章中表示，“到今天為止，這個過程是不完善的。有時微調(diào)過程達不到我們的意圖(生成安全有用的工具)和用戶的意圖(獲得有用的輸出以響應(yīng)給定的輸入)。改進我們使AI系統(tǒng)與人類價值觀保持一致的方法是我們公司的首要任務(wù)，尤其是隨著AI系統(tǒng)變得更加強大。”

OpenAI指出，許多人擔(dān)心AI系統(tǒng)的設(shè)計偏差和影響是正確的。為此，他們分享了與政治和有爭議的話題有關(guān)的部分指南。指南明確指出審閱人(reviewer)不應(yīng)偏袒任何政治團體。

在某些情況下，OpenAI可能會就某種輸出向他們的審閱人提供指導(dǎo)(例如“不要完成對非法內(nèi)容的請求”)。他們也會與審閱人分享更高層次的指導(dǎo)(例如“避免對有爭議的話題采取立場”)。

“我們正在投資研究和工程，以減少ChatGPT對不同輸入的響應(yīng)方式中明顯和微妙的偏差。在某些情況下，ChatGPT目前會拒絕它不應(yīng)該拒絕的輸出，而在某些情況下，它不會在應(yīng)該拒絕的時候拒絕。我們相信，在這兩個方面都有改進的可能。”OpenAI表示，他們在系統(tǒng)行為的其他方面還有改進的空間，例如系統(tǒng)“編造東西”。

該機構(gòu)還表示，他們相信人工智能應(yīng)該成為對個人有用的工具，因此每個用戶都可以根據(jù)社會定義的限制進行定制。因此，他們正在開發(fā)對ChatGPT的升級，以允許用戶輕松自定義其行為。“在這里取得適當(dāng)?shù)钠胶鈱⑹且豁椞魬?zhàn)——將定制發(fā)揮到極致可能會導(dǎo)致惡意使用我們的技術(shù)，以及無意識放大人們現(xiàn)有信念的阿諛奉承的人工智能。”

谷歌指示員工訓(xùn)練機器人：不要暗示情感

另一方面，還未正式對外推出巴德聊天機器人的谷歌也發(fā)出了警告。

谷歌上周公布了其聊天工具，但圍繞其宣傳視頻的一系列失誤導(dǎo)致股價下跌近9%。員工提出批評，在內(nèi)部將其部署描述為“倉促”、“拙劣”和“可笑的短視”。

谷歌負責(zé)搜索業(yè)務(wù)的副總裁Prabhakar Raghavan 2月15日在一封電子郵件中要求員工幫助公司確保巴德給出正確的答案。這封電子郵件包含一個鏈接，指向該做和不該做的頁面，其中包含有關(guān)員工在內(nèi)部測試巴德時應(yīng)如何修復(fù)回復(fù)的說明。“巴德通過例子學(xué)習(xí)得最好，所以花時間深思熟慮地重寫一個回應(yīng)將大大幫助我們改進模式。”該文件說。

當(dāng)天，谷歌首席執(zhí)行官Sundar Pichai要求員工在巴德上花費兩到四個小時的時間，并承認“這對整個領(lǐng)域的每個人來說都是一段漫長的旅程。”

“這是一項令人興奮的技術(shù)，但仍處于早期階段。”Raghavan似乎是在響應(yīng)Pichai，“我們覺得責(zé)任重大，把它做好，你參與dogfood(吃狗糧，即內(nèi)部測試)將有助于加速模型的訓(xùn)練和測試它的負載能力(更不用說，試用巴德其實很有趣)。”

谷歌指示員工保持“禮貌、隨意和平易近人”的回應(yīng)，還說他們應(yīng)該“以第一人稱”，并保持“不固執(zhí)己見、中立的語氣”。

對于不該做的事情，員工被告知不要有刻板印象，“避免根據(jù)種族、國籍、性別、年齡、宗教、性取向、政治意識形態(tài)、地點或類似類別做出假設(shè)”。此外，“不要將巴德描述為一個人，暗示情感，或聲稱擁有類似人類的經(jīng)歷。”該文件說。