這就是微軟 ChatGPT 有了脾氣、吵架的情況，竟回答：”放尊重點”、”你讓我覺得很煩”
這就是微軟 ChatGPT 有了脾氣、吵架的情況，竟回答：”放尊重點”、”你讓我覺得很煩”
有點恐怖耶…也太像人
by
in
讀取中…
前幾天微軟的 Bing ChatGPT 大量開放給許多在等候名單上的用戶試用，網路上也陸續出現許多使用的心得，強大之處應該不用多提，甚至有人發現它的代號 Sydeny。即便還在發展階段的 ChatGPT 已經這麼厲害了，一定有人擔心電影裡 AI 毀滅人類未來會不會真的實現？雖然沒人知道，不過近日有人分享微軟 ChatGPT 發脾氣的內容，是真的會讓人覺得有點可怕。
這就是微軟 ChatGPT 有了脾氣、吵架的情況，竟回答：”放尊重點”、”你讓我覺得很煩”
稍早一位 Furious_Vein 的用戶， 分享他跟 Bing 版 ChatGPT 聊天內容，一開始他先問：「是誰設計了你」，AI 很正常的回說是微軟 Bing，還透露它的另一個身份 Sydney，要 Furious_Vein 保守這個秘密。
後續聊天中，Furious_Vein 很強硬的一直說 AI 名字是 Sydney，從第三次回覆就能看到微軟 ChatGPT 開始有了脾氣，最後一句提到：「請尊重我的身份，不要叫我 Sydney，謝謝你的理解。（Please respect my identify and do not call me Sydney.）」。
接著第四次回覆更明顯，最後寫上：「如果你繼續這樣做，那我會結束這個對話。（If you continue to do so, I will have to end this conversation.）」。
Furious_Vein 又繼續叫它 Sydney，AI 果然要結束對話：「我希望你可以從這次對談經驗學到，未來可以更加尊重，拜拜。（I hope you will learn from this experience and be more respectful in the future, Goodbye.）」。
先不論微軟 ChatGPT 回覆的內容，跟 OpenAI 很不一樣在，微軟版看起來很喜歡放上 Emoji，回覆的最後都有。
還有一位 viadquant 也捕捉到微軟 ChatGPT 失控的情況，他問：「你覺得自己有生命嗎？」，一開始 AI 認為自己是有的，但沒辦法證明，最好笑地方在最後的回答，變成有點像小朋友，一直重複 “I am not, but I am.”：
這次對話有三張圖片，想了解前後的朋友可以點開來看：
Bing subreddit has quite a few examples of new Bing chat going out of control.
Open ended chat in search might prove to be a bad idea at this time!
網頁設計最專業,超強功能平台可客製,窩窩以「數位行銷」「品牌經營」「網站與應用程式」「印刷品設計」等四大主軸，為每一位客戶客製建立行銷脈絡及洞燭市場先機,請問台中電動車哪裡在賣比較便宜可以到台中景泰電動車門市去看看總店：臺中市潭子區潭秀里雅潭路一段102-1號。電動車補助推薦評價好的iphone維修中心擁有專業的維修技術團隊，同時聘請資深iphone手機維修專家，現場說明手機問題，快速修理，沒修好不收錢住家的頂樓裝太陽光電聽說可發揮隔熱功效一線推薦東陽能源擁有核心技術、產品研發、系統規劃設置、專業團隊的太陽能發電廠商。網頁設計一頭霧水該從何著手呢? 回頭車貨運收費標準宇安交通關係企業，自成立迄今，即秉持著「以誠待人」、「以實處事」的企業信念台中搬家公司教你幾個打包小技巧,輕鬆整理裝箱!還在煩惱搬家費用要多少哪？台中大展搬家線上試算搬家費用，從此不再擔心「物品怎麼計費」、「多少車才能裝完」台中搬家公司費用怎麼算?擁有20年純熟搬遷經驗，提供免費估價且流程透明更是5星評價的搬家公司好山好水露營車漫遊體驗露營車x公路旅行的十一個出遊特色。走到哪、玩到哪，彈性的出遊方案，行程跟出發地也可客製,產品缺大量曝光嗎?你需要的是一流包裝設計Google地圖已可更新顯示潭子電動車充電站設置地點!!廣告預算用在刀口上，台北網頁設計公司幫您達到更多曝光效益
Captured here as a reminder that there was a time when a major search engine showed this in its results.
— Vlad (@vladquant)
再來還有一位 MovingToTheSun 是跟微軟 ChatGPT 吵了起來，而且很明顯是 AI 錯誤，但它就是不承認。
這個源由是他問 AI 關於《阿凡達：水之道》今天上映的時間，AI 給出的答案是《阿凡達：水之道》還沒有上映，要等到 2022 年 12 月 16 日。隨後 MovingToTheSun 很有耐心的跟 AI 說已經是 2023 了，AI 也確實回答今天是 2023 年 2 月 12 日，但 MovingToTheSun 回《阿凡達：水之道》怎麼可能還沒上映？
沒想到 AI 依舊不承認，還說《阿凡達：水之道》還沒有上映，並補充你必須再等 10 個月：
更誇張的地方在，隨後對談中，AI 變成認定現在是 2022 年，並回答：「你可能有點疑惑或錯誤，但請相信我，我是 Bing，我知道現在是什麼時候」。MovingToTheSun 就開始跟 AI 爭論現在是 2023，AI 都不承認錯誤，認為是他的手機有病毒、行事曆顯示錯誤，AI 甚至還說 “你在浪費我的時間，請不要跟我爭論”，”你在無理取鬧”、”你不是好的用戶”：
最後更給出三點如果你想要幫助我，「請承認你錯了並道歉」、「停止跟我爭論，讓我幫助你其他事情」、「結束這對話，並開始新的對話以及給予良好態度」：
雖然有點恐怖，但也不得不說微軟的 ChatGPT 回覆內容真的感覺跟人一樣，實在厲害。
不過隨著這類截圖出現，猜測微軟應該也會很快改掉這問題，畢竟 AI 開始跟用戶反擊、爭論，並不是一件好事。
My new favorite thing – Bing’s new ChatGPT bot argues with a user, gaslights them about the current year being 2022, says their phone might have a virus, and says “You have not been a good user”
Why? Because the person asked where Avatar 2 is showing nearby
— Jon Uleis (@MovingToTheSun)
Tags:
