研究指出，像GPT-4這樣的大模型，在某些情況下其回答可靠性甚至不如前一代模型GPT-3。這一發(fā)現(xiàn)引發(fā)了公眾和學(xué)術(shù)界的熱烈討論，人們開(kāi)始重新審視大型語(yǔ)言模型的發(fā)展路徑。
研究還發(fā)現(xiàn)，新模型在面對(duì)超出其能力范圍的問(wèn)題時(shí)，更傾向于給出錯(cuò)誤的答案，而不是像早期模型那樣選擇回避。這一變化可能導(dǎo)致用戶在不知情的情況下依賴錯(cuò)誤的模型輸出。
該研究還探討了人類監(jiān)督在糾正模型錯(cuò)誤中的作用。然而，結(jié)果顯示，人類監(jiān)督并不能有效解決模型的不可靠性問(wèn)題。在人類認(rèn)為困難的操作區(qū)域中，他們經(jīng)常將錯(cuò)誤的輸出視為正確，這進(jìn)一步加劇了模型的不可靠性。
為了解決這些問(wèn)題，論文提出了一些可能的解決方案，包括使用人類難度預(yù)期進(jìn)行更好的訓(xùn)練或微調(diào)模型，以及教會(huì)模型如何規(guī)避超出自身能力范圍的問(wèn)題。
這一研究為人工智能領(lǐng)域帶來(lái)了新的挑戰(zhàn)和思考，如何在模型擴(kuò)展和提升的過(guò)程中確保其可靠性，成為了未來(lái)研究的重要方向。
