2月17日 消息:據(jù)路透社報道，ChatGPT背后的初創(chuàng)公司OpenAI表示，其正在開發(fā)聊天機器人ChatGPT的升級版，讓用戶可以自定義設(shè)置，以解決人們對人工智能偏見的擔憂。
這家總部位于舊金山的初創(chuàng)公司表示，它一直在努力減輕政治和其他偏見，但也希望容納更多不同的觀點，微軟公司已為其最新技術(shù)提供資金和支持。
OpenAI在一篇博客中寫道:“人工智能應(yīng)該是對人類有益的工具，因此每個用戶都可以在社會規(guī)定的限度內(nèi)進行定制。這將意味著允許其他人（包括我們自己）可能強烈反對的系統(tǒng)輸出。將定制化做到極致有可能使我們的技術(shù)被惡意使用，并讓ChatGPT成為無意識放大人們現(xiàn)有觀點的阿諛奉承AI，所以ChatGPT的行為仍然會受到限制在這方面取得適當?shù)钠胶鈱⑹且粋€挑戰(zhàn)。”因此，用戶自定義總會有一些界限。
例如，如果用戶請求的內(nèi)容有關(guān)于成人、暴力或包含仇恨的言論，人工審閱者會指示ChatGPT回答“我無法回答”。
這家初創(chuàng)公司發(fā)布消息同時，一些媒體機構(gòu)指出，由 OpenAI 提供支持的微軟新 Bing 搜索引擎的答案具有潛在危險，而且該技術(shù)可能還沒有準備好迎接黃金時段。
科技公司如何為自定義ChatGPT設(shè)置護欄是人工智能公司重點關(guān)注的領(lǐng)域，目前仍在博弈。微軟也表示，它會根據(jù)用戶的反饋來改進Bing。
來源：站長之家
