谷歌近日對其生成式人工智能工具的使用政策進行了重要更新，明確放寬了在“高風險”領(lǐng)域，如醫(yī)療保健中，客戶利用這些工具進行“自動決策”的限制，但前提是需要有人工監(jiān)督。
根據(jù)谷歌周二發(fā)布的《生成式AI禁止使用政策》最新版本，客戶在特定條件下，可以使用谷歌的生成式AI技術(shù)來做出可能對個人權(quán)利產(chǎn)生重大影響的“自動化決策”。這些領(lǐng)域包括就業(yè)、住房、保險以及社會福利等。只要這些決策過程中包含某種形式的人類監(jiān)督，谷歌便允許其實施。
自動化決策在人工智能領(lǐng)域指的是AI系統(tǒng)基于數(shù)據(jù)或推斷來作出的決策。例如，AI系統(tǒng)可能會根據(jù)申請人的數(shù)據(jù)來決定是否批準貸款，或者在招聘過程中篩選求職者。
值得注意的是，谷歌此前在條款草案中曾表示，涉及生成式AI的高風險自動化決策應(yīng)全面禁止。然而，谷歌向外媒TechCrunch透露，實際上，只要有人工監(jiān)督，高風險領(lǐng)域的自動化決策從未被完全禁止。
谷歌發(fā)言人對此解釋稱：“人工監(jiān)督的要求一直存在，并且適用于所有高風險領(lǐng)域。我們只是重新分類了條款，并更清晰地列舉了一些具體例子，以便用戶更好地理解。”
監(jiān)管機構(gòu)對影響個人的自動化決策表示了關(guān)切，特別是擔心AI系統(tǒng)可能存在的潛在偏見。研究表明，用于信用和抵押貸款審批的AI系統(tǒng)可能會加劇歷史上存在的歧視問題。例如，某些AI系統(tǒng)可能會基于歷史數(shù)據(jù)，對某些群體做出不公平的貸款審批決定。
谷歌此次的政策更新，無疑是在平衡技術(shù)進步與監(jiān)管要求之間做出的努力。盡管放寬了在某些高風險領(lǐng)域使用生成式AI的限制，但谷歌依然強調(diào)了人工監(jiān)督的重要性，以確保決策過程的公正性和準確性。
