作者 / Google Play、Android 和 Chrome 信任與安全總監(jiān) Prabhat Sharma

生成式 AI 的快速發(fā)展為開發(fā)者提供了機會，讓開發(fā)者能為世界各地用戶創(chuàng)造全新、引人入勝的沉浸式應用體驗。在這個瞬息萬變的時代，我們很高興能繼續(xù)幫助開發(fā)者創(chuàng)建創(chuàng)新、優(yōu)質(zhì)的應用，同時保持用戶對 Google Play 的期待，即獲得安全可靠的體驗。我們的目標是讓 AI 惠及每個人，豐富應用生態(tài)系統(tǒng)并改善用戶體驗。

確保具有生成式 AI 功能應用的

安全性

在過去的一年中，我們擴展了審核能力，以解決具有生成式 AI 功能的應用帶來的新復雜性。我們正在新增例如大語言模型 (LLM) 等前沿技術快速分析應用提交的內(nèi)容，包括大量文本，以識別色情內(nèi)容或仇恨言論等潛在問題，并對其進行標記，以便我們的全球團隊成員仔細檢查。這種人類專業(yè)知識和增強的 AI 效率相結合，有助于我們改善開發(fā)者的應用審核體驗，并為每個人創(chuàng)造更安全的應用環(huán)境。 此外，我們還加強了 Google Play 的現(xiàn)有政策，以解決用戶和開發(fā)者的新問題和反饋，并跟上生成式 AI 等技術不斷發(fā)展的步伐。例如，我們在去年 10 月分享過，在無需離開應用的情況下，所有生成式 AI 應用必須讓用戶能夠舉報或標記冒犯性內(nèi)容。

以負責任的方式構建

具有生成式 AI 功能的應用

Google Play 的政策是長期以來一直支持著我們用戶安全工作的基礎，深深植根于 Google Play 和開發(fā)者之間的持續(xù)合作。這些政策為負責任的應用開發(fā)提供了框架，并有助于確保 Google Play 始終是值得全球信賴的平臺。由于生成式 AI 仍處于早期階段，我們收到了開發(fā)者的反饋，希望我們明確 Google Play 對具有 AI 生成內(nèi)容的應用有何要求?，F(xiàn)在，我們將回應這些反饋，并提供指導，幫助開發(fā)者提高 AI 驅(qū)動應用的質(zhì)量和安全性，避免應用提交中的潛在問題或延遲，增強用戶信任，助力Google Play 持續(xù)打造繁榮且負責任的應用生態(tài)系統(tǒng)：

Google Play 政策回顧:Google Play 的政策有助于我們提供安全和高質(zhì)量的體驗，因此，我們不允許應用采用可能對用戶有害或不當?shù)纳墒?AI 功能。請查看我們的 AI 生成內(nèi)容政策，并確保您的所有應用都符合這些要求，以避免應用被拒絕或在 Google Play 中下架。

需要注意的是，使用 AI 生成內(nèi)容的應用必須:

禁止和防止生成受限內(nèi)容。

讓用戶能夠舉報或標記冒犯性內(nèi)容。對于具有生成式 AI 功能的應用，監(jiān)控并優(yōu)先處理用戶的反饋尤為重要，因為用戶交互直接塑造了內(nèi)容和體驗。

負責任地推廣您的應用:應用推廣是拓展業(yè)務的重要途徑，以安全且尊重用戶的方式推廣應用至關重要。您最終要對您應用的營銷和廣告方式負責，因此請查看您的營銷材料，以確保您的廣告準確反映了應用的功能；并確保您的應用在所有平臺上的所有廣告和促銷內(nèi)容都符合我們的應用推廣要求。例如，將您的應用廣告用于不當用途可能會導致其從 Google Play 中被下架。

嚴格測試 AI 工具和模型:您需要對應用中的體驗負責，因此，您需要了解用于創(chuàng)建媒體的基礎 AI 工具和模型，并確保這些工具可靠，輸出結果符合 Google Play 政策并尊重用戶安全和隱私，這一點至關重要。請務必在各種用戶場景下測試您的應用，并防范用戶使用某些提示去操縱生成式 AI 功能創(chuàng)建有害或冒犯性內(nèi)容。例如，您可以使用我們的封閉式測試功能分享應用的早期版本，通過用戶反饋了解他們是否獲得了期望的生成結果。

這種徹底的理解和測試尤其適用于生成式 AI，因此我們建議您開始記錄這些測試；因為我們將來可能要求審查此記錄，以便我們更好地了解您如何保護用戶。

隨著 AI 領域的發(fā)展，我們將繼續(xù)更新我們的政策和開發(fā)者工具，以應對新出現(xiàn)的需求和復雜性。這包括在將來引入新的應用上架功能，使在 Google Play 提交生成式 AI 應用的過程更簡潔和透明。我們還將分享最佳實踐和資源，例如我們的 People + AI 指南，以支持開發(fā)者構建創(chuàng)新和負責任的應用，從而豐富全球用戶的生活。

一如既往，我們始終是您保障用戶安全的合作伙伴，并樂于接受您的反饋，以便我們可以更好地制定政策，幫助您充分利用 AI 在 Google Play 上擴展業(yè)務，為我們共同的用戶提供保障并創(chuàng)造愉悅的體驗。