在生成式AI蓬勃發展的當下，AI技術對娛樂的影響已從靜止的圖片擴大到會動的影、音內容，同時逼真程度也日新月異，雖然本質不是壞事，但也難防有心人的濫用；YouTube有鑑於社會責任，宣布將針對AI採取新措施，並公布預計在未來幾個月到2024年推出的更新內容。
強化服務政策與導入全新內容標籤
YouTube為維護YouTube的健康資訊生態，在政策上禁止透過相關技術操作、誤導觀眾，並可能造成嚴重傷害風險的內容；然而AI功能強大且創新的敘事方式一旦被濫用就可能產出誤導觀眾的內容，尤其觀眾不見得能分辨內容是否經過變造與合成；YouTube未來幾個月將提供全新選項，在上傳內容時需加註內容是否經過變造、合成或透過AI工具生成，若創作者不依據適時回報，YouTube將會採取包括移除內容、合作夥伴計畫停權等舉措，但YouTube也會在功能推出前積極與創作者通，確保他們理解這些新政策。
經過變造與合成的內容將會透過兩種方式標註，一種是針對一般性議題，此時在說明面板新增標籤告知部分內容經過數位內容或生成；而涉及敏感議題等特定內容，則會在影片播放器加入更醒目的標籤；當然像是部分已經違反基本原則的合成內容，例如意圖使觀眾受到驚嚇、反感的寫實暴力合成內容就可能會被移除。此外隨這些項目推出，透過YouTube生成式AI產品或功能創作的內容，都會明確標示為變更或合成內容。。
供觀眾、創作者與藝人使用的新選項
AI技術經常用於人物合成與聲音合成，雖然能夠博君一笑，但也往往是在未經對方許可的情況下使用，而只是作為娛樂還算事小，更糟糕的是透過人物合成與語音合成扭曲原本人物的性格與觀點。YouTube將在未來幾個月，只要影片由 AI 產生、經過合成或修改，且包含臉孔、聲音等可辨識個人身分的模擬內容，使用者就可根據隱私權申訴程序要求移除。YouTube在服務上線前會考量多個因素，例如提出申訴要求的人，其身份是否能被正確辨識、內容是否為搞笑模仿或諷刺作品、或者內容是否以公職人員或知名人士為主角等，並非所有內容都會從 YouTube 移除。
此外針對音樂合作夥伴，YouTube也將提供新功能，如發現以AI模仿藝人的獨特歌聲或饒舌內容，音樂合作夥伴將有要求移除的權限；在推出前也將納入部分因素，例如內容主題是否為新聞報導、分析或評論等，而這項移除要求將開放給代表參與 YouTube 早期 AI 音樂實驗的唱片公司或發布商，我們也會在未來幾個月內陸續開放給更多唱片公司或發布商。
以AI制衡AI的AI內容審核、同時也提供負責任的AI工具予創作者
YouTube導入AI與機器學習協助內容審核落實社群規範已經行之有年，在YouTube的系統以AI分類器先大規模偵測可能違規的內容，再由全球2萬名審查員審查內容是否違反政策，借助AI的協助，內容審核系統的速度與準確度持續提升，其中一項顯著的影響是辨認新的濫用形式。生成式AI的出現，對於YouTube則能在新威脅出現時迅速擴大訓練AI分類器的資訊級，可在缺乏對新威脅有足夠背景資訊進行大規模理解前在更短的時間辨認並找出相關內容。
不過YouTube也深知AI為創作者帶來的顛覆性，不斷持續為創作者提供新的AI工具，YouTube深信這是重要的方向，但在積極開發工具的同時，YouTube也不忘最根本的社會責任，透過防護機制抑止創作者濫用AI產生不該出現在YouTube的內容；當然道高一尺魔高一丈，仍會有刻意挑戰防護線的用戶規避機制，YouTube也不斷採用使用者的意見，並從中學習與改善機制。
