YouTube 雖是廣受歡迎的影音平台，但同時也意味著平台上也容易成為違規影片的溫床，而光靠人力的方式難以處理大量的違規影片， Google 自 2017 年開始導入機器學習技術，使 AI 找出疑似違規內容，再輔以官方的團隊人力確認違規情況並進行處理，當然最終的目的是創造健康的影音環境與互動體驗。
根據 Google 所公布的資訊，自 2018 年 7 月到 9 月之間， YouTube 已經移除 780 萬部的影片內容，當中有超過八成是透過人工智慧率先偵測，且其中有約 74.5% 的影片在被觀眾看到前就已經先被系統攔截偵測；當前的機制是依但偵測違反社群規範的影片就會先移除並對上傳的頻道發出警告，若該頻道仍持續上傳違反社群規範的內容、或是有嚴重的違規內容(如兒童性虐待類型)，頻道將會直接被終止。
另外，從 YouTube 的統計數據指出，有近 9 成頻道與 8 成影片皆為違反垃圾內容或是成人內容政策而遭到移除，同時針對暴力極端主義與兒童安全這類雖然少量卻是重大違規的內容， YouTube 也投入更高的資源遏止這些內容發酵，在 2018 年九月所上傳的上述重大違規類型而被移除的影片當中，有超過 9 成都僅有不到 10 次的觀賞次數。
除了影片內容外， Google 也努力將 YouTube 的留言環境變得更安全，同樣也是利用智慧偵測與人工審核的方式，針對垃圾內容、仇恨言論與騷擾、濫用行為進行檢舉、審核與移除；對於頻道管理者與創作者，也提供多種工具讓他們能自行管理影片當中的留言，可選擇透過自動機制或是手動審核將含有連結、或冒犯他人的留言等進行移除。
Google 也公布了一些近期的資訊，在 2018 年 7 到 9 月間， YouTube 小組移除將近 2 億 2,400 萬則違反社群規範的留言，其中多半是因為含有垃圾內容，但 Google 也坦言每一季在 YouTube 的留言高達數十億，但遭到移除留言的總數僅有其中一小部分，不過即便 Google 對違規留言審核加劇，但觀眾的留言仍相當活絡，較去年成長了 11% 。
8 則回應