為防止兒童的色情、性虐待照片影片在網路上流傳，Google 在 2018 年時推出可辨識兒童色情內容的 AI 工具，當出現沒見過的兒童性虐待照片影片後，AI 就會與已知的兒童性虐待材料（CASM）進行比對。如果 AI 判定該照片或影片為不適當的內容，Google 就會立即將照片影片下架並通報相關組織。
《紐約時報》在近日報導，舊金山的一名父親 Mark 因為拍下兒子胯下感染的照片給醫生就被認為有「兒童性虐待」的嫌疑，他的 Google 帳號也遭到 Google 停權，時至今日都尚未恢復！
▼ Google Support 上詳細說明了哪些行為將被視為兒童性虐待和剝削行為，以及 Google 會採取的行動
來源：Google 官方
事發經過
在 2021 年初時，Mark 發現他一歲左右的兒子在胯下私密處似乎有感染的症狀。然而，當時正好是 COVID-19 開始大流行的時候，不僅不方便帶孩子出門看醫生，不少診所在大流行期間甚至處於停業的狀態。因此，Mark 與醫生最後採用遠端視訊的方式來就醫，而在視訊診療前，護士請 Mark 先拍下幾張孩子感染處的照片給醫生好讓醫生能更準確的診斷孩子的病情。最後醫生透過視訊與照片確定孩子的狀況並使用抗生素治好了孩子的感染，但麻煩也同時來到的 Mark 身上。
就在拍下照片的兩天後，Mark 收到 Google 的通知，表示他的 Google 帳號「因嚴重違反 Google 政策且可能違法」而遭到停權。Google 將 Mark 拍下的照片標記為 CASM，除了將 Mark 的 Google 帳戶停權外，Google 還以此為由同時向美國國家失蹤與剝削兒童中心（NCMEC）提交了一份報告，引來了警方的調查。
在那之後，Mark 便無法透過 Google Fi（Google 旗下的虛擬電信）進入他的電子信箱、聯絡人、照片甚至使用他的電話號碼，即使舊金山警局（SFPD）在調查後確定 Mark 並未觸犯任何法律，Google 也無視了 Mark 重新申請帳號的請求。舊金山警局甚至試圖與 Mark 聯繫但卻未果，因為他們擁有的聯絡方式是 Mark 被停權的 Google Fi 電話號碼。
當然，Mark 在發現自己被停權且連電話都無法使用時就想對 Google 提告好取回他所有的數據資料，但由於此案估計得花上 US$7,000（約為 NT$210,000），Mark 認為這個價格不值得。
▼ 因為疫情嚴重的緣故，美國當時有不少診所直接停業
的圖ˋ來源：Medpage Today
受害者不只一位？
更令人訝異的是，除了 Mark 外，《紐約時報》還發現了另一名受害者在類似的時間點經歷了與 Mark 相同的遭遇，而 Google 在這名受害者證實自己並未進行任何犯罪時同樣保持沉默。
過去 Google 曾告訴《紐約時報》，他們只會在用戶對照片做出更多行為時採取行動，顯然「將照片備份到 Google 相簿裡」就包含在這些「更多行為」裡。《紐約時報》更指出，當 Google 標記這些照片為 CASM 時，依聯邦法律要求 Google 必須向 NCMEC 報告潛在犯罪者。在 2021 年，Google 就向 NCMEC 報告了 621,583 起 CSAM 案件，NCMEC 則向當局通報了 4,260 潛在受害者，其中也包含了 Mark 的兒子。
▼ Google 在官網中就有提到：「當發現兒童性虐待內容時，就會向 NCMEC 提交報告」
來源：Google 官方
總結
除了 Google 外，蘋果也在去年時推出具有偵測和回報兒童色情內容的 AI 工具，意在進一步防止兒童遭受任何不合理的對待。不過，由於 Google 和蘋果的 AI 工具會在用戶不知情的情況下掃描用戶的照片，因此不少民眾認為 Google 和蘋果的做法已經大大的侵犯了他們的隱私。除了侵犯隱私的疑慮外，這個 AI 工具也在這次的事件發生後引來了「帳號裡的數據資料全消失」的擔憂，畢竟 Google 在連警察局都確認「用戶並未犯罪」後也沒恢復受害者的 Google 帳號。
但從這次的事件中，我們也能獲得一些警示。除了勤勞備份資料外，最重要的是「不要把所有所以雞蛋都放在同個籃子裡」。使用 Google 帳號保存所有數據資料固然十分方便，但誰也不知道我們哪天會不會像 Mark 一樣莫名其妙被停權了還拿不回自己的帳號。
因此，建議大家能多透過其他途徑儲存資料，除了 Google 硬碟、iCloud 和 Dropbox 等雲端硬碟外，最傳統的隨身碟也是個極好的選擇。至少隨身碟不會像其他雲端硬碟一樣有被停權或是網站掛掉的風險，只要把隨身碟妥善收好別弄丟就行。
首圖來源：9to5Google
資料來源：紐約時報、The Verge、9to5Google、Gizmodo