📱Engadget•較早收集於 20m
Instagram 限制青少年用戶接觸重複性內容
💡了解 Meta 如何利用 AI 限制青少年接觸特定內容，這是演算法安全領域的關鍵趨勢。
⚡ 30-Second TL;DR
有什麼變化
針對青少年帳號應用新的演算法過濾機制
為什麼重要
此更新反映了業界轉向利用 AI 內容審核來保護弱勢族群的趨勢。這凸顯了社交平台在設計階段就必須納入安全功能的壓力日益增加。
下一步行動
檢視 Meta 的開源安全準則，了解如何在您自己的推薦引擎中實作類似的內容過濾邏輯。
誰應關注：Developers & AI Engineers
關鍵要點
- •針對青少年帳號應用新的演算法過濾機制
- •重點在於限制重複接觸敏感話題
- •優先保護心理健康與身體形象
🧠 深度解析
Web-grounded analysis with 37 cited sources.
🔑 增強重點摘要
- •Instagram針對18歲以下用戶的內容設定將預設遵循PG-13電影評級標準，限制青少年接觸性暗示、非圖形暴力、毒品或危險特技等內容，且未經家長許可無法更改此設定。
- •Meta正擴展其AI技術，包括AI視覺分析，以掃描照片和影片中的視覺線索來判斷用戶年齡，從而自動將疑似未成年用戶置於「青少年帳號」保護中，即使他們謊報年齡。
- •Instagram將向家長發出警報，如果青少年在短時間內重複搜尋與自殺或自殘相關的詞彙，此功能未來也將擴展到AI對話中。
- •平台將阻止青少年追蹤經常分享不當內容的帳號，若青少年已追蹤此類帳號，將無法再看到或互動其內容、發送訊息或查看其評論。
📊 競品分析▸ Show
| 功能/平台 | Instagram (Meta) | TikTok | YouTube (Google) | Snapchat |
|---|---|---|---|---|
| 內容過濾 | 預設為PG-13內容限制；限制重複接觸敏感內容（身體形象、心理健康）；隱藏與自殺、自殘、飲食失調相關的搜尋結果；阻止追蹤不當內容帳號。 | 演算法獎勵美學導向的健身內容，可能導致負面身體形象；曾被警告未能迅速加強內容政策以阻止自殘和飲食失調內容。 | YouTube Kids應用程式（13歲以下）；受監督帳戶（13歲以上）提供內容過濾；限制模式可隱藏大部分成人內容；針對Shorts提供時間限制。 | 內建明確內容過濾器適用於公開探索頁面和故事，但不適用於私人訊息；家庭中心可限制Spotlight和Stories中的敏感內容。 |
| 家長控制 | 家長可查看青少年使用時間、設定時間限制、查看追蹤帳號、接收青少年舉報內容通知；當青少年重複搜尋自殘/自殺內容時發出警報。 | 與家長影響者合作推廣安全工具。 | 家長可設定Shorts觀看時間限制（甚至設為零）；自訂就寢時間和休息提醒；家庭連結應用程式管理。 | 家庭中心可查看朋友列表、過去7天訊息對象、應用程式使用時間、限制敏感內容、禁用My AI、請求位置共享（需青少年同意）。 |
| 年齡驗證/保護 | 預設青少年帳號為私人；AI視覺分析技術用於識別和將疑似未成年用戶置於青少年帳號保護中。 | - | 估計用戶年齡並自動應用青少年保護。 | 未滿13歲用戶常謊報年齡，導致失去青少年保護。 |
| 心理健康支援 | 限制重複接觸敏感內容以保護心理健康和身體形象；隱藏與自殺、自殘、飲食失調相關的搜尋結果並導向專家資源。 | 演算法可能加劇比較心態，導致身體形象不滿和自尊心受損。 | 推出新原則和創作者指南，引導青少年觀看高品質、有益內容；加強青少年心理健康支援。 | My AI聊天機器人曾被記錄建議青少年隱藏吸毒行為和規避家長控制。 |
🛠️ 技術深入
- Instagram使用演算法來識別和限制重複性敏感內容，特別是與身體形象和心理健康相關的內容。
- 「敏感內容控制」(Sensitive Content Control) 是一項用戶可調整的隱私功能，允許用戶選擇在「探索」頁面、Reels、搜尋、建議帳號和話題標籤頁面中顯示多少潛在敏感內容。對於18歲以下的用戶，「更多」選項不可用。
- 針對青少年帳號，內容過濾機制將預設遵循類似PG-13電影評級的標準，過濾掉過度粗俗語言、危險特技、毒品描繪等內容。
- Meta正在擴展其AI技術，包括AI視覺分析，以掃描照片和影片中的視覺線索來判斷用戶年齡，從而將疑似未成年用戶自動置於青少年帳號保護中，即使他們謊報年齡。
- 平台會隱藏與自殺、自殘和飲食失調相關的搜尋結果，並將用戶導向專家資源。當青少年重複搜尋這些敏感詞彙時，會向家長發出警報。
🔮 前景展望AI analysis grounded in cited sources
社交媒體平台將面臨更嚴格的監管審查，並可能導致更統一的青少年安全標準。
隨著Meta等公司面臨訴訟和立法壓力，以及獨立評估機構的出現，行業將被迫採取更一致和可衡量的安全措施。
AI在內容審核和年齡驗證中的作用將顯著增強，以應對青少年規避安全措施的行為。
平台正投資於AI視覺分析等技術來更準確地識別未成年用戶和有害內容，這表明AI將成為未來安全策略的核心。
家長在青少年線上體驗中的參與度將持續增加，平台將提供更多工具來促進這種監督。
新的警報功能和更細緻的家長控制選項表明，平台正積極賦予家長更多權力來管理其子女的數位生活。
⏳ 時間線
2016-12
Instagram推出匿名舉報功能，針對可能存在心理健康問題的帳號，並提供資源。
2021-07
Instagram推出「敏感內容控制」工具，讓用戶選擇在探索頁面中顯示的敏感內容量。
2024-01
Instagram和Facebook開始隱藏更多不適合青少年的內容，並在搜尋結果中隱藏與自殺、自殘和飲食失調相關的內容。
2024-09
Instagram推出「青少年帳號」，為未成年用戶提供內建保護，包括預設私人帳號、訊息限制和內容過濾。
2025-10
Instagram宣布青少年帳號的內容設定將預設遵循PG-13電影評級標準，並限制青少年追蹤不當內容帳號。
2026-02
Instagram宣布將向家長發出警報，如果青少年重複搜尋與自殺或自殘相關的詞彙。
📎 來源 (37)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
- wbrz.com
- cbsnews.com
- pbs.org
- entrepreneur.com
- newsweek.com
- youtube.com
- fb.com
- inc.com
- cbsnews.com
- meta.com
- thisweekinschoolpsychology.com
- theguardian.com
- useboomerang.com
- protectyoungeyes.com
- blog.youtube
- bitdefender.com
- globaldayofunplugging.org
- techlockdown.com
- canopy.us
- kids360.app
- treatmyocd.com
- meta.com
- icanhelp.net
- keyt.com
- mspy.com
- thepublicsradio.org
- remedypsychiatry.com
- unsw.edu.au
- nih.gov
- bodewell-law.com
- carlsonattorneys.com
- idownloadblog.com
- yoursocial.team
- mashable.com
- businessinsider.com
- washingtonpost.com
- popsci.com
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Engadget ↗