SetupAI基建
基建
西班牙反盜版措施導致網路連帶損害
LaLiga 為打擊非法體育串流而採取的激進措施，意外導致合法網站遭到封鎖。這凸顯了大規模內容保護中自動化 IP 封鎖系統的風險。
Bloomberg Technology · 81 天前
內容審核最新動態
規模化的自動信任與安全：分類器、深偽檢測與政策執行。
266 篇文章
模型
NSFW 內容主導了 Grok 的用戶流量
一份最新報告指出，與 NSFW 相關的查詢佔據了 Grok 平台超過一半的流量。這凸顯了用戶在使用無過濾 AI 模型時的行為趨勢。
Engadget · 86 天前
研究
Chayn 報告：科技公司在處理線上濫用同意權上表現失職
Chayn 的一份新報告指出，科技公司與當局將焦點僅放在裸露內容上是錯誤的方向。該報告呼籲在對抗線上濫用行為時，應將「同意權」列為優先考量。
BBC Technology · 90 天前
研究
TikTok 面臨 AI 生成垃圾內容日益嚴重的危機
一項新研究顯示，AI 生成的垃圾內容已成為 TikTok 的主要特徵。該平台的年輕用戶和教育類頻道正受到這些低品質自動化媒體氾濫的嚴重影響。
Digital Trends · 90 天前
商業
Ofcom 就非法煽動問題質詢 Telegram
英國監管機構 Ofcom 已聯繫 Telegram，要求其說明平台如何偵測並防止非法煽動行為。此前，有人利用該應用程式協調針對與 Keir Starmer 相關房產的縱火攻擊。
The Guardian Technology · 92 天前
應用
Telegram 向法院挑戰印度政府的臨時封鎖令
Telegram 已向德里高等法院提交請願書，要求撤銷印度政府封鎖該應用程式的命令。據報導，此封鎖與一項全國性醫學入學考試的作弊調查有關。
The Next Web (TNW) · 94 天前
圖像
分析導致 ChatGPT 生成令人不安圖像的提示詞
本文探討了導致 ChatGPT 生成令人不安或不當圖像的特定提示詞及其影響。這引發了關於 AI 安全性、防護機制以及生成式模型內容審核挑戰的關鍵問題。
BBC Technology · 95 天前
音訊
Spotify 下架 57,000 個 AI 生成的非法藥物推廣播客
在美國參議院調查後，Spotify 下架了 57,000 個推廣非法藥物的 AI 生成播客節目。該平台同時封鎖了 3,500 個與此類非法活動相關的帳號。
The Next Web (TNW) · 97 天前
應用
X 因未能審核種族歧視內容而遭批評
X 因拒絕刪除針對英國知名政治人物的種族歧視仇恨言論而面臨強烈抨擊。儘管研究人員多次舉報，該平台仍未採取行動，引發了外界對其自動化與人工審核機制有效性的擔憂。
The Guardian Technology · 97 天前
應用
Spotify 刪除 57,000 個與藥物銷售相關的偽造播客
在國會報告指出這些播客被用於推廣非法藥局網站後，Spotify 刪除了超過 57,000 集播客節目。這些偽造的播客被用來操縱搜尋排名，並將流量導向非法線上藥物市場。
Digital Trends · 98 天前
SetupAI商業
商業
白人至上主義團體被指策劃貝爾法斯特騷亂
報告指出，一個新納粹青年團體利用由 Elon Musk 等人煽動的社交媒體憤怒情緒，策劃了貝爾法斯特的反移民騷亂。這凸顯了演算法放大效應在現實世界社會動盪中的作用。
Wired · 99 天前
商業
參議員提出跨黨派 JAWBONE 法案以遏制政府審查
參議員 Cruz 與 Wyden 提出了跨黨派的 JAWBONE 法案，旨在解決政府主導的審查問題。該法案試圖為政府對數位內容審核的影響力建立更明確的界線。
Engadget · 99 天前
商業
預測市場平台針對選舉錯誤資訊採取行動
Polymarket 與 Kalshi 已要求網紅合作夥伴刪除質疑選舉結果公正性的社群媒體內容。這些平台正加強對付費合作的監管，以防止有關民主程序的錯誤資訊傳播。
Wired · 103 天前
應用
Ofcom 警告社群媒體公司需防範世界盃期間的網路霸凌
Ofcom 已向社群媒體平台發出正式警告，要求其在世界盃期間針對非法仇恨內容實施強有力的防範措施。監管機構將積極監控平台表現，以確保少數族裔球員的安全。
The Guardian Technology · 103 天前
商業
Meta AI 動態牆面臨點擊誘餌內容的品質挑戰
據報導，Meta 的 AI 驅動動態牆正面臨大量低品質、以互動為導向的內容湧入。隨著公司推動社交 AI 體驗，平台上出現了越來越多假新聞與點擊誘餌。
Digital Trends · 105 天前
SetupAI商業
商業
Meta 選舉誠信負責人 Guy Rosen 即將離職
曾負責選舉誠信工作的 Meta 資訊安全長 Guy Rosen 將於未來幾個月內離職。此次離職標誌著 Meta 安全與防護部門的重要人事變動。
Bloomberg Technology · 109 天前
SetupAI商業
商業
Meta 強化旗下社交平台青少年安全防護功能
Meta 正在實施新的安全功能，以限制青少年在 Instagram、Facebook 和 Messenger 上接觸有害內容。這些更新是在近期面臨有關兒童安全與平台責任的法律挑戰後所採取的措施。
New York Times Technology · 109 天前
應用
Instagram 限制青少年用戶接觸重複性內容
Instagram 正在針對青少年用戶實施新的內容限制，以減少他們重複接觸特定類型的貼文。這些限制主要針對與身體形象和心理健康相關的內容，旨在提升用戶安全。
Engadget · 109 天前
應用
英國擬立法禁止16歲以下未成年人在遊戲中與陌生人互動
英國政府正考慮立法，限制16歲以下未成年人在《堡壘之夜》或《我的世界》等熱門遊戲中的社交互動。此舉旨在透過規範遊戲平台的通訊功能，進一步加強對未成年人的保護。
cnBeta (Full RSS) · 110 天前
應用
番茄小說5月處置超15萬本低質書籍
番茄小說近期加強了對低質內容的治理，5月累計處置超過15萬本低質書籍。措施包括拒絕簽約低質書籍以及清理現有違規內容。
36氪 · 117 天前
商業
汽車圈黑稿的AI工業化生產現象
汽車產業正面臨組織化、AI生成的抹黑內容浪潮，這些內容利用了消費者在高額決策中的敏感心理。儘管車企頻頻勝訴，但AI降低了內容生產成本，加上平台的流量激勵機制，使得黑公關產業鏈難以根除。
虎嗅 · 122 天前
研究
文學獎得主面臨 AI 創作疑慮
一項著名短篇小說獎的獲獎作品因 AI 檢測工具與語法分析引發了對 AI 創作的質疑。目前頒獎基金會與出版商尚未對該作品的真實作者身份得出最終結論。
The Guardian Technology · 123 天前
應用
Instagram 將懲罰「非原創」貼文
Instagram 計劃懲罰「非原創」貼文，以提升動態消息品質。此舉針對「feed slop」，即淹沒使用者時間軸的低品質內容。
Engadget · 141 天前
音訊
Spotify「Verified」徽章對抗AI藝人
Spotify 將在藝人檔案中引入「Verified」徽章，以區分真人藝人與 AI 生成的藝人。平台將審核如現場演出日期和社群媒體活躍度等標準。
BBC Technology · 141 天前
音訊
Spotify 驗證徽章區分真人與 AI 藝術家
Spotify 推出「Verified by Spotify」綠色勾徽章，用於藝術家檔案確認真人真音樂，應對 AI 生成曲目大量湧入。徽章經平台審核後，將顯示於檔案及搜尋結果。
The Guardian Technology · 142 天前
商業
Meta 解僱舉報 Ray-Ban Meta 性行為承包商
Meta 解僱肯亞承包商，他們舉報透過 Ray-Ban Meta 智慧眼鏡目睹用戶性行為。公司表示這些工人未達標準。
Ars Technica AI · 142 天前
影片
Vine 重啟 App Divine 推出，禁止 AI 垃圾內容
Divine 是 Vine 短影片 App 的重啟版，已推出並嚴禁 AI 產生的「垃圾」內容。此 App 旨在復興真實的人類創作影片。
Engadget · 143 天前
商業
加州提案嚴管大科技兒童性虐平台
兩位加州民主黨議員提出法案，允許起訴社交媒體公司未偵測或移除兒童性虐素材。Maggy Krell 和 Buffy Wicks 議員指出線上剝削造成兒童深刻創傷。
The Guardian Technology · 148 天前
SetupAI圖像
圖像
AI工具引發兒童虐待影像激增
兒童安全官員需要更大預算來保護兒童免受線上虐待。易用的AI工具導致虐待影像增加。
Bloomberg Technology · 149 天前
圖像
AI 加速難以監管的兒童性虐影像氾濫
生成式 AI 正快速增加兒童性虐待影像產量。監管機構的偵測與執法努力難以應付。
Digital Trends · 149 天前