作家警告亞馬遜AI偽書出現
日本作家綾辻行人警告粉絲，亞馬遜出現偽裝成其作品的電子書。他懷疑這些書是使用AI生成的。此事件凸顯AI生成欺騙性內容的風險。
Search
Tag: #ai-misuse20 results
生成式AI讓詐騙對壞人如探囊取物
新研究顯示生成式AI讓詐騙更快且更具規模化。此發展將網路犯罪轉變為全球4,000億美元問題。壞人如今能以前所未有效率進行詐騙。
記者因AI幻覺被停職
Mediahuis停職資深記者Peter Vandermeersch，他承認使用AI在文章中捏造引言。前De Telegraaf總編稱這是陷入AI「幻覺」陷阱，常見的AI錯誤。此事件涉及De Telegraaf及Irish Independent等報紙。
頭號通緝犯被擊斃，AI圍獵未成年
CJNG頭目El Mencho突襲中被擊斃，引發暴力與AI假訊息。深度偽造燃燒機場圖像在社媒散播恐慌。集團用AI聊天機器人於TikTok精準招募青年。
英國AI詐騙創紀錄44.4萬宗
英國去年詐騙案件創紀錄達44.4萬宗，由罪犯利用AI接管帳戶所推動。Cifas警告AI帶來工業級欺詐，針對行動電話、銀行及購物帳戶。AI使大規模說服性詐騙成為可能。
ChatGPT 與撒旦儀式虐待報告激增有關
英國專家指 ChatGPT 助長組織性儀式虐待揭露案增加。倖存者以此工具作為求助入口。這促使警方各單位展開正式訓練。
完美買家秀照片可能是AI假圖
AI 生成圖像正取代電商評論區的真實買家照片，以完美但不真實的描繪。不法商家利用此進行欺騙性營銷。此做法侵蝕線上購物平台的信任。
AI 圖像助長車險詐欺激增
AI 編輯車輛照片日益用於車險詐欺。Admiral 報告撞車圖像操縱、重複索賠及偽造材料激增。這推升整個保險系統成本。
老闆用AI逃避2.42億美元獎金，失敗
Krafton執行長金昌翰使用AI耍陰招，試圖規避支付《深海迷航》工作室員工最高2.42億美元獎金，因續作達成銷售目標。陰謀持續大半年最終失敗，讓他成為全球笑柄。
青少年用 AI「誹謗頁」嘲諷老師
青少年經營的 TikTok 和 Instagram「誹謗頁」帳號，使用 AI 製作將學校教師比作 Jeffrey Epstein 和 Benjamin Netanyahu 的迷因，這些頁面在學生間爆紅。此趨勢凸顯 AI 被用於騷擾的無管制問題。